硕鼠的博客站

范路的博客主站,时而会发些东西。

大家好,欢迎收听“老范讲故事”YouTube频道。今天,咱们来讲一讲:Open AI突然停止对中国服务,这是什么情况?

6月25号,很多人突然收到了Open AI的官方邮件。这个邮件怎么写的啊?上来就是:“你好!我们的数据显示,你们组织有来自Open AI目前不支持的地区的API流量。你可以在这里找到支持国家的地区列表。从7月9日开始,我们将采取额外措施,阻止来自不在我们支持的国家和地区列表上的地区的API流量。要继续使用Open AI的服务,你需要在支持的地区访问该服务。如果你有任何问题,请联系我们的帮助中心。谢谢你,Open AI团队。”

那这邮件什么意思?就是说它有一个支持列表,除了不在支持列表之外的,这些访问是不允许的啊。现在主要针对的是API,你说像我们这种Plus用户,他不管你。这主要是API,但是这里头也没有中国呀。啊对,中国——就属于不在他支持列表之内的国家。你比如说,他中国、中国香港、俄罗斯、白俄罗斯、伊朗等一大堆,这样的国家和地区是不被支持的。

但是,在所有这些国家和地区里头,访问Open AI API最多的地方必然是中国。在Open AI支持的这些国家和地区里头,访问Open AI API最多的,可能第一名是美国,第二名也是中国。因为在任何的创新创业,在互联网、移动互联网领域,中国都是一个巨大的市场。

包括人工智能领域,应该都是美国第一,我们第二的这样一个情况。那么,这里头有一点特别有意思:我们将采取额外措施,阻止来自不在我们支持的国家和地区的API流量。什么意思呢?就是当传统的问题出现时,该怎么办?封号——谁拿了我们的API,在我们不支持的地方去使用了,我们就把他账号封了。但是,他们并没有写说我们要封闭您的账号,而是说我们要采取额外措施阻止。意思就是,你的账号还是你的,你充了钱,你还能用。但是,所有这些账号里头,来自于我们不支持国家地区的访问,我们会把它拦下来。比如,我买了个账号,这个账号里头从美国来的访问,它是允许有的。我从中国跑的访问,它就不允许了;或者我从伊朗跑的这些访问,它也会把它拦截下来。它采用的,是这样的一种特殊的处理方式。

Open AI本来就不在中国服务,那他为什么还要闹这样的幺蛾子呢?原因很简单,国人是有梯子的,我们喜欢挂在梯子上去使用Open AI的服务,谁让他们家东西做得好用呢?但你说,中国有没有合法调用Open AI的服务的途径呢?其实也有。怎么合法调用呢?就是你通过微软,你说找中国微软,说我希望获得许可,在中国地区调用微软云上面的Open AI,这是可以的。也就是说,微软云已经把Open AI整合进去了,你可以通过微软云来调用Open AI的服务,这是合法的途径。

部署到中国的服务器上去了,我们可以去调用啊。而且,微软云的Openi服务,我印象里,是拿到了中国政府给的服务许可了。但是呢,它主要是ToB的。你说我现在想用这个东西,做一些ToC的服务,这个应该是不允许的。那么,这一次针对的呢,是主要是通过梯子在境外支付了以后,绕过层层阻碍,使用open AI API的这些用户啊。对于像我这样的一个月交20美金,使用GPT plus的这些用户呢,他其实是不管的。因为我们没法跟他聊太多东西,open AI觉得也无太所谓。我支付,还是通过苹果的美国账号去支付的,他也不知道我到底是谁,对吧?他不会说,通过你的里边交流的内容都是中文,判断你在中国。那我就算在美国,我也可以每天跟他讲中文啊,这个事你不能去阻碍我。如果说哎,你讲的中文,我甭管你在哪,我都把你封掉,那他会被告的。对于所有的这些大的平台企业来说,一旦被诉讼,他这个成本是很高的。所以,他的甄别一定要非常小心。那么,你说这些人是怎么被发现的呢?大家注意啊,就是我们去注册open AI的账户,其实有两种。第一种,就是像刚才我讲的plus账号,一个月交20美金,这种账号是不能使用API的。我们只能在open AI的官网上,去跟他聊天,这个没问题。或者,我使用open AI的APP。但是,如果你是使用API的,那他就会有一些甄别机制,比如说你的IP地址,比如说你的支付方式,比如说你的使用频率,这些都会被他用来判断你是不是一个正常用户。但是,对于普通的plus用户,他基本上是不会去管的。因为,他没有太多的资源去甄别每一个用户,他只能去抓那些最明显的违规行为。所以,对于我们这些普通的用户来说,只要我们不去做那些明显违规的事情,比如说大规模的爬取数据,比如说使用虚拟IP,比如说使用机器人去跟他聊天,这些他都是不允许的。但是,如果我们只是正常的使用,比如说每天跟他聊聊天,比如说用它来写写文章,比如说用它来翻译一些东西,这些他都是允许的。所以,对于我们这些普通的用户来说,我们其实是不用担心的。只要我们不去做那些违规的事情,我们就可以安心的使用。但是,对于那些使用API的用户,他们就需要小心了。因为,他们的行为更容易被甄别,更容易被封号。所以,他们就需要更加小心,更加谨慎。

在讨论iOS、安卓或Mac的APP与其聊天功能时,确实没有问题,但提及API的使用时,事情变得复杂。API,即应用程序编程接口,其工作原理基于使用TOKEN。例如,15美金可以购买100万TOKEN,以此来实现API的调用。对于这类产品,需要单独付费,而过去,为这类产品开通账号颇为麻烦,因为支付通常需要通过境外信用卡完成。境内的信用卡在进行此类支付时会直接遭到拦截,Open I就曾实施过此类拦截措施。这实际上是一个攻防的过程,即在防守的同时进行进攻,双方互为攻守。在这个过程中,总有一种说法:“道高一尺,魔高一丈”。当你筑起一道墙时,总有人会找到办法越过,就像在攻防战中,一方总是在尝试超越另一方的防御。

在涉及攻防的领域,实际上面临的是一个工程性问题。这意味着我们需在可接受的成本范围内实现目标,而不能无限制地增加成本。对于攻防而言,当成本提升到一定水平,如防御措施极其严格时,会出现“错杀”的现象。所谓的“错杀”,指的是本应为用户提供服务的人,却因防御措施过于严密而被拒绝服务,或者即便提供了服务,用户在使用前也遇到了不必要的障碍。

总之,在攻防的博弈中,寻找平衡点至关重要,既要确保安全,又要避免对正常用户造成不必要的影响。

你让人做了,比如说,十几二十次验证,让这个用户体验降得很低。这个可能性也是存在的。对于 Open I 这样的平台方来说,他一定会想:“我该服务的人啊,我要好好给你服务好。”而且,“我该给你服务的人,我一定要让你得到最简洁的服务。你不能上来以后,我让你认证个十次八次的,我再给你服务。”这事是不行的。那么,在这样的情况下,他原来对于很多的,像我们以前刚才讲的那种,叫越狱服务嘛,他算睁一只眼闭一只眼。就这些事他是知道的啊,他也知道很多中国团队在使用他们的这个服务,也知道很多中国团队使用了他们服务以后,继续再给中国地区的,或者其他的一些他们不支持地区的民众在进行服务。他们也都知道。但是呢,为了不去做刚才我们讲的叫额外措施,所有加额外措施这四个字的意思是什么?就是所有人都需要在某一个闸口上再过一次。他的整个的访问效率会下降的,他的访问的成本会上升的。就是他说:“我们未来要加这个额外措施了。原来没加上去,是因为我们觉得不划算啊,现在不行了啊,我必须要去加。”那情况是这样的一个情况。那么,为什么会在这样的一个时间点来干这件事?任何事情发生了,我们都要想。不然,6 月 25 号发这个邮件出来,那么前面发生什么事了啊?以前都好好的,怎么这个来的时候好好的回不去了呢?对吧,到底出啥事了?第一个,算力问题啊。

在WWC之后,Open AI的GPT-4将结合苹果iOS 18一同发售。现在,应该已经开始进行各种测试了。在这个过程中,Open AI自己的服务器压力已经开始上升,因为它应对的吞吐量应该是上升了一倍,直接翻番了。但是,它的服务器压力上升了30%-40%,因为随着其结构的不断优化,吞吐量上升后,服务器压力并不是呈直线上升,还是做了一些优化在里头的。但是,压力上升依然很厉害。

而且,Open AI最近传出来想去上市。为什么想去上市?缺钱了吗?他们又把这个钱烧的差不多了嘛?那么你说微软爸爸再给一点啊,这个事肯定不行。微软爸爸再给钱,就直接把公司卖了就算了。那么,怎么能够再找到一些钱呢?就上市去圈钱去。这是山毛特曼最近在搞的事情。他说,我们是不是让一些本来不该服务的人,我们把他删掉啊,这样我就可以腾出一些算力来。这个可能性是存在的,而且可能性很大。他能够把中国区的算力节省出来,以后的话,应该还是可以把Siri结合GPT-4,多出来部分算力给顶住的啊,或者说能够顶住一部分。

所以,GPT现在一定是在一个运算压力很大的时候,他要找到一些可以被裁剪掉的算力,要把它节省出来,要降本增效一下。然后,GPT还有一个问题。在接下来的部分,我们将继续探讨GPT面临的挑战和解决方案。

或者,Open AI还有一个问题,那就是前面吹牛吹太多了,对吧?大量的东西,吹过的牛没做出来。2月份说的Sora到现在没做出来,然后现在超Sora的这个项目,都已经做出一定量了啊,甭管是Runway还是都码,还叫什么啊?然后还有像快手自己做的,类似这样的纹身视频,或者图生视频的,已经做得非常好了。说你这个Sora已经不用发布了,人家都替你做了。你以为他不着急吗?他也着急啊。GPT-4虽然这个模型出来了,但是GPT-4,这种端到端的语音模型,到现在为止其实谁也没见过。它只是在谷歌I/O开始前的一天,拿出来震了个场子,把谷歌I/O的风头给抢干净了。他自己到现在为止拿不出来,原来发的时候说哎,过两个礼拜就给大家看啊,到现在已经过了挺长时间了,也没看见。现在据说是要开始邀请测试了,有些人收到了邀请信了。前面还有什么测试PPT啊,还有很多其他的,我们准备做,但是这东西又没做出来。

所以,对于Open AI来说,它们的算力分配是什么?第一个肯定是研发新模型GPT-5,现在说了,GPT-5要到明年年终的时候再出来,对吧?今年接着GPT-4,GPT-4O或者GPT-4A、GPT-4B、GPT-4C、GPT-4D,反正各种的后缀去加,就是一个模态,对吧?就是这样的一个状态了。那么GPT-5要训练,GPT-5要去对齐。

GPT5正致力于进行各类安全检测,而GPT4则专注于语音端的开发。在道端,我们仍在持续前进,不断探索视频与机器人结合的新型模型。Sora,作为视频生成模型的代表,正全力以赴,首当其冲的任务是研发,其次是为用户提供与GPT聊天的支持,以及利用GPT的多模型服务。

然而,研发与应用两大领域始终在博弈。研发领域,曾有过夸大的承诺,现需填补之前的空缺。而在应用端,中国公司已崭露头角,移动互联网时代见证了中国企业的崛起,AI时代,中国公司在AI应用领域同样表现卓越,已在全球范围内取得领先地位。中国企业在海外,能够调用Open AI的大模型,同时结合自身的大模型,共同发挥作用。这包括了角色扮演聊天,用户不再直接与GPT对话,而是先设定一个角色,如与哈利·波特、邓布利多、钢铁侠或马斯克聊天,这种设定角色的聊天方式,中国已有大量应用在海外取得成功,采用的正是群狼战术,吸引了大量用户。

综上所述,GPT5、GPT4以及Sora等模型正不断进化,中国公司在AI应用领域展现出强劲实力,海外市场的成功进一步证明了中国AI技术的全球竞争力。

“就是我们一起冲上去,看看到底能干掉谁。另外还有什么呢?就是中国大量出海的应用,其实是教育类应用啊。教培,因为大家知道国内的双减,大量做教育教培的,甭管是教师也好,还是这些做互联网、移动互联网开发的也好,一把就没事干了。再加上有AI上来以后,那咱们冲上去,咱搞呗,包括这个原题库,就是拍照搜题的这些东西,现在他们都出去了。

而且呢,他们出去了以后,还把中国的商业模式也带出去了。中国商业模式是什么?免费啊,免费完了以后我给你卖课程。我们这还有一大堆老师等着,给你教数学或者教一些其他东西。这是中国的这种APP的商业模式,它跟美国的这些肯定是不一样的。美国这个肯定是年底消费啊,而且还挺贵。因为我们就是该干嘛就干嘛,我做APP给大家拍照搜题了,或者做一些什么其他的工作啊,我就得在这件事情把这钱挣回来。而中国人说,哎,不用啊,您免费使了,使完了以后你在我这买课就行,让我不停的PUA你,让你上补习班。这是中国人的玩法,所以在这一块他们打不过咱们。

在这块里头,除了像什么猿辅导这些人出去之外,字节跳动做的类似,这样的空隙也做的非常好啊,在国外有大量的用户。这一块啊,也是他们觉得说,你们中国人到底在干嘛,又要在这一块领先了吗?所以他来封你。第三种可能呢,就是中国地区的服务啊,可能会有一些新的商业变化。”

这意味着,在中国地区,微软原先销售其Open AI服务的策略可能未达到预期效果,或是正在考虑寻找新的代理商来推动Open AI服务的销售。例如,如果苹果在其iOS 18系统中集成了GPT4O服务,那么在中国,如果能找到一家代理商成功申请到运营许可,苹果在国内也能继续提供GPT4O服务。这不仅意味着代理商可能负责打通关系,获取运营牌照,还可能涉及将GPT的所有API销售及其他商业权利一并接手。

然而,Open AI在签署代理协议时,可能会面对不许串货的要求。串货指的是,不同区域的代理商因价格差异,可能会将低价区的商品转移到高价区销售,以牟取差价。如果中国有代理商获得了Open AI的代理资格,那么为了防止串货现象,中国区的服务价格可能不会低于其他区域,甚至可能更高,以确保各区域代理商的利益。

这样,Open AI在中国寻找新代理商的决策,不仅关乎销售策略的调整,还涉及复杂的市场定价和渠道管理问题。

才会把美国的服务接口直接接上,然后在中国调用网络。他在中国服务吗?我们前面也跟一些在国内提供类似服务的厂商沟通过。他们在中国,每个 TOKEN 的价格大概是美国的两倍到三倍啊。为什么这么贵呢?因为在前面需要过滤,先过滤一下你都说了什么。然后呢,把你说的所有东西加上一个带有安全过滤机制的提示词塞进去。跑完了以后的结果出来以后呢,还需要再过滤一次有没有说什么不该说的呀。他等于自己就消耗了更多的 TOKEN。那么在这样的情况下,真正为用户服务的 TOKEN,每一个 TOKEN 的价格就会涨很多啊。这也是一个中国特色吧。所以呢,这种清理有可能是因为国内有一些新的代理商要去产生出来。那你说,这事跟地缘政治到底有关系没有啊?美国政府说了,Open AI 你不可以为中国服务。我只能说地缘政治呢算是一个借口,我可以以此为借口拒绝替你们服务。但其实呢,核心都是各种经济利益与经济诉求。我想存点省点算力了,我不希望中国的 AI 的应用跑得这么快了。或者说,我想把中国的代理权卖给别人,我要给他保护一下这个地区啊,不能闯祸了。我觉得这三种可能性会更大一些。那你说会有什么影响?第一个呢,国内落地的服务有可能会发生变化,就是有可能会有代理商出来,或者说有代理商可以大张旗鼓地出来卖了。第二个呢,才会把美国的服务接口直接接上,然后在中国调用网络。他在中国服务吗?我们前面也跟一些在国内提供类似服务的厂商沟通过。他们在中国,每个 TOKEN 的价格大概是美国的两倍到三倍啊。为什么这么贵呢?因为在前面需要过滤,先过滤一下你都说了什么。然后呢,把你说的所有东西加上一个带有安全过滤机制的提示词塞进去。跑完了以后的结果出来以后呢,还需要再过滤一次有没有说什么不该说的呀。他等于自己就消耗了更多的 TOKEN。那么在这样的情况下,真正为用户服务的 TOKEN,每一个 TOKEN 的价格就会涨很多啊。这也是一个中国特色吧。所以呢,这种清理有可能是因为国内有一些新的代理商要去产生出来。那你说,这事跟地缘政治到底有关系没有啊?美国政府说了,Open AI 你不可以为中国服务。我只能说地缘政治呢算是一个借口,我可以以此为借口拒绝替你们服务。但其实呢,核心都是各种经济利益与经济诉求。我想存点省点算力了,我不希望中国的 AI 的应用跑得这么快了。或者说,我想把中国的代理权卖给别人,我要给他保护一下这个地区啊,不能闯祸了。我觉得这三种可能性会更大一些。

那你说会有什么影响?第一个呢,国内落地的服务有可能会发生变化,就是有可能会有代理商出来,或者说有代理商可以大张旗鼓地出来卖了。第二个呢,就是大厂不用担心你,像字节跳动,其实他没什么可担心的。字节跳动是大量调用 open AI 的服务的。这甚至前面 open AI 还说,字节跳动,我要封闭你的接口,你原来在我这买的一个账号,我不给你用了。你竟拿我们的 open AI 的,拆着 PPT 去训练你自己的模型去了啊,这个太过分了。但是又怎么样呢?现在字节跳动的 code 啊等等,大量的海外应用依然在使用 open AI 或者叫 XGPT 的各种各样的服务。它就是通过微软云去使用嘛。你 open AI 不给我用,微软得给我用。对吧,我上你爹那去用去。他是这样来工作的。其他的一些大厂呢,也不用太担心。他们在美国架服务器就完了嘛,就老老实实为美国服务不就好了嘛,或者为 open i 允许的地区去服务,就可以了啊。对于他们来说啊,关系没有那么大。而且对于他们来说呢,这即使是说,我要为一些不允许的地区去服务了,也没有那么大关系啊。他可以自己在美国买新房进行跳转。这个呢其实并没有那么容易抓住了。那么一些中小厂商呢,想在国内使用啊,特别是生成大规模测试数据这帮人,他们的成本就会上升。所有的攻防啊,甭管是梯子也好,墙也好,或者其他这种禁止也好,最后都是成本的问题啊。啊,我愿意花更多的成本来翻阅这个墙,那么对方说,我到底愿不愿意付出更多的成本,把这个墙修高。这一定是如此的。

对于他们来说,就是增加成本:在美国去租服务器,或者在一些 Open AI 允许的地区去租服务器,然后在那个地方进行跳转,再自己去做一些跳转,多跳几层啊,就可以避免这种穿帮啊。这个是可以搞定的。真正在国内大批量使用 Open AI 的,其实是有两种人啊。就是真正的为中国民众服务的,实际上有两种人:第一种人是什么呢?就是有很多卖课的人,或者很多人告诉大家说:“哎,我现在有直接挂 Open AI 的,我是通过一个什么跳转,我就可以给你用了。”这种人可能这一次就很多会被封掉。然后还有一些人干嘛呢?就是在國內大批量调用 Open AI 的这个接口,生成自己所需要的训练语料。现在很多训练大模型,都是用 Open AI 生成语料,然后再拿这些语料去训练自己的模型。只要是自己生产新模型的这些公司,基本上都是这么干的。一些想为中国服务的,那就多跳转几次吧,那没什么办法。还有呢,就是一些跳转服务会更加流行起来。像我其实也是使用 Open AI 的 API 的,虽然我是 20 美金的 Plus 用户,但是这个 API 我也用啊。但我的 API 是什么呢?我没有向 Open AI 去交钱,我也没有从 Open AI 专门去申请它的 API 的这个 TOKEN 都没有。我呢,就是通过这种叫中间跳转服务去使用的。找了一下,说来我我交钱啊。他呢,在离 Open AI 机房最近的地方,我们发的所有的指令,他会打散啊,送到这些机器中的任何一台,发给 Open AI,然后再把这个数据拿回来。而那你说我要连续沟通呢,始终在这一台上来回聊就好了,他是这样来空错的一个状态。对于这种的话,Open I 其实拿他们的,呃不是特别有办法,为什么呢?你说 Open I 就不知道,也知道,但是呢,这就是一个攻防的问题。你要想把他们都封住,那你可能对于帐下的流量,就需要做更多的检测。而且这些人他就吃这个饭呢,他就会怎么着呢?他会专门研究各种的攻防方式。像我们以前也经常是被别人防守,但我们就定向突破呗。我拿个针呲扎一下,对吧,这个相对来说是要容易很多的。你说我能够把这个墙搞得更硬一些,让你针扎不进来啊,那这个成本就很高了。这块呢并不用那么担心。所以呢啊,对大部分人来说吧,这件事情呢,影响不大。这件事情真正的影响,其实是 Open AI 自己可能节省了一些算例,或者是说呃,我又符合美国要求了啊,要求不给中国使用啊,我又去符合了,意思可能也就在这里。对于真正想用的人来说,基本上无效。所有的这种强也好,所有的这种禁令也好,对于程序员来说,基本上都是形同虚设的。他能够把程序员彻底防住了,那其他人就彻底别使了。因为程序员属于在这个里面手段比较丰富的一群人吧。

大概就是这样。好,今天我们这个故事就讲到这里,感谢大家收听。请帮忙点赞,点小铃铛,参加Disco讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道啊,在这一期里面讲到的如何使用跳转,使用open AI的API,这是我们付费频道里头AI公开课里的第一讲——“AI大模型自由”。我们是以上了这种跳转的服务之后,就可以使用各种各样的AI大模型。好啊,这期就讲到这里,再见。

 

Both comments and pings are currently closed.

Comments are closed.

Close Bitnami banner
Bitnami