特朗普将AI改名SI后的监管难题

封面,正面扫描的二维印刷信息图效果;浅色底上只有两张无透视的平面文字牌:左牌“AI”以平面箭头指向右牌“SI”

懂王又玩改名了。特朗普9月29号签行政令,把AI改叫SI,超级智能;还拉着6家AI巨头签了一份自律协议,说像一部宪法。但是掀开一看,通篇是两个字:不管。

大家好,欢迎收听老范讲故事的YouTube频道。

特朗普给AI改名叫SI,又签了一份宪法,底牌还是不管。先说结论:白宫这一出,改名是行为艺术,协议没有任何约束力。说白了就一句话:你们自己自觉就好了。

懂王的核心观点一点没变:不要管,让他们去发展,商业的事情让商业去解决。作为一位商人总统,在这一点上我还是比较喜欢的。至于全世界的AI治理,中美两国不坐下来一起管,就是个笑话。咱们今天分五段来讲:第一段,那天在白宫到底是谁的局,到底发生了点什么;第二段,AI改叫SI改了什么;第三段,自律协议为什么没有约束力;第四段,欧盟真要罚钱,中国先不管,那么到底大家是怎么管AI的;第五段,为什么我说AI治理是个笑话。

白宫这场局是谁张罗的

咱们先看画面。有人问,这到底是谁召集的?是特朗普的局,还是议长约翰逊召集的,特朗普在门口拍照的时候乱入了,最后被写进去了?答案是:约翰逊张罗的局,特朗普的主场。得从半个月前开始说。9月12号,Anthropic的老板达里奥·阿莫代发了文章,说整个行业要放慢一些,给AI安全护栏留出时间来。奥特曼和马斯克都同意了。跟着特朗普在社交媒体上回:AI要毁灭人类这一套是骗局,AI唯一需要的护栏是一位强大而聪明的总统,括号里还补了一句高智商。他说的实际上是他自己,这很特朗普风格。懂王嘛,就是什么都懂的王,这次到AI,他又懂了。

议长约翰逊的态度是,国会不会急着立法,最好是公司自愿。他提了几个礼拜,要让总统和这几家AI公司的老板进一个大屋子,把门关上,好好谈一谈。9月24号定下来,29号特朗普、约翰逊跟AI老板们见面。29号中午,白宫东厅摆了一场超级智能午宴,几家AI公司的老板、黄仁勋、贝索斯都来了。黄仁勋坐特朗普右手,马斯克坐左手。吃完饭,一帮人到西翼门口见记者。约翰逊讲,这是一份原则声明,是行业自愿做的承诺。

特朗普也出来了。美国的每日野兽用的词是“突然现身”,所以好像是特朗普乱入了一样。其实他是参与的。一位女记者问AI怎么监管,出了事谁负责,他直接打断:“不是AI,是SI,我们今天正式改名了。”所以乱入只说对了一半:门口那场记者会,他确实是突然冒出来的;可是24号定下来的时候,他就在名单上,午餐他也吃了,行政令是他当天签的,协议签名页上七个名字有他一个。

另外六家是谷歌、Anthropic、Meta、OpenAI、xAI和英伟达。特朗普自己说,世界上最伟大的人物都签了,我作为总统也签了。他不是出来蹭镜头的,是真的唱主角的。那天签了两份文件:一份是改名的行政令,一份是自律协议。改名看着最热闹,其实很简单。咱们先说改名这事儿,他把AI改成SI,到底是怎么一回事?

名字换了,定义还指向原处

正视平面上下两层的术语关系图:上层“AI”字牌被“SI”字牌替换,下层“美国法典里头现有那个人工智能定义所涵盖的技术”保持原位,竖线连接新名称和原定义;旁边以细小对照字牌呈现“token”“词元”,强调口头用法与命名之间的关系,不画成法律内容已经改变

9月19号,特朗普先在社交平台上发起投票,说人工智能这几个字不准确,也很不优雅,让大家在卓越智能、极致智能和至尊智能里头挑。9月22日,他在联合国又讲,美国所有文件都改用更准确的“超级”,不用“人工”了;人工听着像假的,而AI并不是假的,现在叫SI吧。并不是假的,那为什么人工智能它像假的呢?原来我们都在讲,叫越人工越智能。什么意思?就是你需要好多好多人去标注,好多好多人去为它服务,它才能智能起来。那么现在的话——

咱们要把这个帽子扔掉,它已经超越了叫AI,super intelligence。习主席访美之后,白宫的情况说明里头也写了,说两国领导人同意用超级智能,不用人工智能。咱们外交部发言人被问到,回答是中方重视美方立场,也尊重美方的提法。就这一段回答里头,“人工智能”出现了三次,一次都没换:尊重,但是没有改口。

到了29号,行政令白纸黑字写上了:行政部门一律用“超级智能”和“SI”替代“人工智能”和“AI”,而且不再承认AI这个说法。可翻到第三节,SI指什么?指的是美国法典里头现有那个人工智能定义所涵盖的技术。名字换了,定义你还得指回原来那地方去,所以就是一个换汤不换药。

改名这事儿,咱们中国也干。今年3月份,全国科学技术名词审定委员会发布试用token的中文名定为词元,大家嘴上照样说token。到了8月初,人民网专门发评论,标题叫“用Token还是词元,事关科技话语权”。效果呢?好像也没有什么效果。名字这个东西是语言的一部分,它是跟着大家一天天沟通慢慢长出来的,大家用顺了才算数。很难靠一个行政令,或者靠一个什么呼吁,靠人民网这种东西就把它改过来。

起名字最好是在它刚出现的时候就找一个特别好的。一开始的名字如果不怎么好,也可以早点换个更有意思、更好传播的。激光就是这么来的。1964年,这东西在国内还叫光量子放大,钱学森给起了个名字叫激光,年底就定了,一直叫到今天。其实激光我记得在香港、台湾好像叫镭射。名字还是要大家叫习惯了,就会一直这么用下来。

西方特别爱用人名、地名起名字。咱们轻松一点说几个。法国大革命那会,医生吉约坦提议用机器行刑少受罪。机器不是他造的,断头台却用了他的姓。他死后家里人求政府改名,政府没理,最后是他们家自己改了姓,他们以后不再姓吉约坦了。还有直接拿人名骂人的:挪威的吉斯林二战的时候给纳粹当傀儡总理,今天英文里头“吉斯林”就是卖国贼,你的名字就是坏人。

地名也有一些。1972年,水门大厦一桩窃听案把尼克松拉下台,从此什么丑闻都叫某某门,咱们中文也学会了。中国拿人名来定义东西要少很多,有呢也多半是出自戏文,比如说陈世美。所以SI这个名字能不能活下来,看大家嘴上用不用。名字改了,定义没动,这就是一场行为艺术。

自律协议把责任交给谁

正面扫描的二维印刷信息图效果;浅色底上排四张纯平面要求卡,按原文顺序写“公司内部建监管,盯住网络、生物、化学这些风险”“内部设团队管控”“请独立的外部审计”“董事会设委员会盯着整改”

那改名说完了,再说另外一份自律协议,又签了一些什么东西?协议叫做“白宫超级智能协议:前沿SI责任共同承诺”,在这里已经是SI了。内容一共四层:公司内部建监管,盯住网络、生物、化学这些风险;内部设团队管控;请独立的外部审计;董事会设委员会盯着整改。看着挺全,可翻遍全文,谁来审计没写,什么时候做完没写,做不到罚什么也没写。最后一句是“随着时间推移,把这些步骤写进法律或法规”。随着时间推移和也许都写在里头,法律以后再说了。

特朗普自己的说法是,这几乎就像一部宪法,又说它是道德约束。记者问协议要求了哪些护栏,他说不需要,需要的是这个,指指自己的脑袋。他说他们是世界上最聪明的人。他还说正在考虑成立一个委员会,放大概10个人进去。正在考虑,大概10个人,叫什么、谁进去,都还没定下来。签了字的阿莫代在白宫门外讲得更老实一些:这项技术的风险非常真实,可我们用什么机制去应对这些风险,还在讨论。

所以这份协议,核心就一句话:你们自己自觉就好了。没有行政管理,没有必须遵守的条款,也没有一定要罚的钱。美国的自觉,签字前一天刚演示过一回。9月28号,OpenAI宣布原定10月——

发布的GPT-6.1 Astra不发了。安全负责人杰恩说,这个模型在不越界、不越权这一块没有达到标准,对自己干了什么也不总是如实交代。第二天换了个GPT-6.1 Sol发出来。枪毙了一个,换了一个阉割版,全是公司自己拍板,政府一句话也没说。美国一贯就是这么玩的:规矩定得相对模糊、相对松散,事情慢慢摆在桌面上来讨论,后面靠判例逐渐明确,甚至可以相当长一段时间就这么模糊着,这样更容易去创新。

美国、欧盟和中国怎么管

正面扫描的二维印刷信息图效果,浅色底上用三列无透视平面图卡并排展示“美国”“意大利”“中国”,只使用文字、二维边框、细线、色块和轻微橡皮泥纸面纹理;美国卡明确写“老范评论:规矩定得相对模糊”

协议签的那个上午,特朗普在另一场发布会上说,一项比工业革命还大的技术,我永远不会扼杀它的成长。美国这一套说到底就是不管。那么其他国家是怎么来管的呢?全世界使劲折腾这件事的,除了美国还有两拨。一拨是欧盟,加上跟它差不多的澳大利亚、新西兰、日本。大部分AI、大部分互联网都不是他们自己做的,所以他们更多是靠法律去管别人:你到我市场上来攻城略地,得遵守我的规矩。规矩严,执行也严,真罚钱。

2024年12月,意大利就因为ChatGPT处理个人数据违规罚了1,500万欧元。规矩严,执行也认真,结果就是没有创新。道理很简单,创新的东西一定是不符合现行规矩的。另外一拨是中国。中国的规矩其实比欧盟还严,是所有规矩里最严的:面向公众的生成式AI服务都需要备案,截至今年6月,备案了有988款。但是咱们这儿有个说法,叫做“普遍违法,选择执法”,执法过程中弹性巨大。

所以中美两国都会快速创新。美国是规矩模糊,边摸索边走;中国是规矩虽然很严,可是钻漏洞的决心非常巨大,在这上头咱们从来都是不遗余力的。中国创新前面有一些不可逾越的东西,大家还是要小心对待,具体是什么咱就不说了。但是很多定了规矩的东西,在各个公司里边形同虚设。最简单的一件事情:哪个公司不用Claude Code?哪个公司不用Codex?都要用的呀。

可Anthropic从9月起就不卖给中资控股的公司了,OpenAI从2024年7月就给中国大陆的接口封了。那你是怎么用上的呢?不可说,不可说。所以中国的创新大方向上可能稍微欠缺一点,但是所有细节、绣花这一块,我们会比美国跑得更快。

中国公司在规则之外先跑,最后一刀切的故事太多了,比如P2P贷款、网约车、短租、O2O、直播电商。规矩要么没定清楚,要么就是已经定了,你这事上来就是违法的。但是一开始他并不太管这个事,到后面如果出现了一些天怒人怨的事情,或者用官方的话来说,叫做社会影响极其恶劣的事情,那么就会迎来一刀切。比如P2P就是最狠的,挨了一刀。银保监会2020年11月公布,全国实际运营的P2P网贷机构高峰时期大约是5,000家,到了11月中完全归零。

这个是中国人玩的事情。还有一个特别好玩的东西就是小蓝灯。2022年,理想L9先装上了,辅助驾驶一开,车外有一盏小蓝灯会亮起来,提醒周围的车小心点。小鹏、小米、问界、蔚来都跟上了,算是约定俗成。今年7月,工信部叫停,新申报的乘用车不许再装。民用车外灯就那几种颜色,蓝色留给警车,国标正在修订,以后亮不亮、亮什么,国家来定,你是不能定这事的。

这就是中国的玩法:你们先玩着,就算是有规定说不允许,也可以先玩着;政府先不管你,只要别出大事。走到某个时间点,发现管不住了,或者出了天怒人怨的事情,有可能会出新规,像小蓝灯这就准备出新规;还有可能就一刀切,全都不许干了。所以在中国,在底下像贼一样创新,属于一个常态。

好多事情大家都知道是不能干的,但还是干了。再加上巨大的生存压力,很多小的创新,我们会更积极地往前跑。没有压力,谁创新去?一定是有巨大的生存压力才会有创新,至少这些小创新这块是这么做的。至于大创新,那些真正的革命性创新,就是很多人喜欢讲的从0到1的这种创新,可能真的需要在没有压力的环境下,好好地、耐心地研究一段时间才会有。至于各种小创新、微创新,我觉得中国这套方法会更有效一些。

中美不坐下来,治理就成了笑话

正面扫描的二维印刷信息图效果,浅色底上只有两张左右并列、无透视的平面归属语录卡:左卡写“特朗普说:美国领先中国至少一年,也许一年半”,右卡写“Anthropic的报告说:网络攻击这一块差4个月”;两卡中间只放一个封闭门的二维线条符号,底部横排一张作者观点卡写“老范判断:中美两国不坐下来一起治理就是白治”

那中美两国能不能坐下来一起管呢?坐不下来。所以我说真正的AI治理就是个笑话,中美两国不坐下来一起治理就是白治,没有任何意义。9月23号到25号,习主席到美国国事访问,聊完以后,两边同意11月开新一轮的AI对话,再建一个出事能互相通气的渠道。可在那个层次上,大家也就是打个招呼,具体怎么办,根本没法办。

特朗普自己说得非常明白:我什么都不想做,因为我们领先,我为什么要做呢?他还说美国领先中国至少一年,也许一年半。上面是这个态度,下面人更不可能坐下来商量。就是签自律协议的同一天,Anthropic发报告点名了智谱的GLM-5.3,独立写出完整的漏洞利用,410次里边成了50次;Anthropic自己家最强的是56次。网络安全这一块落后美国前沿只剩下4个月了,而且谁都能下载,那东西是开源的。

他们自己拆掉它的安全护栏,只需要大概4,400美元的算力。GLM-5.3是有安全护栏的,但是你开源了嘛,就像咱们讲游戏上了Steam,主角到底穿什么衣服,你说了就不算了。所以一旦开源,把安全护栏拆下来还是非常容易的。上面是这么个态度,下边人更不可能坐下来商量。特朗普说领先一年到一年半,Anthropic的报告说网络攻击这一块差4个月。中间这道门一关,两边分头发展,最后在控制AI这件事情上一定是一地鸡毛。

美国想控制AI,唯一的前提是它比中国领先非常多,而中国永远追不上,这个时候它才可以去控制AI。当它也有生存压力的时候,当中国随时可能追上去的时候,或者是只差几个月的时候,你让它控制?别开玩笑了,它也不敢。哪敢把领先的位置交给中国呀?而中国更不可能对这一块做任何的控制。

我记得以前看《圣斗士星矢》漫画的时候,有一个说法:圣斗士是一种什么样的战士呢?是一种高攻低防的战士,攻击非常高,防御非常差,你自己的攻击砸在自己身上,随时就会挂掉。AI现在其实也是这么个状态:攻击力很强,防御力极差。现在的防御都是针对传统手段的,AI这些新的攻击手段压根就没有应对方法。所以大家只能默默地去试,出了事再打补丁,哪次补不上了再说,谁也没有办法让它真的停下来。

中国的AI,你让它去做网络攻击、去做攻防,没什么问题,差4个月;总体智能一定会比美国目前的还差一些,差半年或者更长。在这块,我可能要比普遍的观点稍微再悲观一些,就是还是美国领先的。但是每一个具体的细节上,中国AI一点都不差,甚至可能会更强。为什么?因为AI要干活,很多时候需要有人配合着干。

当大量受过高等教育、在互联网大厂里头摸爬滚打、身上有巨大生存压力的人,拿着这些AI去做事情的时候,这可能会造成更大的风险和危害。所以这件事情上谁也不敢管。最后总结一下:改名,名字换了,定义没动;协议没有约束力,靠的是自觉。这一出行为艺术,喜闻乐见,咱们看个热闹,开心一下就行了。特朗普的核心观点一点没变:不要管商业的事情,让商业去解决。美国继续领先是特朗普唯一关心的事情。至于美国AI到底能领先到哪一天,咱们可以拭目以待。

好,这就是今天的故事。感谢大家收听,请帮忙点赞、点小铃铛、参加Discord讨论群,也欢迎有兴趣有能力的朋友加入我们的付费频道。

再见。


背景图片