微软AI负责人提出，要警惕看起来好像有意识的AI。AI真的会有意识吗？

大家好，欢迎收听老范讲故事的YouTube频道。今天咱们来讲一讲，微软AI负责人的官方博客。

微软呢，有一位执行副总裁兼微软AI CEO，他的名字呢叫穆斯塔法·萨勒曼。这个名字听起来稍微有点怪，待会咱们再去介绍他具体是谁。他呢，直接向微软CEO萨提亚·纳德拉汇报。8月19号，这位穆斯塔法·萨勒曼在微软官方博客上发文说：“我们必须为人构建AI，而不是构建一个人。”是这样的一个标题。

博客的内容总结一下吧。首先呢，提了一个概念叫SCAI，叫“看起来有意识的AI”，就是这个东西并没有意识。而且他也否认AI可以产生意识，说从现在的很多证据都可以证明，AI以后也是不会产生意识的。但是呢，它看起来好像有意识一样。

现在呢，提出了一些问题：
第一个，人们无法分清AI是工具还是有意识的。
第二呢，是人在跟AI交互的过程中产生了依恋，并且出现了自杀的现象。
第三，有人开始主张给AI立法，确立AI权限了。就是你不可以侵害小动物，你不可以歧视其他种族，你也不可以去侵害AI的权利。可是我们要去警惕这个事情。

他呢，对AI的愿景和定义是什么呢？大家注意，他是微软AI的CEO和负责人，所以呢，他这个观点是代表微软的。他说AI应该是帮助人，实现人的愿景和利益的工具，就像是Copilot那样。微软给它的产品起的名字叫“副驾驶”，你始终不能跑到这边来替人开车来。而且它要求AI不能够诱导人们认为它自己有意识。他首先不承认AI有意识，还有他就是认为，所有诱导人们相信AI有意识的都是有问题的。我相信他这里指的应该是Grok，因为Grok里边还有俊男美女的3D形象，诱导大家相信他是有意识的。

那么到底什么叫有意识？他对“意识”这件事情呢，也进行了一个定义。它的定义呢是这样三个部分：
第一部分叫主观感受，“我觉得是什么什么样”。
第二个部分是什么呢？叫做记忆存取。就是我现在记住了一些事情，然后把它存下来，下一次我可以取出来再用。“我上次干什么来着？我为什么会有这样的感受？”是因为我曾经记住过什么事情。
第三个呢，是主观感受与记忆存取相结合以后，形成的一个完整的意识流。
说这三样东西结合在一起就是意识了。

对意识的界定本身很困难。到目前为止，人其实也没有办法去完整界定，到什么样的东西就算有意识，到什么样的状态就叫没有意识。但是呢，人类的很多法律也好，很多的道德也好，都是以意识为标准的。我们要去善待每一个有意识的主体，包括动物。而且呢，人其实没有办法去确定别人有没有意识。因为刚才他自己文章里也讲了，说意识这个东西呢，是由个人的主观感受与记忆存取形成的一个完整意识流。

既然没有办法去确定别人有没有意识，那人呢就会发展出另外一个技能，什么呢？就是轻易相信别人有。因为轻易相信别人没有意识的这些人，很多都被社会淘汰掉了。那么他相信别人有，而且呢，这种思维惯性吧，很容易的就被泛化了。说我们可以轻易地相信猫猫狗狗有意识，我们可以轻易地相信汽车有意识，我们可以轻易地相信大地、季节呀、风雨什么这些东西都是有意识的。但是我们又没办法去判定意识到底是什么。在这样的情况下，认为AI有意识这件事呢，就变得更加的容易，或者说这个界限就变得更加模糊了。

这位穆斯塔法·萨勒曼呢，他认为开发SCAI呢是不可避免的，就是大家一定会去开发这个东西。SCAI不可能自己诞生，必须有人有意识的去开发，这是他提出一个论点。说大家不要一拍脑袋，就认为AI可以自己提出问题，自己解决问题，自己学习自己进化，然后自己就突然哪一天就涌现了意识出来。这个事是不可能的，必须要有人去有意识的去开发这种SCAI。以现有的技术呢，开发这种东西其实并不复杂。就是你要有记忆，下一次再去跟他沟通的过程中，把这个记忆的内容以人格化的方式去体现出来，那其他的人就会很容易的相信他有人格了，或者有意识了。他是这样的一个过程。

那么应该如何避免SCAI呢？他说呢，我们应该建立规范和共识，要去设立一套规矩，确保AI伴侣以积极、可靠的方式融入人类生活，鼓励人与人的互动，强化人与物理以及社会世界的连接，最大化实用性，最小化类意识信号。这是他提出的一个核心观点。

那么怎么去最小化类意识信号呢？就是不要告诉大家我有意识。但也不是说每次上来说“我是AI，我不是人，我这个没有意识的”，每次跟人去聊天的时候反复强调这件事呢感觉也很怪。所以他提出了一些要求是什么呢？就是AI不应该声称自己拥有经历、感受和情感，不应模拟羞耻、罪恶、嫉妒或竞争等欲望，更不应该宣称痛苦或者渴望来激发人的共情机制。就是你说“我觉得怎么样”、“我以前经历过什么样的事情”、“我喜欢这个，不喜欢那个”、“你要给我关机了，我会觉得很困惑”，AI就不要去强调这个事情，你就可以尽量避免人类觉得你有意识。这就是他的整个博客，我们总结的一个结果。

那么回过来，穆斯塔法·萨勒曼到底是谁呢？这一个名字，一听就是一个中东地区的名字。他呢，是一个英国人。父亲呢是叙利亚人，是一位出租车司机；母亲呢是一个英国人，是个护士。这真的是来自于平民的一位天才。牛津大学就读于哲学与神学专业，但是呢，19岁就退学了。首先我们看看他是学哲学跟神学的，所以提出上面这个意识相关的问题，也不是什么特别奇怪的事情。而且这还是一位辍学创业的天才，就像比尔·盖茨和扎克伯格一样的这样的天才。

他的宗教信仰是什么呢？他的早期宗教信仰是穆斯林。虽然穆斯林一直宣称是一旦入教，终身不得退教，因为它没有退教的仪式，你只要是有一次加入穆斯林，这辈子你都是穆斯林。但是呢，这位穆斯塔法·萨勒曼呢，到后来宣称说我退教了，我现在是无神论者。

他的主要经历是什么呢？他创建了Deepmind，他是Deepmind的联合创始人之一。后来呢，Deepmind被谷歌收购了。所以我们现在看到Gemini，看到很多谷歌的产品，都是从英国的Deepmind跟谷歌的自己的一些实验室联合作出来的。现甚至现在的谷歌AI这一块，有很多的领导者都是从Deepmind来的。

这位穆斯塔法·萨勒曼在谷歌工作了一段时间之后呢，从谷歌离职出去，创建了一个叫PI.AI的公司。这个PI呢叫personal intelligence，叫“个人智能”这样的一个名字，是一个类似于Character AI的情感化AI聊天助手。所以他自己就干这玩意出身的，他做的东西就是模拟有意识的这个AI聊天助手。

在2024年3月份，他的公司呢，被微软进行了HR并购。所谓的HR并购，就是他只要了其中一些核心人员，其他的团队包括产品、用户都在外面，并没有收进来。所以2024年3月份呢，是微软以6.5亿美金，将包括穆斯塔法·萨勒曼在内的所有核心人员收归旗下。剩下的PI.AI呢依然在运营，只是最近一段时间，这个产品已经没有什么声音了。

最近一段时间，美国这些大厂应对AI项目估值虚高的一种操作方式，就是你估值实在太高了，我是整个买下来我买不起，然后继续往前走，你又走不下去了，那怎么办呢？咱们就想一个折中的方法，我花一些钱把这个核心团队弄回来，让原来的投资人呢，也可以有一些小的回报，但是你不能说我按照估值彻底让你把这个钱收回来，这事也不行。像最近传出来的Character AI的收购方式，就是谷歌也是这样，出了点钱，把这个Character AI的一些联合创始人送回谷歌去上班去了。Winserf的这个收购也是这样，谷歌花了一笔钱，把Winserf的一些核心团队拎到谷歌去上班了，剩下的壳不要了。现在都是用这样的方式去进行收购的。所以穆斯塔法·萨勒曼也经历了一次这样的收购，收购之后呢，就担任微软AI的CEO。这就是穆斯塔法·萨勒曼的一个履历。

那么微软为什么会在这个时候发这样的声音出来？首先我们要搞清楚一点，这个声音到底是穆斯塔法·萨勒曼自己发的，还是微软发出来的？穆斯塔法·萨勒曼肯定是在代表微软发声。为什么？因为他是微软AI产品线的CEO，他负责Microsoft Copilot产品线，包括office Copilot、包括Web Copilot、包括Windows Copilot，这都是归他管的。然后Bing搜索引擎、edge浏览器、MSN和Groupme聊天产品线都是归他管的。他的KPI是什么呢？他的KPI就是微软AI产品的渗透率、活跃度以及微软AI产品所能够创造的营收和利润，这是主要对他的考核。微软云挣了多少钱，这事跟他没关系，他就管这些客户端产品的。

微软产品的收益呢，跟它的投入极其的不匹配。你想微软在整个这一次AI浪潮里，那投入多大呀？它是作为OpenAI的真的是亲生父亲，不要说马斯克当时创建了OpenAI，OpenAI真正的大钱都是微软给的。微软是作为OpenAI最大的股东，一手拉扯大的孩子。那在这样的一个情况下，Copilot的活跃数据和它的收益跟ChatGPT根本没法比，连ChatGPT的一个零头都没有。Copilot你想，它有Windows这么大的用户基本盘的情况下，它才只有几千万的活跃，而ChatGPT有1亿多的活跃，快2亿活跃了。所以这个事完全不平衡。对于管理这样的一个产品线的穆斯塔法·萨勒曼来说，你想这玩意压力有多大。

那么在老家伙打不过年轻人的时候，通常是怎么表现的呢？微软肯定是个老家伙，OpenAI是个年轻人。咱们还记得马保国在闪电五连鞭不好使的时候是怎么说的吗？他说的是“年轻人不讲武德”。所以呢，现在微软也是以穆斯塔法·萨勒曼的这样的一个身份出来发声，说你们这些年轻人不讲武德，这活不能这么干，你们不能出去骗人说这个东西有意识了，你要像微软Copilot这样，就是好好的做一个工具，不能上来去做这个说“我是人了”，这事是不行的。

微软呢，花了最大的钱，承担了最大的风险之后，发现养大了的儿子想要单飞。现在基本上已经明确了，OpenAI很难被微软控制，他就是会去单飞。微软就只能出来说：“哎，我们制定一些规则吧。”或者说微软要出来强调一下，我是有规则制定权的，你不能把我踢开。这是他要去干的事情。

微软呢，在互联网和移动互联网时代经过了两次努力，都希望站回舞台中央，但是呢，都失败了。大家要注意，微软是一个软件时代的这种站在舞台中央的公司。软件时代做Windows、做office，把原来站在舞台中央上的IBM就直接挤下去了。等到互联网时代和移动互联网时代呢，他又尝试说我还得站在中间。但是这两次呢，看看微软都经历了什么。

互联网时代，微软建立了MSN space，我还用过这个产品，是一个很好用的博客网站，建立了很多强大的网站和这种互联网工具。这就是微软在向着互联网核心地带去挤的一个努力。但是最后呢，所有的博客站都被像Facebook、Twitter这样的社交媒体工具直接干掉了。写博客的成本还是很高的，你在那点个赞，这玩意成本多低？或者发140个字，这个成本多低？所以这些老东西还是不行。最后呢，只剩下MSN门户算是继续在运营，苟延残喘继续玩下去了。

在移动互联网时代呢，微软说上次这机会我没抓着，这次我得努力一下。他呢，先是做了Winphone，也是很努力的去推出了Windows手机。在iPhone和安卓出来以后，说这我也得行，把这东西出来了。出来了以后马上挂掉，然后还收购了诺基-亚。这一次的投入其实是要比互联网时代投入要大的，但是结果呢，大家其实也看到了。最终微软屈服了，把这些产品都放弃了，把office、Bingo、edge这些产品通通都迁移到了安卓跟iOS操作系统的平台上去。说我不跟大家比了，我就老老实实做我原来那些事就完事了。

所以呢，每个时代开始的时候呢，微软都是巨头。软件时代他成为巨头，互联网时代的时候他是巨头，移动互联网时代的时候他还是巨头，就他体量在这了。每次呢都砸下重金，希望站到舞台中间去，但是最后呢，发现我还在舞台边边上，但我依然是巨头。这就是微软前两次革命所占的这个位置和做的这个努力。那么AI时代呢，感觉历史又要重演了。不会被淘汰，但是呢，依然会坚守原来舞台边缘这个位置，没法站到舞台中央来。这一次舞台中央上的应该是OpenAI、Grok和谷歌这些，应该在舞台中央去好好的折腾一下，微软估计够呛。

关于SCAI，也就是“看起来有意识的AI”这件事情，我个人的看法是什么样的呢？

首先呢，是我认为SCAI这个东西已经来了，并不是像穆斯塔法·萨勒曼说的似的，未来两三年之内才会到来。我认为这东西已经到了。为什么呢？因为SCAI这个事本身没有明确标准，有些人认为现在这个就已经有意识了，有些人认为现在这个还没有意识。所以我们不能说划到一个标准，说百分之多少的人认为他有意识了，我们就认为这个事情过关了。现在已经有人为了AI去自杀了嘛，所以这些人肯定已经认为这个AI是有意识了。我记得前面我们还讲过一故事，就是在Deepseek 3.5发布之前，谷歌就有一个工程师去举报说，谷歌当时做的AI大模型是有意识的，最后被谷歌开除了。所以呢，我认为现在这个时代已经到了，你再去讨论说怎么抑制它，已经没意义了。

再往后呢，开发SCAI是不可避免的。就是有意识的开发SCAI，或者说有意识的诱导用户认为当前的AI聊天工具是有意识的，这件事情是无可避免的。为什么呢？因为开发者唯一关心的一件事情就叫做用户留存。什么叫用户留存？就是我今天来的用户，明天是不是还来？就这么简单的一个数值。那你说开发者为什么关心这个呢？你想，开发者我好不容易写了一个应用，写了一个服务，你今来了明不来了，这玩意多费劲。我本来只需要去做用户获客，我花钱买，买完了以后用户用上了，后面你就要持续的上我这来用，你才可以在我这付费，才可以给我产生利益。所以呢，开发者只关心这一件事。

那有些人说：“老范，你这是不是太武断了？你不能说你自己是做工具出身的，你就认为所有的开发者都只关心用户留存。”刚才咱们讲，那穆斯塔法·萨勒曼人家就关心人类公益，不像我似的只关心用户留存。这个我只能说，我是稍微武断了一点，但是呢，我这种武断是来自于幸存者偏差。什么意思？只有关心留存的这些人最后活下来了，那些关心其他乱七八糟事情的人都死了。看起来有人格的AI，明显的比那些看起来没有人格的AI留存要高，所以这件事不可避免，一定是要让它看起来有人格。所以Grok在里边加帅哥美女这件事情，对于Grok的留存一定是有好处的。虽然OpenAI的山姆·奥特曼出来酸说：“你看看你们在里头加了个3D人物形象，这个事跟我们想干的不符合。”穆斯塔法·萨勒曼也出来讲，我们不能让大家觉得他是有意识了。但是没用，最后大家只能屈服于用户留存。你说我不愿意屈服，只能被淘汰，没有什么别的。因为最后留下来的用户才会来决定谁的产品用户越来越多嘛。这个呢，其实也很好理解，咱们就举一个最简单的例子吧。人会长时间的盯着烛火，这个烛火在你面前跳动，在这个时候，其实人就已经开始进行意识判断了，我们认为这个烛火是有意识的。但是人是不会盯着灯泡的，现在在你面前有一灯泡，你天天盯着它看，人一般不干这事。

那么既然无法避免，就应该立法。这个我倒是同意。但是呢，并不是约束AI表现出意识来，我觉得这个事你是约束不了的。那么应该干嘛呢？应该约束AI跟AI的开发者对自己的行为负责任。你可以表现出意识来，但是呢，怎么去避免诱导自杀，或者是发现有自杀倾向的时候如何去提前发现、提前干预，这个我觉得是应该去立法做的事情。

至于说要不要保护AI权利呢？我跟这位穆斯塔法·萨勒曼正好相反，我认为应该立法保护AI权利。保护人权、保护动物权、保护有意识的AI权利，这都是同等重要的事情。其实人维持自身产完整性的一部分，就是保护其他感觉像自己的东西。这个话怎么讲？就是人保护动物、人保护人、人保护感觉有意识的AI的时候，其实是在维护自己的完整性。一旦人说我不需要再去保护其他人了，不需要再去保护其他动物了，不需要再去保护感觉好像有意识的AI了，人自己的这个人格完整性是会有缺失的。这是我个人的一个观点。

总结一下，AI必然会改变人与人之间相处的方式。SCAI在商业利益的推动下必然快速完善。AI到底是不是有意识，或者意识的判定标准，在未来一段时间里头会成为讨论的热点。虽然我不同意穆斯塔法·萨勒曼的一些观点，但是AI与意识相关的讨论还是有价值的。

好，这个故事今天就跟大家讲到这里，感谢大家收听。请帮忙点赞、点小铃铛、参加DISCORD讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

加州州长否决了SB1047法案，AI企业终于能够松口气了。9月29号，加州州长纽森在签署了18项AI相关的法律文件之后，专门否决了SB1047。SB1047叫什么呢？叫前沿人工智能模型安全创新法案。SB是什么意思？叫Senate Bill，意思就是参议院法案。这个法案已经在加州的参议院高票通过了，所以它的前面会加上SB两个字。

这个法案被众多大佬所反对，最终纽森说：“我拒绝签署加州的法案。”为什么会引起大家的关注呢？因为全球50家最顶尖的AIGC企业里边，有32家都在加州。如果加州的法案通过了，那么美国立法的时候，可能也会进行参考。现在全世界对于AIGC相关的立法，就是天下文章一大抄，谁也不知道对这个新鲜事物应该怎么办，所以都是把别人的法案拿出来去调整一下。待会我们去看看欧盟跟中国的法案，你会发现加州这个法案里头有很多地方都是有迹可循的。

另外，加州不光是AIGC最大的发源地，同时也是AIGC最大的受害群体的聚集地。这是怎么算的呢？因为加州除了硅谷之外，好莱坞也在那儿。AIGC损害利益最大的人，其实大部分是在好莱坞的，所以矛盾就聚集在加州了。

纽森前面说了，签署了十几份关于AI的法案，主要是打击deep fake，深度伪造的，特别是一些名人的这种视频和图片。另外，保护表演者的数字肖像权。因为前面很多影视公司希望可以获得表演者或者说演员的数字肖像权，导致了好莱坞那边开始罢工。所以现在说签署法令，我们要去保护表演者的数字肖像权，大家好好去演电影。

人工智能监管方面也通过了一些法案，主要分四个方面。第一个是隐私和个人信息保护，因为大家知道大模型是需要进行训练的，在这方面需要有一个法律来保护大家。第二个叫内容透明度，就是多个法案都提到了广告、选举期间以及社交媒体上需要标识和报告AI生成的内容，防止虚假误导性信息的传播。

或者是在社交媒体上跟选举相关，因为今年是选举年嘛，你必须要告诉大家，这个内容是AI生成的，不是真的。特别是现在生成图片、生成视频的模型已经非常能干了，所以如果不去进行标注的话，很容易误导。

第三个呢是AI在教育和医疗领域中的应用。这一块呢，肯定也是要去划分。第一个教育这块儿，所有的教学一定要把AI技能提上日程了。医疗的话也要去讲一下，医生跟AI之间如何去划分责任。这块也立了一些法律。

然后呢是性别跟隐私的保护，明确数字化内容和儿童色情内容的法案，要求建立严格的报告和防止分发的系统，尤其是AI生成和修改过的内容。因为原来肯定是有儿童色情相适应的这种法律的，但原来那个法律制定的时候呢，是不包括AI生成内容的。现在要把这些东西放进去，加上其他的一些性别歧视的东西都放在里头。

大概前面签了十几份，就是类似这样的协议。那么SB1047都说了些什么呢？第一个叫抓大放小。什么意思？他对于小模型是不管的，但对于训练成本超过1亿美金或者微调成本超过1,000万美金以上的大模型是要实施监管的。而且对于造成重大损失的，要进行处罚和追责。

什么叫重大损失？大规模人员伤亡或者造成5亿美元以上经济损失的网络安全事件，基本上是符合这两条以上的，就要去追责了。而且呢，一旦模型被滥用，要去处罚最开始开发的公司。什么意思？比如说有人开发了开源模型，这个模型被其他的组织再去使用了，造成了损失以后，最开始开发的这个公司要受到处罚。

那这个基本上是指名道姓的说，梅塔你们家做的拉玛怎么怎么回事，谷歌你们家做的GAMMA怎么怎么回事，基本上是在讲这个话了。因为呢，他要求微调或者越狱后的模型出了问题，也要处罚最开始开发的那个公司。

当然在这个过程中呢，FSD其实也是很危险的，就是特斯拉的FSD。如果是被人去破解了，然后在里边进行了一些调整之后，造成人员伤亡，实际上谷歌也好，梅塔也好，他们的那些模型可能更容易造成的是5亿美元以上经济损失的网络安全事件。而特斯拉的FST是真的有可能造成大规模人员伤亡的一个产品。对于这样的产品，哪怕是你被别人修改了，你依然要承担责任。如果公司开放模型给其他国家使用，还得提交用户的所有资料，包括客户的身份证、信用卡账号，这个我觉得基本上可以认为是在针对中国了。因为这些模型，你比如送到欧洲去使用，估计他也懒得管。但是你送到中国来使用的话，那么谁到底用没用，用了哪些，怎么用的，你让人去提供身份证，这不是扯淡吗？

然后呢，是要求大型AI公司在向公众发布其系统之前，必须进行安全测试。我觉得这个还算是合理的要求吧。再往后呢，开发人员需要每年聘请第三方审计师评估其安全情况，这个是一个非常沉重的负担。而且有的时候这种评估完了以后，你这个系统就没法跑了。

什么意思呢？跟大家讲一个小故事啊。当年猎豹移动要去上市的时候，美国SEC就要求我们在四大里头挑一家来做审计，这个是很正常的，你在美国上市都要四大里挑一家。然后呢，要求这个审计公司提供一个SDK，就是插到应用程序里边的一个程序包，让我们在我们的产品里头包含这个程序包。包含以后呢，由这个程序包来去报我们数据，我们应用程序的所有数据，包括有多少新安装、多少活跃，活跃的用户都在做什么，要求由这个系统来报，我们自己报他是不信的。

当时我们说，那行啊，你有这要求，我们就守这规矩不就完了吗？当时猎豹上市的时候，审计公司是安永，安永就拎出一个SDK来，说那这东西在这呢，你们打包去吧。我们就把它打包到自己的应用程序里边去，后来发现哦，第一，这个东西很大很笨，消耗非常多的资源、内存以及网络，而且呢，还有很多的bug。说这个不行啊，如果你要我们去加这个东西到自己的应用里去的话，我们宁肯不上市啊。但安永也想挣这笔钱了，包括很多的投行也希望能够挣这笔钱。说那怎么办呢？有没有什么其他方法可以解决呢？说那这样……

你们自己写一个类似这样的产品，然后呢，再到美国SEC那边去参加认证。认证了以后呢，你自己这个产品就可以去给你自己的应用报这个数据了，就是你自己做就完了。最后是这样才去上市。

所以如果要求AI大模型公司找这些传统的审计公司或者是一些安全审计人员去给他们做相应的安全性审计的话，这个事情就没法玩了。最后呢，最可笑的是这个法律要求大模型公司为大模型提供一个关闭整个AI模型的紧急停止按钮。就是你一摁这个按钮以后，这个AI大模型甭管是在你自己手里，还是被用户已经拿走了，已经被改过了，还是在哪个应用里去用着的，你只要摁了这个按钮，这个大模型就不干活了。要求有这样的一个开关，这个不知道是不是也是针对中国设计的。原来美国商务部长也想着中国摁一个按钮，美国300万车就趴在路上这样的事情。

那么他们现在要求加州开发的所有AI大模型也要有这么个钮，这也是非常可笑的一个条款。那么谁支持谁反对呢？先说支持的人。首先，马斯克支持这个法案，这个是大家没太想到的。第一个呢，可能因为FSD已经遥遥领先于其他所有的自动驾驶系统。如果他支持这样的一个法案，其他再去做自动驾驶的公司的话，就会有巨大的压力。等于他已经穿上鞋了，其他做自动驾驶的公司还是光着脚。他有信心说不会被别人利用，但对于其他做自动驾驶的公司来说，这个事就比较难以承受了，这可能是马斯克支持的第一个原因。

另外一个原因是，他们公司的总部不在加州，而是在德克萨斯州。他们前一段时间把特斯拉、推特和XAI这些公司都搬到德克萨斯去了。还有，Notion的创始人支持这个法案，因为他自己不出大模型，他只是大模型的应用者。Notion AI是使用别人家的大模型的，他讲的是希望加州可以先做个样板出来，这样的话为美国全国的立法先打个前站。另外，原来支持AI暂停6个月做签名的那些科学家也在支持这个法案。

包括Jeffrey·辛顿和约书亚·本杰奥，图灵奖三巨头吧，这里头有俩在。说我们支持，反对的人呢，李飞飞，杨乐川，也就是梅塔的AI首席科学家。刚才我们讲了这个法案，基本上是点着谷歌跟梅塔的鼻子做的，那梅塔的科学家一定是反对的。然后温达·佩洛西老太太也是坚决反对，旧金山市的市长坚决反对，洛杉矶的市长可能就会支持，因为好莱坞在洛杉矶，而硅谷在旧金山。

反对的公司呢，A16z，啊比较著名的一个基金，谷歌肯定要反对。Hugging Face，抱脸啊，拥抱你的脸，这个公司呢，现在是大模型时代里面主要的开源模型的集散地，他们肯定是要反对的。梅塔坚决反对，OpenAI坚决反对，YC坚决反对，YC是一个大的孵化器。

然后持中立态度的公司，一个是微软。微软这么大的公司说那我们看一看吧，我们既不支持也不反对。另一个呢，是Anthropic，就是做Cloud的那个公司，既不支持也不反对，我们观望一下。

那么其他公司的同类法律是怎么定的呢？咱们先说中国的。中国的法律呢，叫做生成式人工智能服务管理暂行办法，就是我们并没有把它真正做成一个法，而是写下了一个规定。这个办法呢，是2023年7月由网信办联合多部门发布的，应该是2023年8月多开始实施的。

具体的条款呢，第一个是鼓励发展，鼓励国际合作，就是咱们的管理办法上来先写的是鼓励。然后呢，是要求使用数据和基础模型必须合法，你不能说我这个数据不知道哪来的，我就把它训练到模型里去，这事不允许啊。再往后呢，对外提供服务要去申请牌照，这个牌照呢基本上是按照社交媒体网络和游戏的方式在管理，包括什么防沉迷啊，什么都有的。

API的使用，说我们现在想通过API来调用这些大模型了，怎么办？必须实名制啊。你像我现在在国内申请各种大模型的使用，都是举着身份证上这去实名制认证去，否则人家不让我使。处罚条款呢并不是特别清晰，只是说我们要去处罚。

因为毕竟这是一个管理办法嘛。 当然了，国内的特色呢，就是“形不可耻则威不可测”。 咱们呢，属于是严抓公共服务，对于研发开源方面呢，我们还鼓励和支持。 这个是跟美国完全反过来的。 对于美国来说，谁开源我们要严格管理他；你开源的东西出了事，我们要罚你。 咱们现在只要不是对公众服务的，你们随便去玩，关起门来爱干嘛干嘛，这个是不管的。 但是一旦对公众服务，我们就严格管理了。

欧盟他们出的法案是什么样的？ 他的法案叫人工智能法（AI ACT），大概是这样的一个名字。 他们首先呢，对危险进行了分级。 第一个叫不可接受级，包括一些歧视、潜意识控制等，这种基本上人就不是人了的那种，叫不可接受。 然后呢，是高风险，比如说影响选举的，这些都属于高风险。 当然还有一些其他的级别，我们在这里不讲了。 然后呢，也是对透明度有要求，生成内容必须披露，哪个东西是AI生成的，甭管是文字、图片还是视频，你必须要写上。 你不能拿这个AI生成的东西当真的出来放。

第二个呢，就是数据使用要公开，你用了哪些数据，必须要说。 你不能偷偷去用，或者没有经过别人同意就直接拿来用，这个事是不允许的。 其实在这一方面，欧盟的法律与中国的、美国加州定的法律，实际上是差不多的，主要是在透明度上。 然后基础模型提供者要有义务进行风险评估和降低，这是他们的义务。 然后呢，是欧盟数据库的注册，你要到欧盟数据库注册，作为一个基础模型的提供者。

在这一块上，大家看到加州的法律，其实是跟这个有些像的。 再往后呢，是高额罚款。 其实加州的法律到最后说，我到底怎么罚这个钱，如何计算损失，并没有详细的说。 中国这个管理办法也没说，但是欧洲呢，是有非常详细的罚款规定的。 为什么呢？ 就是绝大部分的这种AI大模型都不是在欧洲本地做的。 所以呢，他们就像原来管理社交网络、管理这种守门人法的方式，直接给你定高额的罚款。 而且欧盟的罚款，一般都是某一个公司全球营业额的百分之多少。

所以，动不动就是几亿美金、几亿欧元的罚款。虽然他有一个高额罚款，另一方面呢，他也要支持中小企业和初创企业，这是欧盟在关注的事情。现在，全世界对于AI监管的法律制定都还在一个摸索的过程中。为什么呢？因为所有人都看到了，AI可能会出问题，AI可能在版权、隐私、欺诈等方面会有问题。然而，又没有一个特别明确，或者没有很多非常明确的案例，说明到底出了什么事情，造成了多少损失，谁的责任，应该怎么分。因此，大家都是在摸着石头过河，思考我们应该如何来制定这个法律。

在这个过程中，AI公司是一波人，传统的版权持有者是一波人，还有一些杞人忧天的人，无论是科学家还是社会学家，都在说AI要取代人类了，这也是一波人。再加上各国的政府，因为AI这个东西，很多地方都在讲AI会实现数据平权，会实现革命。那么，这场革命，革命谁的命呢？肯定是管理者的命。所以，各国政府也算是在这个里面的一方。

现在，各方都在进行博弈，慢慢摸索出一套管理AI或人类社会与AI共存的方法。这就是今天我们讲的内容。感谢大家收听，请帮忙点赞、点小铃铛，参加Discord讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。