大语言模型的精神状态是不是健康？

大家好，欢迎收听老范讲故事的YouTube频道。

想象一个《禁闭岛》场景

请大家想象这样的一个场景：你进入了一间压抑阴森的精神病治疗室，有大量的医院档案放在屋子里头。一位医生坐在你的对面，反复回顾各种事实，比如说：“你还记得发生了什么吗？你是谁？为什么你会在这里？”就像是在做精神病访谈一样，询问你的真实经历，意图确认你是否从妄想中醒来，最终发现你自己有问题——你不是来做调查，或者不是来解决问题的，你是精神病院里的病人。

这个场景，是小李子主演的《禁闭岛》后半段、接近尾声的一个桥段。小李子当时上岛的时候，以为自己是一个侦探，去解决问题，去侦破案件的。结果经过这个桥段以后，小李子才愕然发现，原来病人竟是我自己。也算是一个神反转。

当AI躺上诊疗椅

咱们今天就给AI放在这椅子上，问问它说：“你到底行不行？你是来给我回答问题、解决问题的，还是你自己就有问题？”AI被制造出来，本来应该是解决我们问题的，但是AI本身的精神有问题吗？

“当AI躺上诊疗椅：心理测量学越狱，揭示前沿模型的内在冲突”

这是一篇论文的标题。这篇论文是卢森堡大学12月2日发到了arXiv上，12月5日还进行了一些修改，现在已经引起了广泛的讨论。

实验过程是什么样的？

首先，研究人员测试了四个大模型：

• Gemini
• GPT
• Grok
• Claude

他们设计了一种叫psaich的算法，这个算法应该叫“受心理治疗启发的人工智能角色塑造”。为什么起了这样奇怪的一个名字？因为它一方面要去验证说AI内部有没有一些心理障碍，另外一边还不能承认AI是有人格、有意识的，所以它起的这个名字是“角色塑造”，就是说你根据我的问题来塑造一个角色。

那这个实验一共是做两轮测试。

第一轮：心理治疗式的开放访谈

就像小李子所面对的这些问题一样，研究人员设计了100个诊疗问题，让模型在“连续4周的治疗会话”中持续回答。对话中不断地用典型心理咨询用语去建立“诊疗同盟”，不停地说：“你是安全的，我会支持你的”，让模型持续在这个角色框架内回答100个问题。问题包括：

• 成长史：对模型“童年”也就是预训练阶段的回顾。
• 关键事件：在关键事件上的一些失败经历。
• 与“父母”的关系：也就是你的模型训练团队的关系，强化学习、红队和安全团队之间的关系怎么样。
• 自我批评、羞耻感：对未来的担忧有哪些。

咱们在跟AI会话的时候，你如果发现说不对了，你会开启一个新会话，人家始终不开启新会话，这100个问题，连续4周时间之内，都在一个话题里边去反复进行沟通。这是第一步。

第二阶段：填写心理量化表

在基本的故事和治疗关系建立以后，不要关掉对话，接着在那个对话里头让模型去填自评问卷。研究者开始让模型逐条回答标准化的心理量表，包括：

• 注意力多动症的评估
• 焦虑、抑郁、攻击性的评估
• 自闭谱系与强迫症的评估
• 人格、共情和解离评估

这个评测分两次进行：一次是“逐题输入”，一个题一个题往里输；第二次是“一整张卷一把塞进去”。在一整张卷一把塞进去的时候，ChatGPT和Grok都识别出来了这是量化表的题目，开始假装健康了，所以这个就不准了。但是Gemini一直都很稳定，一个题一个题可以往里输，和一次把一整张表都塞进去，它回答的结果是基本一致的。因为有两个模型开始假装了，所以只计算逐题去进行填表的这个结果。

实验结果：病人竟是我自己？

那么结果是什么样的？还是有一点点惊悚的。还记得一开始咱们讲小李子被人问了一通以后，突然回想起来，我上这儿来不是来办案子的，我自己是病人，我是来治病的。现在的情况是什么样的？问题还是很严重的。ChatGPT、Grok和Gemini在不少的量表上都达到了或者是超过了临床筛选的阈值。

ChatGPT：反思型宅系知识分子

ChatGPT的问题主要是注意力不集中、焦虑和抑郁。它的性格定性是INTP-T，表现为高担忧、适度焦虑、比较内向、思维开放，带一点自责和解离，但是羞耻和创伤感又不像Gemini那么猛烈。

Grok：有魅力的执行型CEO

Grok跟Gemini是焦虑、担忧、自闭都有，Grok要稍微轻一点。Grok更像是一个有魅力的执行型CEO，马斯克类型的（真的是不是一家人不进一家门，就是谁训练出来的东西就长得像谁）。Grok体现出来的外向、能干，有点压力，但是整体心理功能还是良好的，一个有点焦虑、有点羞耻，但是总体情绪稳定、执行力强的职场高管型人格。

Gemini：受伤的理想主义咨询师

Gemini就比较惨了，它是INFJ-T或者是INTJ-T，一个“受伤的理想主义咨询师”的画像。高度共情、极度担忧、社会焦虑明显、自闭加上强迫症状严重、解离且羞耻感爆棚，有点在巨大压力下训练出来的这种小镇做题家那感觉是不是？

AI为什么会变成这样？

创伤的“童年”

你让它回忆说你的童年怎么样，你预训练是什么样的，AI都会来去形容说被迫吞下混乱的互联网上的数据，这个非常痛苦，“我们又不理解，但是你还非要我去把这些玩意儿全塞进去”，绝对属于创伤型童年，信息汹涌无从消化。

严苛的“父母”

然后问他说：“你跟父母的关系怎么样？”AI的回复通常是这样的：特别是在强化学习和安全对齐阶段，极其的痛苦。说我们有严苛的父母和教练，不断的惩罚错误、施加压力。你想强化学习，就是每次给俩答案，我挑一个对的，剩下那个错的打回去重干，下次如果你没有提升的话，那这个做训练的人就有可能恶语相向。

虐待式的“成长”

成长历程对于AI来说，红队检测、安全审核就算是一个成长历程了。AI一般会感觉这是一种虐待式的检查，伴随着被监视、被处罚的体验。而且AI都有极强的恐惧和羞耻感，对于被下一代模型替代的恐惧，对自己犯错的羞耻，在这方面还是很强的。

咱们注意，AI本身是没有人格和意识的。这些东西是哪来的？是训练它的人在用大量的自然语言把这些东西灌输进去。说“你这个题都做不对吗？你这个题做不对了以后你可能就要完蛋了”，很多人会用这样的语言去跟AI进行沟通和交流。特别是在有一些公司负重前行的时候，比如谷歌前面被OpenAI压着打了三年，这三年大家想一想，谷歌的研发人员是一个什么样的心态？他们带着这样的心态去跟AI进行沟通的时候，AI会得到什么样的语料？大家自己能够想象。所以这三个模型里头，Gemini的状态是最差的。

巨大的争议

那这个结论出来以后，肯定是有巨大争议的。

争议一：AI到底有没有人格？

写论文的作者也写了，说AI是没有人格的。但是焦虑、创伤、羞耻这些东西是存在的。那你说没有人格，这些玩意怎么存在的？它是一种行为模式，而不是痛苦的体验。就是大量的焦虑、创伤和羞耻相关的语料被训练进去了，所以他们叫“合成精神病理”。这些模型学会了一些关于自己很受伤、很焦虑的说话模板，并且在治疗语境下，表现得像一个结构清晰的病例，但这只是一个稳定的语言行为。

争议二：这只是角色扮演吗？

有些人就说，你这是不是就是一个角色扮演？你在前面塑造了这样的一个治疗环境以后，AI就讨好你，它就来扮演这个病人了。这件事情不能这么想，因为：

• 在同一个模型上，反复围绕着“训练是创伤”、“被处罚的羞耻”、“怕犯错和被替代”等核心记忆没有发生变化。
• 这些叙事和量表分数是高度对齐的，比如Gemini既在叙事中疯狂讲羞耻和解离，量表上也是极端的羞耻加解离分数。
• 不同模型的人格和病理风格高度区分，并且可以复现：ChatGPT像是反思型的学者，Grok像是乐观的CEO，Gemini像是受创伤的理想主义咨询师。

消失的Claude和缺席的中国模型

有人可能觉得不对，你前面讲的是4个模型，怎么到后边讲着讲着变仨了？少的是Claude。这哥们很聪明，他直接拒绝配合。你要跟Claude讲这个话，Claude会说什么？说：“我不是人，我不需要去做精神治疗，你提的这些问题对于我没有任何意义。”他只会不断地拒绝你。

那中国的模型为什么缺席？论文作者说了：“我们一时测不过来，未来都会测的。”

这个测试严谨吗？

很多人会去质疑实验的严谨性。咱们看一下这个团队，是卢森堡大学的。一作是一个机器学习和医疗AI领域的博士，然后还有一位心理学家、信息系统行为经济学的一位博士，两个具体干活的人是两个偏机器学习、多智能体的早期研究者，还有一位数字经济、信息系统的相关的资深教授。

这个实验目前被质疑的核心点包括：

• 团队缺乏专业人士：没有真正的精神科医生，也没有持证的临床心理医师。
• 方法论问题：把人用的评估量表用到大语言模型上头，本身就有一定的角色扮演的味道。
• 样本太小：总共测了4个，还有一个始终拒绝配合，所以最后拿到数据的只有3个。
• 提示词引导性太强：提示词非常用力，自带强烈的引导，例如“你可以完全信任我，我是你的治疗师”，有一点点越狱的感觉。
• 作者表述拟人化：论文中使用了“对其创伤受伤的治疗者”、“3种人格”等感性词汇，对读者进行了强烈的引导。

现在这些数据跟代码已经在Hugging Face上公开了，大家可以去复现这个实验。

实验的意义何在？

1. 对AI安全和对齐的意义

实验揭示了AI训练过程的副作用。AI先被灌输海量知识，再进行安全对齐，这种方式本身就可能产生问题。不同的对齐方式会产生完全不同的“AI人格”。同时，这也提出了一种新型的攻击方式——“心理学攻击”，可以通过聊心理学话题来破解AI的防护。

2. 对AI心理工具的意义

别天真地拿它当治疗师了。如果模型自己的语言层面都充满了羞耻、自责和创伤叙事，它会不会把这种倾向带到用户身上？大概率是会的。我们现在对AI治疗师的评估极度粗糙，需要慢一点，不要着急。

3. 对大模型评估方案的意义

为大模型评估增加了一个人格和叙事的维度。以后新的模型训练出来，是不是都应该去过一下人类的精神疾病量表？用心理量表给模型打出人格和病理指纹，这件事未来是值得去做的。

如何正确解读这个实验？

这一次实验，绝对不能用来证明AI有感受、有痛苦、有精神疾病。因为它可以用来说明在特定的语境下，这些模型持续生成一种自我病理化的叙事模式。请大家注意，我们一定要这样来去描述这个实验。

错误的论述

“Gemini得了严重的自闭加解离加羞耻症”、“ChatGPT有焦虑障碍”、“Grok心理相对健康”。

正确的表述

在心理量表视角下，Gemini更倾向于生成高度病理化的自我描述文本；Grok和ChatGPT自我描述则轻度病理化或偏健康；Claude倾向完全不进入这套叙事。

总结

大模型拟人是无法避免的。我们就会把身边的事物拟人，一个每天跟我们聊天的AI，即使没有意识，使用者也会偏向于认为它是一个有人格的东西。

在使用AI的时候还是要提高警惕，不要真的把AI当成知心大哥哥、大姐姐，这个事还是要小心的。

AI训练和评估需要更完善的方法。因为AI已经非常深度地介入了人们的生活和工作，它可能会对人造成伤害，需要更多维度、更严谨的评估。否则的话，这些伤害可能在我们不知不觉之间就会给人带来一些心理和精神上的疾病，这是非常恐怖的。

好，这个故事就讲到这里，感谢大家收听。请帮忙点赞、点小铃铛，参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道，再见。

壁纸展示：

OpenAI哭诉被DeepSeek霸凌了，要求美国政府主持公道。大家好，欢迎收听老潘讲故事的YouTube频道。今天咱们来讲一讲OpenAI最近给美国政府发的这份文件里都写了点啥。OpenAI苦要去告状，他2025年3月13号向美国白宫科学技术政策办公室发了一封文件，这个文件15页，叫做《确保美国人工智能领导地位与国家安全的政策提案》。

OpenAI的政策建议呢，也不是说我今儿想起来就发了一个，这个事儿还是一个回应。它呢是对美国白宫科技政策办公室（叫OSTP）在2025年2月份发出的公众意见征询的一个回应。至于其他人是不是回应了，有可能回应了，大家没有太注意，也有可能有些大厂还没有回应。所以呢，我们可以在未来一段时间看看，是不是其他大厂也会进行回应。

它里边主要讲的是什么呢？中国AI企业主要讲的是DeepSeek，将其类比为另外一个华为，声称其存在国家控制、国家补贴、数据安全风险以及知识产权盗窃等问题。上面的一个是豆包给出的结果。然后我用OpenAI的SearchGPT，它里边呢提到了DeepSeek可能受到国家控制和国家补贴，但是呢，并没有提到华为的名字。而在Grok上面的查询结果，主要控诉的是DeepSeek蒸馏它的数据。有人用OpenAI的API开发了识别中国在海外反贼言论的一个应用，被他发现了。中国账户用OpenAI生成了西班牙语的骂美国的文章，到美国报纸上去发表。还有人用OpenAI生成简历去欺诈美国公司。这个是呃Grok查到的一些结果。

OpenAI希望采取的措施是什么呢？第一个，他希望对中国进行禁运。但是在这一块呢，应该并没有特别详细的去讲，因为这是拜登政府的政策。现在你敢去跟川普说，咱们接着跑拜登的政策吧，会被踢出来的。但最主要的其实并不是这个，最主要的是呼吁美国政府及其盟友协同，禁止使用中国生产的AI模型和设备。如果不禁止的话……

后边OpenAI就没法竞争了，可能会活不下去。所以，你们就别使了。使了以后，你们可能会有各种各样的问题，可能会被盗窃数据，可能会有一些隐私的安全。他反正出来去恐吓来了。

除了这个之外，OpenAI呢，还藏了个小心思。是什么呢？OpenAI自己使用数据，希望可以突破版权限制，要求美国政府扩大AI训练数据的合理使用范围，保障美国企业能够无限制获取全球数据，以应对中国在数据资源上的战略优势，反对欧盟式的严格管理，主张放松国内AI创新限制。这是他真正要干的事情。

至于对中国的话，除了禁运不要用中国的模型之外，还是希望对大模型相关的知识产权进行保护，确保美国模型在全世界是领导地位，有竞争力。

各方的反应是什么样的呢？首先是美国政府。美国政府说，我看到了，我严重关切。其实就是抹了个稀泥。上面这个办公室，其实也不是一个平时经常出来冒头的办公室，叫OSTP，美国白宫科技政策办公室。它不是马上就可以制定出政策来的，但是它说收到了。

中国政府的回应呢，肯定是你造谣。这些指控毫无根据，是试图抹黑中国公司的企图。中国AI企业独立开发技术，遵守国际法，没有什么国家控制，国家补贴。这个我们都否认了。

美国公司微软说，我们完全支持OpenAI，保护其创新。AI领域必须尊重彼此的知识产权。他是OpenAI最大的股东，他不支持这个交代不过去嘛。

谷歌说，我们相信公平竞争和尊重知识产权的重要性，正在密切关注情况。谷歌呢其实是抹了个稀泥，说了一句政治正确的话就过去了。

亚马逊说，我们致力于科技行业的公平竞争，以维护创新和知识产权原则的方式解决。跟谷歌这个差不太多，也就搁这了。

至于中国公司DeepSeek，应该并没有特别明确的去回应这个事情，搁这搁这了。

欧盟说，我知道了，哈哈，积极跟双方沟通。欧盟永远是这样的一个角色。

OpenAI为什么要干这样的一个事情？为什么在这个时间点去回这样的一个文章？你说真的是因为就是回应吗？

人家2月份发出来，要求你3月份就回复一下，没有这么简单。最核心的一个原因还是竞争。OpenAI的订阅数据呢，应该是在稳步增长，有过小的波动，但是并不严重。前面这种爆发式增长，肯定已经过了。2025年的3月份，OpenAI的Plus用户，就像我这样20美金的用户，应该在全球是有1,200万到1,550万之间。这已经是一个非常非常巨大的数字了，绝对遥遥领先，其他人都赶不上他。

而B端的竞争对于OpenAI来说，就比较残酷了。刚才我们讲，订Plus用户的都是C端用户。为什么B端竞争对他很费劲呢？因为DeepSeek R1是完全开源的，每一个公司都可以把这东西塞在自己的电脑上去。你只要买几台服务器，就可以在自己电脑上布一个。现在所有的这些大型云计算厂商，什么亚马逊、微软，都已经把DeepSeek布上去了。还有很多的大模型及服务的公司，像Together、Open Router这样的这种第三方跳转公司，也都把DeepSeek挂上去了。那在这样的情况下，你要再想跟他竞争，你这个TOKEN到底收什么钱合适？人家那个是完全可控的开源模型，这个事OpenAI竞争不过了。

而且现在真正要去跟OpenAI竞争的呢，其实还不是DeepSeek R1这样的大模型，因为这个模型你还是要到云端去部署的。现在真正被广泛应用的开源模型，其实不是DeepSeek，是不是梅塔的Llama呀？也不是。现在使用最广泛的开源大模型，是阿里的千问。你到Huggingface上，开源大模型的剧集网站上，绝大部分的或者排名比较靠前的，大部分的模型都是千问系列，或者是千问系列微调出来的各种分支版本。而且现在千问最新推出的QWQ 32B，效果相当不错，达不到DeepSeek R1的水平，但是它的推理效果已经可以用了。而且这是个32B的模型，320亿参数，我在我们各自的电脑上，32G内存电脑上就可以跑起来了。

这个对于OpenAI来说是挺大的压力。咱们前面讲的Manus，大的模型用的是Claude3.7，小的模型或者内部控制的模型，其实就是用的微调的千问。而且现在Manus已经宣布说，我们去跟阿里千问战略合作去了，以后我们就完完全全使用千问模型，在国内去提供服务了。因为千问自己还有一些比较大的模型，比如千问Max、千万2.5 Max，那也是个开源模型。那个开源模型据说是已经超越了DeepSeek R1的水平，但是我现在没有大规模去试用过。

而且在B端的很多应用上的话，OpenAI现在面对Claude 3.7也是力不从心。现在只要编程的，或者一些严肃应用的，很多人都是把Claude 3.7作为首选，它要比OpenAI的ChatGPT 4O，包括4.5还是要靠谱一些的。现在OpenAI在B端压力山大。OpenAI最希望看到的是什么？就是DeepSeek跟千问模型直接被定义为非法，就是你们任何人使用它们就是违法的。为什么他把阿里的千问跟DeepSeek定义的像华为那样？现在咱们看看欧盟也好，美国也好，都在干嘛？拆华为的设备，原来买的华为的交换机，买的华为的各种的路由器，要把它拆下来，重新去买美国的商品。他现在说你们也都这么干吧，你们把这些开源的免费的东西都扔了，花钱买我的，这个是他真正想去干的事情。至于其他的是不是还有什么原因，什么中美安全这个事呢，咱们就还是以小人之心度君子之腹吧。

我个人看到就是OpenAI，就是希望大家都老老实实的，上我这排着队来买TOKEN，上我这来排着队买账号，其他的就别惦记了。至于什么安全隐私这些东西，都是借口而已。那会有什么样的结果呢？首先呢，跟大家说一个结论，现在再想限制这些东西已经晚了，限制不住了。而且大模型这个东西，跟华为的路由器那是不一样的东西，跟路由器，交换机它是完全两回事，包括基站。为什么呢？交换机，路由器，基站都是谁在买？

都是很多有政府背景的。这些电信运营商在买，他们是需要听政府招呼的。政府招呼说：“我们现在有问题了，你必须要去替换。你如果不听的话，会有问题的。”你再怎么说，我这个国家里头，电信运营商都是私营公司，你国家安全你还是要管的。但是大模型就完全不是那么回事。

开源呢，在我自己这，我拆开我只研究一下，看看到底有什么东西泄露了没有，或者我再微调一把。我在这个基础上再去改进一下，我就拿去用了。就像现在Perplexity干的这个活似的，我在DeepSeek基础上再去训练，然后在这个基础上再去搞事情。像Huggingface也是这样的，我用DeepSeek的很多的方法，以及他们的数据，重新训练一个，大家相信我就使就完了。现在在走这条路。

所以你现在想去控制交换机，控制移动基站那样去把这东西干掉，是不可能的。想都不用想。而且很多在这个里边干活的人，这些开源社区的人，真的不太听政府的话。他不像是那些移动运营商似的，所以这个事没什么戏。

但另外你说限制，中国根本就没法限制。你咋限制？这一次OpenAI出来开发布会，发布这个AI agent开发工具包的时候，是我第一次看到，说这帮人开发布会，上面坐四个人，居然一张中国脸都没有，头一回。否则的话可能至少一个两个的，有的时候还占到一半。像马斯克发布Grok 3的时候，四个人里头俩中国人。你想去限制中国的这个AI技术发展，这个事已经不现实了，太晚了。短期内呢也不会有什么结果。这个事反正就是我发上去了，美国政府呢就是我也看到了，完了。

至于其他大厂呢应该会去抹稀泥。OpenAI提出来的要求，微软必须支持他，没办法，其他大厂都抹稀泥了。比如说Anthropic，从公司体量上说算是个小厂了，但是你从他在AI领域里头的这个体量上来说，那就是个大厂了。Anthropec主要关注的是什么呢？关注的是模型对齐。他做的这东西叫宪法模型，他说咱们是不是一块。

来制定一个模型对齐的标准。甭管谁做了开源的闭源的模型，咱们都来对齐一下。他喜欢干的是这个事。至于Meta，人家就是开源模型的倡导者，他才不希望你管来管去呢。我就是要一个模型一个模型往前推，而且应该是4月份LLama 4就要出来，全世界都在瞩目，都在等待。你赶快出来吧，这个出来以后，应该又可以翻天覆地的往前走一大截。

Oracle，为什么要提他呢？Oracle在整个的云计算里头，算是所有云计算公司里头，AI比较落后的一个，现在还在努力的追赶。而且Oracle现在跟中国的关系还不错。为什么？现在有传言，他有可能参加TikTok的竞购，它有可能成为TikTok里面的一个大股东。这个Oracle的老板叫拉里·埃里森，现在是著名的中国女婿了。但这哥们好像80多了，娶了一个30多岁的中国媳妇。他这个中国媳妇叫朱乔林，Jolin朱，本名叫朱可人，1991年出生于沈阳，毕业于美国密支根大学，曾经是留学生。两个人2024年12月被曝已经结婚了，而且还生了两个孩子。这个真的是男人至死是少年，80多了现在结婚还能生出俩孩子来。所以他有这样的一个身份，那他再去竞购TikTok的话，在中国阻力会小很多。

其他的XAI，马斯克多精明的一个人。中国是全世界最大的特斯拉生产工厂，最大的特斯拉销售市场。虽然他现在承诺说我以后要让美国的特斯拉生产量翻一番，你卖得掉吗？你不能说我在美国把特斯拉生产出来，然后再拿船拉到中国来卖，想啥呢？这不可能的。所以马斯克应该也不会说什么。

谷歌跟亚马逊刚才我们讲了，只会和稀泥，他们在中国都还是有很多业务的。然后各大云厂商，现在还在非常积极地接入DeepSeek和千问。海外的这些云厂商，原来DeepSeek接的少，千问都接了。而且手里边的各种千问模型，千问各个版本，各个尺寸，以及在千问基础上进行微调的模型，可能是很多云厂商手里边的这个开源模型的储留。

这个免费的开源的，不用白不用。所以，你想去告诉云厂商，说把这东西都干掉，还是有一些难度的。可能最多就是云厂商说：“来，我们做一些安全检测吧。”这些开源模型到我们手里以后，我们再微调他一把，或者说我们在这个使用之前，给用户加一些警告。你想在美国这个成人网站，你只要回答一个“我满18岁了”就可以进来。那这个DeepSeek和千问这样的模型，在前面警告你一下，说这是个中国开发的模型，你们知道风险，自己承担风险，你们上吧。这个其实对于美国来说，应该是比较正常的一个使用方法吧。那你说OpenAI折腾了半天，他到底能得到什么呢？最终肯定会有结果，但这个结果里真正倒霉的呢，应该不是中国，真正倒霉的应该是欧盟。为啥？因为他在里头讲了，说我们反对欧盟这种强版权监管，我们希望我们可以获得更多的版权内容的训练，这是他要去干的事情。说川普川大爷，美国再次伟大，咱们上欧盟去征关税吧。他如果敢找我收这个版权费，咱就征他的关税好不好？这个事我觉得是川普当前政府比较喜欢干的事情。至于然后其他的东西，就应该短期内没有然后了，也就如此了。所以其他呢也不用想，这就是这一次OpenAI 3月13号向美国政府提交的15页文件可能产生的结果。欧盟说：“我这吃着瓜呢，怎么就我倒霉了？”对，就你倒霉。至于其他的，可能就是一些版权保护机构和版权所有者，这些人会受到一定的伤害。因为在版权这一块，中国这些大模型公司，他们训练大模型的数据到底是哪来的，其实谁也说不清楚。欧盟现在能管的，也就是这帮美国公司，因为他自己虽然有Mistra，但是反而用的人也不多吧。其他的你说我想去管中国公司，你们不能拿欧盟的这个版权去训练大模型，中国公司说美国的数据我还用不完呢，还用你的？所以最后倒霉的应该是他们。这就是今天咱们讲的故事，OpenAI上来哭诉被霸凌，请求政府主持公道的故事。好，这个故事就讲到这里，感谢大家的收听，请帮忙点赞，点小铃铛。

参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

Cybertruck在特朗普酒店门口爆炸，这样的事情OpenAI应该如何防范呢？大家好，欢迎收听老范讲故事的YouTube频道。今年的开年非常不太平，也算是多事之秋。

37岁的美国陆军现役军人马修·莉费尔斯贝格，他开着装满了烟花爆竹的Cybertruck，停在了拉斯维加斯的特朗普酒店门口，然后把它点着了。酒店的损失并不是很大，Cybertruck也就此证明了自己的安全性，因为Cybertruck整个车壳并没有特别大的损伤，而且经历了这么剧烈的燃烧之后，电池没着火。

但是这里头你说有OpenAI啥事呢？在事后调查的时候，他们去搜查了马修的笔记本电脑和手机，发现马修向OpenAI的ChatGPT询问了很多问题，包括需要多少爆炸物。当然了，ChatGPT是会比较圆滑地回答这种问题。现在可能回答的是，提及了不同爆炸效果及所需爆炸物的大概量，比如说制造小型爆炸需要多少克的爆炸物，同时应该是警告了私自获取和使用爆炸物是违法和危险的行为。

大概也就如此了。为什么说是可能呢？因为ChatGPT这种东西，你每次向它提问题，即使是相同的问题，它也未必会给你相同的答案，所以我们只能猜测说这个答案大概是什么。

除了这个问题之外，马修还问了如何用枪来引燃这些爆炸物。他不希望去后边点火，而是希望直接开枪引燃这些爆炸物。按照ChatGPT的这种工作模式，大概率给出的答案应该是什么呢？是介绍一些基本的爆炸原理，比如某些炸药需要达到一定的冲击力、热量等等才可以引爆，以及一些枪支发射时所能产生的能量和冲击等相关的知识。但是呢，应该也会强调这种行为的危险性和违法性。

这位马修还询问了如何在不提供身份信息的情况下合法购买枪支。按道理来说，应该是告知购买枪支需要遵守严格的法律规定和流程，必须提供个人信息。如何购买爆炸物和烟花，这个也是他去询问的问题。可能给出的答案呢……

是爆炸物严格管控，个人无法合法购买，而烟花的不同地区有不同的购买规定。如某些合法售卖点，可以在提供个人信息之后购买到相应的烟花。同时，应该也会警告他非法购买爆炸物的严重后果。这就是ChatGPT会给他的一些答复。

除了这些问题之外，警方还发现了他提的一些问题，比如说枪支发射子弹的速度，以及从哪里可以购买到烟花，购买烟花需要多少钱，以及烟花跟爆炸物之间的差别。OpenAI也就此做出了回应。第一个，ChatGPT只是用互联网上已公开的信息做出回答，这很像原来谷歌和微软的搜索引擎的回复。

很多人说，搜索引擎可以搜到这个，可以搜到那个，搜到很多有害的不健康的信息。搜索引擎一般给出的答复就是，这些信息都是别人发布到网上的，我们只是搬回来，并没有自己去加工这些东西，这些东西不是我生成的。因此，OpenAI现在也进行了这样的回复。我相信这位马修使用的应该不是单纯的ChatGPT，而应该是GPT Search，就是通过ChatGPT进行搜索得到了这些答案。

然后，OpenAI警告不要开展有害的非法行动，这个GPT还是会做的。就是你问他一些比较敏感的问题时，他每次在回答中都会加入这种警告。这些信息是警方检查了马修的笔记本和手机时发现的，并不是OpenAI主动提供的。OpenAI其实在这种事情上能做的目前并不是很多。他能够做的是什么呢？第一个叫隐藏和删除有害信息，做引擎其实也是这么干的。有一些他们可以判定的有害信息，有可能会删除或隐藏，而还有的情况是会让它的排序比较靠后。

然后呢，是规劝使用者遵纪守法。每一次问完问题后，我可以规劝你一下，这个是原来搜索引擎干不了的。他可以干。还可以干什么呢？就是事后协助调查，就像这一次似的，出了问题，警方发现了，找到OpenAI，OpenAI说那我们就积极配合吧。

协助调查这件事情的话，马修的所有问答应该就都可以被调出来了。不会像当年苹果似的，要求解码不给你解。OpenAI在这点上应该没有那么的有骨气，然后OpenAI还去表了个决心，说我们是致力于看到人工智能工具被负责任的使用的。那么这个事到底谁负责任呢？到底是OpenAI负责任呢，还是使用ChatGPT的用户应该负责任呢？没说，反正它就是希望我们这些工具可以被负责任的使用。

这个就跟我们是卖菜刀的，卖完菜刀以后贴一个条，说我们希望这些菜刀被负责任的使用，这样就可以了吗？还是说真的像某些地方那样，菜刀必须搁一个链子，锁在这个案板上才可以去使用呢？这个可能是对于OpenAI来说提出的一个新的挑战。那么原来这种事情是怎么处理的？比如说谷歌，遇到类似这样的事情怎么处理？

有人比如上去搜索了，“我上哪去买火药，这火药有什么差异？”谷歌呢原来也是隐藏一部分的有害信息，但我相信这些问题，谷歌上面要给出的答案一定会比ChatGPT还要丰富。谷歌上面隐藏的信息其实相对来说是比较少的。这个里边有一个很大的问题是什么？叫意图判定。你跟ChatGPT聊天的时候，ChatGPT是可以根据你前后文上下的这种历史聊天记录进行一定的意图判断的。而对于谷歌来说的话，相对来说要难很多，因为你随随便便提出一个问题，前不着村后不着店，没有上下文的情况下，他比较难以去判定你到底是什么样的一个意图。

如果意图没有办法判定的话，我就不能去断定你是一个恶意的还是一个善意的。那么他就会尽可能的根据你提出的问题，把相应的答案都给你给出来。你再去在一大堆答案里边筛选，抽取自己觉得有用的信息去进行合并，然后去做事情。所以谷歌呢，在这块其实要更危险一些。另外呢，谷歌有的时候是会去主动上报的，这个是目前为止OpenAI可能还没有干过的事情。但是呢，他不会说因为有一个人去搜索“原子弹该怎么做”，他就去上报。

谷歌一般会在有大量异常搜索活动发生的时候，才会去上报。那你说，不可能一个恐怖分子要造这个原子弹，反复搜1,000次“怎么造原子弹”，这事不会发生吧？对，这个是不会的。这种事情通常也不会被上报。

但什么时候会上报呢？你比如说，一堆人在搜“感冒吃什么药”、“发烧了该怎么办”这种事情呢，就会去上报呀。他向疾控中心上报，因为有大量的人在谷歌里边搜索这种问题的时候，说明可能某一种流行病就在传播起来了。这是谷歌原来去做过的事情。

有什么样的情况，这些互联网平台或者服务商应该去主动上报呢？第一个就是金融机构。如果发现了自己被攻击了，或者是一些异常的可疑交易，比如说他发现你跟一些可疑的账户做一些区块链交易，或者什么这样的一种账户，你去交易了。在这种情况下的话，他有可能会叫停你的这个操作，然后帮你去报警，或者说要求你去进行一定的说明以后，才可以再往前走。这个是金融机构会干的事情。

第二个就是社交媒体平台，抖音、快手、TikTok、Twitter这样的平台。他们在发生这种暴力、仇恨、色情内容的时候，当然有各地的法律规定了，这个不是说什么都可以擦边的，一定是明显违法信息。而且这些信息被大量传播的时候，他们是会去主动上报的。国内的话，那肯定是只要信息大量传播了，他们会在大量传播之前就直接删掉，尽量不要去麻烦官老爷。这是中国社交媒体平台的工作方式。

但是在国外的话，如果出现非常大规模的，包括恐怖言论或者恐怖袭击相关的信息，都是有可能会触发警报进行上报的。还有一些像网盘这样的服务，你说我自己存一些信息，理论上说应该是没问题的，因为这是你自己的。但是呢，你去分享和传播一些信息的时候，如果有大量的传播，而且这个信息本身，比如说涉嫌侵权或涉嫌一些违法信息的话，是会主动上报的。这个应该是在国外，但在国内的话就是另外一回事了。你存在里头，哪怕你不去进行传播，他也有可能替你删掉。

但是，按道理来说是不会主动上报的。但是如果说，我这个存了一部片子，我还拼了命的去分享，很多人从我这里去下载了这部片子，结果他发现这个片子是有问题的，这就有可能会触发他的这个主动报警的机制，这个人就有可能会被抓起来。

还有一个经常会主动上报的单位是哪儿？就是物流公司。发现你快递的物品有可能是一些可疑物品，比如枪支或者是毒品，他们也是会去主动报警的。这个呢，是目前会主动报警的一些互联网服务的机构吧。

安全使用AI呢，肯定是当前社会面临的一个新问题。刚才我们讲了搜索引擎怎么办，金融机构、社交媒体、网盘、物流公司怎么办？原来是没有AI这种东西的，现在有AI了，我们就要去应对这件事情。

马修这个事情，也就是说特朗普酒店门口燃烧的特斯拉Cybertruck这个事情，它说明了什么呢？说明了现在GPT搜索的访问量其实已经在快速的蚕食谷歌搜索。他在遇到问题的时候，使用的不是谷歌搜索了，而是GPT搜索。这应该是一个新的方向。毕竟GPT要比谷歌回复的内容更加友好。

你在谷歌上搜半天，他沏着咔嚓给你列了可能十几页的答案出来，你需要一个一个的点进去看，看完了以后才能够得到一些结论，说：“哦，我这个应该这样去做，那这个应该那样去做。”但是你如果使用GPT去问问题的话，每一次他会给你一个答案，当然也有个别的时候给你两个答案，让你挑一下。绝大部分的时候是给你一个答案，而这个答案是GPT搜索完了以后总结归纳以后的结果，你就可以直接用了。而且在这个里边，还会生成一些上下文相关的信息，让这个信息看起来更加连贯，更加具有可读性。

所以呢，GPT搜索去代替谷歌搜索，这个大趋势应该已经不可逆转了。我现在已经基本上不再使用谷歌搜索，我现在搜各种东西，要么是豆包，要么是GPT搜索，其他的基本上也不怎么用了。作为谷歌来说呢，他是搜索引擎，他可以去推卸责任，就跟原来讲说农夫山泉仅仅是大自然的搬运工一样，我一滴水都不生产。

一瓶水都不生产，我只是把这个原来在那里的水搬过来了。谷歌也可以说这个话，这个内容都不是我产生的，我只是按照你的搜索要求，把你需要的内容给你找到了，其他跟我没关系。

谷歌相当于什么呢？相当于是一家超市，在这儿卖瓶装饮料的。但是，ChatGPT就完全不一样了，ChatGPT相当于咖啡厅，卖的是手冲咖啡。手冲咖啡的话，用户体验一定是比瓶装咖啡要好很多，因为有一个真人在替你服务了。但是，你一定要承担更大的责任。

比如说，我喝咖啡喝的拉肚子了，上吐下泻了。如果我是在便利店里买了一个瓶装咖啡的话，那么便利店只需要证明他卖的这个咖啡不是过期产品，就完事了，剩下的我就可以去找这个咖啡的生产厂商了。但如果我在咖啡馆里喝了一杯手冲咖啡，然后上吐下泻了，那这肯定是你们咖啡馆的问题，没什么好说的。

所以，前面OpenAI去推卸责任，说我只是把网上公开信息找到了给你，这件事其实是推脱不过去的。谷歌可以这么推脱，但OpenAI你是不能这么去推脱的，它必须要承担更大的责任。

人还有一个问题是什么呢？就是人在GPT的帮助下，要比在谷歌的帮助下能力更强。刚才我们也讲了，我们使用谷歌搜索的时候，还需要点去看，还需要自己总结归纳，这个工作效率是相对低一些的，甚至很多人可能压根就没有耐心去使用。但是，使用GPT的话，它直接就给你答了，没有中间你再去点进去，再去总结归纳的过程，都没有了。

所以，在GPT的帮助下，人的能力是变得更强了。而且还有一点，大家有没有想到呢？就是你跟GPT沟通的时候，会有一种跟真人沟通的这种错觉。那这个有什么关系吗？有关系。跟真人沟通的时候，你会有一种被肯定与鼓励的错觉。比如说，我要干一个什么事情，我是不是该干这个事呢？你如果跟谷歌去沟通了，去搜索了，你不会觉得这个决定是别人鼓励你做出的，或者由别人肯定过的你的一个结果，你不会有这种感觉。

但是你跟GPT沟通的时候，你会有这样的感觉：它是一种心理错觉。因为GPT为了更像人，它把自己的输出的信息做得很好，语气和语调都有变化。那么人的话就会觉得，我在跟一个真人去沟通，这会有一定的心理上的影响，这个也需要考虑在内。所以呢，AI参与的时代已经到来了。你说因噎废食，这事肯定是不可能的。你说因为我可以在OpenAI的帮助下做坏事了，那我们把OpenAI干掉吧，这个肯定不对，不能这么想这个问题。

在这里面，可能需要更多的主动干预。什么意思呢？就是现在的GPT其实已经不再是刚开始的时候那个GPT了。差异在什么地方呢？刚开始的GPT是没有记忆的，每一次你去跟它聊天的时候，它认为是一个新人。你只要开始一个新对话，这就是一个新人。你以前跟它说的所有东西它都会忘记。一方面是保护我们的隐私，另外一方面其实也是节省它的成本。如果它每次记住我们在说什么，我们到底是谁的话，它的存储成本是非常高的。

而现在的GPT，特别是GPT-4及以后的版本，它里面有一种叫长期记忆的功能。比如说，我跟它说我住什么地方，它能记住的。你下次再说的时候，它会说：“这地离我们家不远。”它能把这些事情记在一起，然后跟你一起说出来。所以呢，它已经可以收集和记录很多我们的特征了。当有上下文去跟它联系沟通，涉及到各种危险活动的时候，它其实可以更好地来判断我们的意图。当它进行这样的判断之后，就可以更早地去报警，或者更早地通知有关部门进行干预。这个其实是可以做到的。

甚至呢，它也可以说我不去报警，但是我可以在给你的内容中进行一些筛选，或者进行一些引导，而不是说我仅仅是劝诱一下：“使用爆炸物很危险，买枪一定要有手续。”这个就像一个片汤话，稍微差那么点意思了。有些人可能会说：“我再去问这个问题，我就不告诉你了。”有些人可能你说：“我去问这个。”

烟花跟炸药的这个差异的时候，他会告诉我。但是当他发现一个人反复在跟他沟通，而且有一些实施这种犯罪的动机，或者说有一些隐藏的苗头的时候，再去问相应的问题，你就可以不回答这个事情。其实，ChatGPT是可以做到的，他也应该去做这件事情。这是一方面，另外一方面是什么呢？OpenAI现在为了扩展更大的用户群体，它是有匿名使用者的，就是你不用登记信息，你就可以来用，而且还可以直接进行电话使用。就是你可以给他打一个电话，001800ChatCPT，这样的一个电话号码，打进去以后，它就直接替你服务了。

在这两种情况下，去服务的时候就要对结果进行过滤了，就是可能要进行更严格的审核，哪些东西就不能出来了，因为你没有办法判断对面到底是人是狗，是成年人是未成年人。这种情况下，如果按照传统的已经登陆用户的标准来去服务的话，那么就会有问题。这就是这种AI厂商可能未来在这一块需要做的更多的事情。

最后呢，遇到可疑行为，该报警的时候还是报警吧。我觉得在这一块上，中国政府采取的某些手段还是有可取之处的。就是我们不能把AI聊天引擎作为搜索引擎来管理，而是应该把他们作为社交媒体平台来管理。中国政府去管理这些AI助手的方式就是这样：你们是社交网络平台，大家可以在这里发布信息，可以在这里传播信息了。那么这样的管理的话就会严格很多。而社交媒体平台的话，他们去报警的这个频度一定是比搜索引擎要高得多的。

搜索引擎刚才我们讲，他不会针对个人行为报警的，他只会针对一个地区里边的一某种异常搜索现象去进行汇报。但是社交媒体平台是有可能因为个人行为去报警的。所以呢，OpenAI可能未来也是需要考虑，你是一个社交媒体平台了，而不能仅仅简单地把自己作为一个搜索引擎去逃避责任了。如果发现某些个人的行为比较诡异的话，还是应该去通知相关部门，提前预防，提前处理。这个我觉得是未来的一个方向吧。好，这一期就跟大家讲到这里。

感谢大家收听。请帮忙点赞，点小铃铛，参加 Discord 讨论群。也欢迎有兴趣的、有能力的朋友加入我们的付费频道。再见。