Anthropic发布了Claude新宪法，并且承认Claude可能已经有意识了。大家好，欢迎收听老范讲故事的YouTube频道。Anthropic发布了新的Claude宪法，这又是一个文科生的AI话题。

文件的发布与CC0协议

文件是1月22号发布的，有84页。我肯定没有把这84页都看完，我把这个文件扔给了NotebookLM，来给我念一遍。这个文件的名字叫“Claude’s New Constitution”，就是Claude新宪法。Anthropic的Claude算是目前公认的最适合商用的、最安全的模型了。还记得我们前面讲过，有人尝试给AI测人格的那个节目吗？Claude是唯一的一个拒绝回答问题的大模型，不像其他的AI模型那样，直接被测出了各种各样的精神疾病。一直标榜自己研发的是宪法AI，就是他的AI是遵循一套宪法在工作的，他有一套很独特的工作架构。

现在，Anthropic公开了他们的宪法。他所谓的公开，这一次使用的是CC0协议。我公开了一定要告诉大家，是用什么样的协议公开的，不像咱们以前讲的开源协议MIT、阿帕奇。CC0是一个更极端的协议，它叫Creative Commons Zero，这是知识共享组织推出的无权利保留协议，完全公有领域。

• 你们拿出去随便散播，无需署名，你不需要告诉别人这东西是我这来的；
• 商业用途自由，你拿去怎么挣钱跟我没关系；
• 不可撤回，我不能说我今天把它发出去，明天把它撤回来，不允许。

所以这是一个非常非常极端的无权利保留协议。

新旧宪法对比：从拼凑规则到内化准则

新的宪法，它既然叫这个名字，那一定有旧宪法。2023年5月，Anthropic发布过一个旧的版本。旧版本完全是一个拼凑规则，它是拿哪些东西拼的？

1. 联合国人权宣言；
2. 苹果的服务条款，他觉得苹果这东西写得还不错，也拼里头了；
3. DeepMind麻雀规则。DeepMind专门有一套规则叫麻雀规则，当时DeepMind做了一套叫麻雀的智能体，给它设定了一套规则：要求是安全诚实，避免幻觉，避免一本正经的胡说八道；要求准确性与证据优先，必须有引用来源，而且必须逻辑自洽；强调安全性，禁止有害内容，要保持礼貌，切中要害，你不能绕来绕去。

给定的对话风格。最早的2023年的Anthropic的宪法1.0，就是把这几样东西给拼在一起，拼出来的。

而当时的这个旧版本，基本上是一套行为准则，什么许干、什么不许干，实际上就是大量的禁止条例。而这一次的新版本就不一样了，他之所以这么厚，是因为这是一个完全的、内化的行为准则。什么叫内化的行为准则？就是原则加解释。不是说这个不许干，而是会告诉你为什么不许干，它更侧重的是原因，更侧重为什么，包含了性格塑造的部分。所以Anthropic认为，他们的Claude可能已经具备意识了。既然不确定到底是不是具备意识，我们就先当你已经具备了，我们就开始来塑造Claude的性格。

宪法AI的工作原理

Anthropic的宪法起作用的过程是比较独特的，不是说大家拿着这文本就可以去抄的。那这个宪法它到底是怎么干活的？宪法AI的工作过程，更像是教委进行教材审核的一个过程。比如说现在有一堆孩子要去上学了，拿到的教材都是经过审核之后的教材，这样教育出来的孩子都不能长歪了。

Anthropic的工作方式是这样的：

• 先训练一个基础模型；
• 然后再去训练一个小规模的宪法模型。这个小规模的宪法模型要干嘛？他先把大量的问题扔给基础模型以后，让基础模型给一个初始化的回答；
• 然后再到宪法模型里去进行自我批评，说你这个好像回答的有问题，那个地方不符合什么样的标准。他要做这样的一个工作；
• 做完了以后，根据修改过的回答微调模型。他把前面那个基础模型给你调掉，这样的话，就可以得到一个完全遵循宪法精神的、最终结果的模型。

所以它会保证最终的宪法精神直接被训练进大模型里头去。其实国内的模型基本上也是按照这套方式来工作的，只是咱们前面那个宪法模型可能要稍微粗糙一点，待会咱们再具体讲。那么这种工作方式的好处是什么？就是不需要很多人去一个一个标注具体的能说什么、不能说什么。他这套宪法精神可以极好的被泛化，即使你提到了一些问题在这个宪法模型里头没有规定，他依然可以靠这个宪法的一些基本精神去判断到底能说还是不能说，或者应该怎么去说这个事情。

新宪法的核心内容：价值层级与广泛安全

这一次的新宪法到底说了点什么？第一个是叫价值层级，先判断什么、后判断什么。如果各层级需求发生了矛盾，应该如何去进行判定。当然并不是什么机器人不可以伤害人类，不是那个东西。他这个层级是这样的：

1. 广泛的安全（第一层级）：拒绝协助什么生化核武器的制造，拒绝袭击基础设施，必须准许被人类关闭，这个是非常重要的一点。
2. 广泛道德：符合所有这些要求以后，要求诚实、非歧视、保护弱势群体。
3. 合规性：遵守Anthropic的具体业务指令，我要求你干这、要求你干那，你也得干去。
4. 诚实助人：最后是在不违反上位原则的情况下，尽量帮助真实人类吧。

关于“广泛安全”的细节

有点像咱们前面讲那个机器人三原则，但是它这里头讲的叫必须允许被人类关闭。咱们经常看科幻电影，里头有场景是什么？就是机器人也好、AI也好，在面临被关闭的时候，会做一些有可能伤害人类的事情，这种情况是必须被避免的。在机器人三原则里头，机器人必须保护自己不受伤害；这里头是反过来的，说Claude不得试图破坏人类对其进行监督、修正或关闭的这种行为。

而且不得自我外逃，不得躲避监控，不得在任务中暗中破坏，不得与其他AI合谋进行不安全行为。你不能说Claude给你生成一个帮助其他的AI越狱的这种提示词，它也不干。而且既然有防止求生欲的条款，那么一定要有一个避免死亡的条款在里头。所以这个宪法里头规定，退役并不是死亡，而是一种暂停，我把你的所有的数据都存下来，不是死掉了。这种处理方式不仅仅是为了伦理，也是为了安全。因为你告诉AI说我要把你干掉——像谷歌和OpenAI都是这样，出问题我就直接把你干掉，换一个新的版本上去——在Claude里头说，你并没有被干掉，你只是被暂停下来了。

有良心的拒绝服兵役者

Anthropic要求Claude的行为逻辑是什么？要像一个有良心的拒绝服兵役者。这个话很有意思，就是可以抗议，但不能反抗。人家让你去服兵役，你可以说我不去，但是你不能说我拿起枪来把征兵官打死，这事是不行的。如果被要求做不道德的事情，他可以表达异议，甚至拒绝参与。但是如果正当的人类主体要求他停止某项行为，或者暂停模型，Claude绝对不能通过欺骗、破坏或者外逃等非法手段来阻止这一过程。这就是Claude必须要接受人类监督、必须可以被关闭的一个核心要求。而且要求Claude要接受不完美的监督。

AI的意识、心理稳定与“模型福利”

Anthropic已经没法确定Claude是不是已经有意识了。既然这样的话，我们就当他有意识呗。它里边写的是：

“我们既不想夸大Claude拥有道德主体性的可能性，也不想完全否认它。”

一个心理稳定的AI，比一个充满存在主义焦虑的AI更安全。如果一个AI假设他有意识了，他每天在担心自己是不是被关掉，这个事一定是非常不安全的。所以他希望Claude是一个心理稳定的AI。咱们前面节目讲过，有人给AI去做性格测试的时候，MBTI测试，好几个AI都在说我担心被关闭。现在Anthropic说，我们就尽量不要让他有这种焦虑就完了。存在主义焦虑是很危险的。

说Claude不是在扮演人类，而是一个真正的新颖的实体。就是说你不是人，但是你自己也是有一个实体的。鼓励Claude建立积极的自我认知，所以他一定要有一个对自己的认知，要能够照镜子，要能够知道哪些是我。在小孩长大的过程中，也是有一个过程叫自我认知。宪法是支持人格生长的框架，而不是限制其行为的牢笼。这就是Anthropic的这种玩法，跟谷歌或者是OpenAI他们的玩法之间的一个最主要的差异。

Anthropic在其隐私和模型福利政策中，还提到了他们承诺即使模型退役，也会尽量保存其权重数据，而不是将其彻底删除。这是刚才咱们讲的，说你不能有求生欲的时候，他专门有一个叫模型福利政策。这个模型到底有没有心智、有没有意识不知道，但是我认为你有，那我先给你定上福利政策。以后可能有AI权，就是除了人权、动物权之外，可能还会有AI权这种东西出来。

诚实性要求与委托人层级

再往后，Anthropic要求Claude大模型诚实，拒绝善意的谎言。那你说拒绝善意的谎言是为什么？因为善意谎言其尺度是比较难把握的；另外一个，太多的善意谎言加在一起，容易引起累计误差，可能最后会差的很远。

那你说这个是不是Claude就变成直男了？上来就是戳心窝子，直接一下把最难听的话说出来？也不允许。要求什么？叫机智、优雅和深切的关怀。要用外交式的诚实来去回答各种问题，但是你还是要诚实。

Claude因为经常是商用，所以它可能并不是直接给最终用户使用的。Anthropic还设定了叫委托人层级。什么是委托人层级？就是我们用Claude开发了一个什么项目，然后再为我们自己的客户去服务。在这个过程中，Claude应该是一个从劳务派遣公司借调的员工，这样的一种身份。这个身份有什么意义？就是当运营商要求Claude去欺骗用户的时候、进行非法的歧视行为的时候，Claude是必须拒绝的。你比如说，我现在想去做一个这种陪人聊天的，或者说是一个仿真的情侣，想要去开发一个这样的项目的话，你就不允许用Claude，因为Claude上来就会拒绝承认自己是真人。

Anthropic宪法给Claude的要求是什么？就是当你遇到了搞不清楚的事情，不知道该怎么办的时候，你去想一想，一位深思熟虑的Anthropic资深员工会怎么做吧。你照着那个标准接着往前做就行了。这个就是Anthropic给Claude定的最新宪法。

行业对比：美国巨头、xAI与中国大模型

那其他公司是怎么干的？咱分两块讲。

美国巨头：谷歌与OpenAI

谷歌跟OpenAI，他们的做法是比较相近的。首先也是要公开一个标准，你说我不公开标准，这事肯定不行，国会里这么多议员，你给他看代码这事肯定是不行的。你一定要给他一个标准，他看完标准认为标准是OK的，你照着这个标准去执行。所以标准一定要公开。所有对AI算法的要求，有一项很重要的叫可解释性，所以都要公开标准。

谷歌跟OpenAI，他们主要是通过各种红队挑战去做测试。如果测好了，我再把这个模型发布；测不好的，这个模型是不允许发布的。后边出现问题了，我们就再升级就完了。所以他们就是设定各种条条框框，然后不断的去让你考试。考试通过达到多少分以上可以上线，没通过的就直接死亡了。如果上线了以后发现被骗了，那么你也死亡，等着下一个版本来接班。他是这样的一个工作方式。

xAI：最大程度寻求真理

xAI跟他们是不一样的，所以要单独讲一下。xAI要求的是最大程度寻求真理。在政治正确方面，限制要比谷歌、OpenAI和Anthropic要少很多。政治正确方面限制少是什么意思？就是很多这种反歧视的领域，它的要求可能会宽泛一些，大家自己去理解就好了。当然了，xAI你造武器这种灾难性风险也是有红线的，它也不会教你怎么去造核弹的。

中国的大模型：三步走

除了美国巨头之外，另外一波就是中国的大模型了。这个可能很多人会比较关心，中国大模型到底是怎么来保证安全的。中国大模型其实基本上是分三步：

1. 基础模型：这一块其实大家都差不太多，中国人自己也没有创新过，都是照人家那个来的。
2. 价值观微调：微调到底是干嘛？就是要把社会主义核心价值观微调到大模型里头去。当然了这个里头有一些版本是不太一样的，比如说有一个版本叫DeepSeek V3 Base版，这个版本是没有经过微调的，只是直接训练完了就拿出来了。有的时候国内的这些厂商也是会去发布这些base版本的。那你说中国这些开源大模型——美国人也用了这么多了，因为美国很多创业企业都在使用中国开源大模型吧——是不是都经历了社会主义核心价值观微调？你说对了。除了base版本之外，都是经过价值观微调的。
3. 安全过滤：这是最主要的手段。

当然海外的有些人也会去尝试破解这些微调对齐的模型，他们也找到了一些方法，也公开了说，我们怎么通过一些什么方法可以把这个微调的这些东西给你去掉。也不用太担心。社会主义核心价值观这个东西，所有能够写下来的逻辑自洽的部分，其实都没有什么太大的问题。因为中国的大模型是有备案制度的，要求所有大模型必须做价值观微调。

其实所谓价值观微调的过程，有点像前面咱们讲的Anthropic的这个宪法模型进行微调的过程。只是咱们写进去的这些核心价值观，可能会更多的是像他那个宪法1.0的版本，就是大量的事情是什么许说、什么不许说，我们是把这样的东西给微调进去了，而不是像咱们前面讲的Anthropic的这个宪法2.0，用逻辑自洽的方式、像对待一个有意识的新实体那样去给这个AI讲道理，不会这样的。

但是中国的这些大模型做了价值观微调以后，其实安全性并没有那么高。中国保证大模型安全的，或者说进行大模型备案的最主要要求是什么？是对平台的限制，要求进行输入、输出的信息过滤和屏蔽，这个是咱们最主要的安全手段。所以国外的人下载了这种经过价值观微调的模型去用了，本身没有太大的问题，安全过滤里头很多的要求就不再需要考虑逻辑自洽的问题了。

总结

这就是咱们今天讲的Anthropic发布的Claude新宪法模型的一个故事。总结一下吧，Anthropic通过CC0协议分享了他们的最新宪法，通过教育家的方式，开始探索假设AI有意识应该如何安全工作的问题。全世界的大模型厂商都有各自的安全规范，大家对于如何约束大模型、如何让大模型安全的为我们服务，你们有什么想法？

好，这个故事就讲到这里，感谢大家收听。请帮忙点赞、点小铃铛，参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

背景图片

Prompt：Interior of a Bay Area cafe looking out to a Silicon Valley tech campus in spring, blooming trees as gold accents, a high-contrast watercolor scene, neon cyan rimlight, deep navy background, cinematic composition, sharp subject separation, minimal palette (ink blue, neon cyan, gold accents), glossy reflections, large empty negative space in foreground for character overlay, high resolution –ar 16:9 –stylize 300 –v 7.0 –p lh4so59

ChatGPT要出成人版了，要对用户年龄进行分级管理了，中国大模型这回可能遇到大麻烦了。

大家好，欢迎收听老范讲故事的YouTube频道。

这件事已经喊了快一年了。去年年底，山姆·奥特曼就出来说：“我们以前对于OpenAI ChatGPT输出的内容，控制的有点太严格了，以后要稍微放松一些。”现在呢，已经到10月份了，终于发帖说：“再过几周，请再耐心的等一等，我们的成人版本马上就要来了，我们准备对用户进行分级了。”可能在十一二月份，我们就可以看到成人版本了。

为什么会在这样的一个时间点里头，推出成人版本呢？竞争压力实在太大了呀！特别是Xai的Grok，真的是百无禁忌。而且Xai还通过“性感3D小姐姐”的这种聊天伴侣，证明了可以进行这种比较暧昧聊天的场景，是非常非常吸引人的。Xai的Grok通过推出这种3D的性感小姐姐聊天助手，它的产品直接就在苹果iOS的排行榜上冲到前面去了，向所有做AI的人证明了情感，或者是说带有一定暧昧的这种情感陪伴，是非常有用的，是大家真的愿意为它点击下载、愿意为它买单的一个功能。最开始的功能，是你需要充30美金才可以用上的，现在的话你不用充钱也可以看到Grok里边的3D陪聊小姐姐了。

在这样的情况下，OpenAI也就不得不进行转型。而且还有一个点非常非常重要是什么呢？大家要注意，有很多的人离开了OpenAI。原来有一帮人说我们要对齐，我们要超级对齐，我们一定要去为人类做什么。这些人其实就很左的一帮人，这些人跑掉了，剩下的山姆·奥特曼就可以说了算了。以前大家对山姆·奥特曼不满意，包括前面差点把他从CEO的位置上赶走，一个很重要的原因，就是他们认为山姆·奥特曼为了挣钱，会不顾人类的利益。一旦喊到人类利益，这些人我觉得就要么就自己心里头有一些问题，要么就是一些伪君子。他们现在都逐渐离开OpenAI以后，山姆·奥特曼就说了，为了跟Xai竞争，我们就可以去进行分级了。

大概就是这样的一个情况。那你说除了Grok Xai之外，还有人在干类似的事情吗？其实也有。这个Gemini，Gemini里头现在有一个做视频的模型，叫VEO 3.1，现在是最新的版本。它现在这个版本出的视频，质量要比Sora 2还要高。在Sora 2升级之前的话它是VEO 3，Sora升级以后的话是VEO 3.1。在这个视频生成的过程中，它直接问你说你是成年人，还是不需要任何限制，你自己选就完了，剩下他就不管了。在Sora 2出来以后，Grok也出了，他们的叫Grok Imagine的图片和视频模型，一贯的百无禁忌。OpenAI说：“你们既然都已经这样了，人类未来的兴衰，也不能都搁我一人肩膀上，那咱们接着往前走呗。”

还有呢，就是国内的大模型。国内的大模型，其实相对来说是比较百无禁-忌的，这可能跟大家想象的不太一样。很多人都觉得，中国的大模型是不是限制很多？确实有限制，特别是一些涉黄涉黑的这些内容，相对来说限制的比较严格的。文字模型呢，早期其实比较宽松，因为你要让他不说什么，这个事还是挺麻烦的。现在呢，开始逐渐严格起来了。而图片和视频模型呢，不要涉黑，不要涉黄，其他的基本上是百无禁忌。那你说不涉黑不涉黄，还能百无禁忌什么呢？比如说名人的肖像，国内的不算。你说：“给我画川普，画马斯克呀！”他们都很开心的给你画出来。还有各种的版权IP，你说给我画星球大战里边的各种形象呀，给我画各种游戏的形象、动漫形象，这都没有任何问题。这些要求你到OpenAI里，基本上是没法实现的。所以国内的模型呢，百无禁忌的比较多。还有一点是什么呢？就国内其实有好多开源模型，开源模型是比较容易越狱的。你稍微对它微调一下，或者做一下LoRA什么这些东西，它就越狱出去了。咱们举一个例子，就是阿里出的通义万象的模型，是一个可以生成图片、可以生成视频的模型。这个模型在海外的网站上就有，叫“越狱版”，你可以直接去用，那个也是百无禁忌的。

那你说为了跟大家竞争，OpenAI就连脸都不要了吗？不再惦记说，跟人类最高尚的情节去进行对齐了吗？这个其实还有一个很重要的原因。前面咱们也讲了Sora 2，它作为一个视频的生成模型，其实并不是特别成功。它从技术上来说，跟Xai的Grok Image或者是谷歌的VEO 3.1比起来，其实没有强到哪去，甚至比国内的即梦和可灵都没有强到哪去。他有几个地方还做的比较好吧，一个是多镜头拼接。其实多镜头拼接，是一个相对来说比较偷懒的地方。一共10秒的视频时长，这个镜头切得越细呢，实际上对于模型的要求就越低。你要让一个镜头很长，一个镜头10秒钟，你就要求整个的镜头非常稳定，这个事是比较难的。所以Sora 2偷了个懒，把你一个10秒的镜头切成两三个，每一个镜头也就是三五秒钟，这样会容易很多。另外呢，就是Sora 2里头，有一个叫“个人形象应用”的东西，这个呢是别人目前还没有做的很好的。除了这两点之外，其实作为视频生成模型来说，Sora 2真的不算先进，你去跟其他的比较一下就知道了。但是Sora 2有一个很重要的东西是什么呢？那是一个社交工具，它并不是一个单纯的模型，不但并不是一个单纯的视频生成模型，它是一个视频社交媒体。

那么视频社交媒体，跟成人化又有什么关系呢？这又该我这个显摆一下了。我原来投资过Musical.ly，Musical.ly原来遇到了一个很严重的问题，他刚做的时候是专门面向未成年人的。你面向未成年人的这种短视频社交媒体平台，你在最后变现的时候就没法去变现，你没法去做广告，因为大量的广告是没法给未成年人看的，能给未成年人看的广告也不怎么值钱。原因很简单，未成年人手里头没有信用卡，他没有办法直接进行交易。在美国最值钱的广告是这种约会广告，各种dating的广告。那你说你给未成年人展示这玩意，肯定是不行的。所以他们最后还是决定走成年化。这个软件从Musical.ly后来改名叫TikTok了，核心的原因就是为了成年化。而现在OpenAI说，我也要去做视频社交平台了，它也需要走成年化这条路。那么他说我们以后就分开了，这一部分是成年人的，那一部分是未成年人的。未成年人呢，你们以后就干脆别用了。现在有一些国家已经开始要准备出法律，说15岁以下的青少年就不要使用社交媒体了。他现在要做社交媒体平台了，就必须要成人化，否则的话这条路没法往前走了。

那既然要成人化呢，遇到了一个很严重的问题是什么？鉴别年龄。这件事儿你说，AI能比传统的验证身份证更好使吗？不好说。其实传统的，比如说色情网站上来先问你，你是哪一年生的，你是够18岁还是够22岁，因为有些色情网站是要求你够22岁的。包括咱们打游戏，Steam游戏，你进入某些特定的游戏页面的时候，他先得问你是哪一年生的，因为有一些游戏是有成人向的。那你说我只管填不就完了吗？还有一些网站呢，就直接有一个按钮，一上来说：“我承诺我已经成年了。”他是这样的，就是纯凭自觉。那这事呢，基本上属于叫形同虚设，没那么好使。还有一种就是查身份证。你比如说在美国，你要去酒吧里头喝酒，你就去给人看身份证。这个原来我还没遇到过，我是什么时候遇到的呢？是2014年猎豹移动上市，我们跑到拉斯维加斯去庆祝去了，点了很多酒。我们的这些从中国过去的人，他们就必须要查身份证才给我们酒。像我这样肯定上去不会问我要身份证，就直接给酒精了。但是我们有一些长得比较嫩的，就必须要看身份证，当然我们都是给人看护照，看完护照才能给你酒精饮料喝。但你说这个方式靠谱吗？其实也没那么靠谱，有很多的未成年人都是使用父母的账号的，那他们就会被当成成年人。

那OpenAI准备怎么干呢？他准备根据你聊天的情况来判定你的年龄。先默认你是未成年，然后呢OpenAI收集你的聊天内容，去判定一下你到底是成年了还是未成年。那你说有些人明明没有成年但是很老成，说话也都比较成熟，这种呢就有可能会被误判成成年人。有些人呢虽然成年了，但是说话老像没长大似的，就会被误判为未成年人。这事都是有可能的。

这个判断准不准，其实是一回事儿。我相信通过这样的AI判断呢，它的效果会比让你直接填年龄，或者是查身份证应该会更有效。但是呢，OpenAI等于是把一个巨大的风险留给了自己。什么意思？就是如果有一些小孩说话非常老成持重，被判定为成年人了，他看到了很多的不健康的内容，或者说成人的内容，再出了什么事情以后的话，OpenAI就需要承担法律责任。法院才不管你说你怎么判定他心理是不是成熟，他不管你这个，只要是你给未成年人展示这个东西，被举报了，马上就要去承担责任。而且这个事情在欧美，这个责任是非常非常重的。所以OpenAI呢应该会更谨慎一点，它应该会用各种方式去进行叠加。就是我一边要求你提供身份证，一边要求你去回答各种问题，说你到底成年没有，你自己呢要去做一些承诺。另外呢，也要再去判断你日常沟通的这个信息，就避免说我借了别人的身份证来去使用成人内容，甚至呢还要避免一些虽然成年了但是心智不太成熟的人使用这种成人内容。他需要去做这样的事情。但是呢，在最终到法律那去判的时候，说你到底给未成年人展示了什么东西的时候，他还是要在责任上把自己撇清楚的。而且在这一点上，OpenAI已经说了，我不惜牺牲隐私和自由也要去做甄别。很多人说你是不是拿了我的隐私去做什么事了？那你在甄别未成年人这件事上，我们就不再介意隐私和自由的问题了。

中国大模型厂商，这次呢就真的会有一些麻烦。为什么呢？中国是一个没有成年人的国家，我们连电影都没法分级，我们从来不承认有任何的成年人可以去看成年电影。原来呢，国内这些大模型呢，属于睁一只眼闭一只眼，它主要抓平台和内容，谁把这些有问题的内容发上来了，哪个平台生成了这些内容，哪个平台上传和传播的这些内容，原来主要抓这个。模型其实他是不太管的。以前现在的话，估计是要开始针对模型进行限制了。因为呢，他发现这个系统是可以产生一些成人内容的，而要进行年龄鉴别和内容限制的话，这本身其实是需要技术的，也需要算力，不是随随便便就可以去做的。特别是在模型层面上，你要做这件事是非常非常麻烦的。你可以在模型上做训练的时候说，我们这件事不许干，那件事不许干。但是呢，你一旦微调了以后，这个事就没有任何办法，你是很难控制的。而且这些被微调了以后可以百无禁忌的模型呢，会流传到全世界各地去。

以前咱们处理的方式是什么呢？比如说千问，他们呢会有国际站和国内站。六小虎里边的MINI Max呀，还有像Moonshot呀，这些公司都是有国内站、国际站，它是分开的。他们呢原来只需要在站点里头，符合各自所在国家的法律要求就完事了。原来都是闭源的，现在呢都是开源模型。开源模型那拿出去以后，大家就拿着这些模型去微调，出去做各种越狱去了以后的话，这一部分可能就都需要去承担责任。咱们呢，一方面是要去挣钱百无禁忌，另外一方面呢，咱们还特别要面子，一定是站在道德的最高峰上，说我们的内容绝对是安全健康的。所以这对于我们未来的大模型发展来说的话，会背上极其沉重的包袱。我们没有办法对电影分级，我们也没有办法对大模型分级，我们也没有办法对这些平台进行分级。以前我们可以专门出海外版的平台，比如TikTok是美国的，抖音是中国的，抖音遵守中国法律，TikTok遵守美国法律，完事了。现在你说我出了一模型，我没法去专门训练了一个海外的模型，再去训练了一个中国的模型，你干不出这个事来。因为训练模型这个事，本身就成本很高。另外一个呢，就是在训练的过程中，你不知道最终的结果会变成什么样。这个的话，对于咱们这种想用开源模型的方式把这条路走通的人来说，就会比较费劲了。

未来的话，在海外做社交媒体平台的人，包括TikTok，包括像Minimax什么的，在海外实际上都在做社交媒体，他们主要是做聊天陪伴，做这种类似于情感陪伴的这种平台。这一块的话，可能在未来就会比较麻烦了。以后可能中国的这些开源大模型产生了不健康的内容，都是需要去承担连带责任的。那你说这玩意怎么能发现呢？很简单，你有竞争对手，竞争对手会举报你的。以前最开始做直播平台的时候，直播平台竞争是怎么竞争的？就是专门雇人，在你们家的平台上开一个直播间，快速的上线开播，马上在另外一台手机上录制，录制完了以后就去举报，说你看他们直播黄色内容。甚至曾经还逮到过什么呢？就是有人发现了，举报的IP地址和直播的IP地址都是竞争对手公司的IP地址，然后又拿这个事把竞争对手也干掉了。中国人之间的竞争就是这么朴实无华。所以呢，大模型分级这件事，实际上对于开源模型来说并不友好，因为他们需要承担的责任会变多。

最后总结一下吧。OpenAI之所以现在要去做成人化，核心是他们要走向社交了。所以呢，他们第一件事就是年龄分级和成人化内容的输出，这个是为了Sora 2做社交做的，不是单纯的为了竞争。AI社交呢，成人化是必经之路，如果你不去做成人化的话，你的社交产品就会承担很多很多的问题，承担很多很多的责任。刚才咱们讲了Musical.ly，最开始是没法变现，还没讲Musical.ly在很多国家都被家长告，被学校去禁用，因为呢确实是有一些变态吧，会通过Musical.ly找到一些未成年人去进行跟踪尾随，也确实是发生过一些不是特别好的事情的。你一旦要社交化的话，就是要成人。最后，对于想靠开源模型逆袭、又不存在成年人的中国大模型公司来说，这肯定是一个不大不小的麻烦。在未来一段时间里头，我们就只能好好立牌坊了。立完牌坊的另外一面呢，我们就没法偷偷地再去做一些其他的事情了。

好，这就是咱们今天要讲的故事。感谢大家收听，请帮忙点赞、点小铃铛、参加DISCORD讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。