酝酿近一年，OpenAI终官宣！ChatGPT成人版几周后上线，用聊天记录判定年龄，隐私与安全面临大考｜OpenAI、Sora、Age Verification、Adult Content

10 月 17

Luke FanAIGC , , , , , , , , , , , , , , , , , , , , , , , 酝酿近一年，OpenAI终官宣！ChatGPT成人版几周后上线，用聊天记录判定年龄，隐私与安全面临大考｜OpenAI、Sora、Age Verification、Adult Content已关闭评论

ChatGPT要出成人版了，要对用户年龄进行分级管理了，中国大模型这回可能遇到大麻烦了。

大家好，欢迎收听老范讲故事的YouTube频道。

这件事已经喊了快一年了。去年年底，山姆·奥特曼就出来说：“我们以前对于OpenAI ChatGPT输出的内容，控制的有点太严格了，以后要稍微放松一些。”现在呢，已经到10月份了，终于发帖说：“再过几周，请再耐心的等一等，我们的成人版本马上就要来了，我们准备对用户进行分级了。”可能在十一二月份，我们就可以看到成人版本了。

为什么会在这样的一个时间点里头，推出成人版本呢？竞争压力实在太大了呀！特别是Xai的Grok，真的是百无禁忌。而且Xai还通过“性感3D小姐姐”的这种聊天伴侣，证明了可以进行这种比较暧昧聊天的场景，是非常非常吸引人的。Xai的Grok通过推出这种3D的性感小姐姐聊天助手，它的产品直接就在苹果iOS的排行榜上冲到前面去了，向所有做AI的人证明了情感，或者是说带有一定暧昧的这种情感陪伴，是非常有用的，是大家真的愿意为它点击下载、愿意为它买单的一个功能。最开始的功能，是你需要充30美金才可以用上的，现在的话你不用充钱也可以看到Grok里边的3D陪聊小姐姐了。

在这样的情况下，OpenAI也就不得不进行转型。而且还有一个点非常非常重要是什么呢？大家要注意，有很多的人离开了OpenAI。原来有一帮人说我们要对齐，我们要超级对齐，我们一定要去为人类做什么。这些人其实就很左的一帮人，这些人跑掉了，剩下的山姆·奥特曼就可以说了算了。以前大家对山姆·奥特曼不满意，包括前面差点把他从CEO的位置上赶走，一个很重要的原因，就是他们认为山姆·奥特曼为了挣钱，会不顾人类的利益。一旦喊到人类利益，这些人我觉得就要么就自己心里头有一些问题，要么就是一些伪君子。他们现在都逐渐离开OpenAI以后，山姆·奥特曼就说了，为了跟Xai竞争，我们就可以去进行分级了。

大概就是这样的一个情况。那你说除了Grok Xai之外，还有人在干类似的事情吗？其实也有。这个Gemini，Gemini里头现在有一个做视频的模型，叫VEO 3.1，现在是最新的版本。它现在这个版本出的视频，质量要比Sora 2还要高。在Sora 2升级之前的话它是VEO 3，Sora升级以后的话是VEO 3.1。在这个视频生成的过程中，它直接问你说你是成年人，还是不需要任何限制，你自己选就完了，剩下他就不管了。在Sora 2出来以后，Grok也出了，他们的叫Grok Imagine的图片和视频模型，一贯的百无禁忌。OpenAI说：“你们既然都已经这样了，人类未来的兴衰，也不能都搁我一人肩膀上，那咱们接着往前走呗。”

还有呢，就是国内的大模型。国内的大模型，其实相对来说是比较百无禁-忌的，这可能跟大家想象的不太一样。很多人都觉得，中国的大模型是不是限制很多？确实有限制，特别是一些涉黄涉黑的这些内容，相对来说限制的比较严格的。文字模型呢，早期其实比较宽松，因为你要让他不说什么，这个事还是挺麻烦的。现在呢，开始逐渐严格起来了。而图片和视频模型呢，不要涉黑，不要涉黄，其他的基本上是百无禁忌。那你说不涉黑不涉黄，还能百无禁忌什么呢？比如说名人的肖像，国内的不算。你说：“给我画川普，画马斯克呀！”他们都很开心的给你画出来。还有各种的版权IP，你说给我画星球大战里边的各种形象呀，给我画各种游戏的形象、动漫形象，这都没有任何问题。这些要求你到OpenAI里，基本上是没法实现的。所以国内的模型呢，百无禁忌的比较多。还有一点是什么呢？就国内其实有好多开源模型，开源模型是比较容易越狱的。你稍微对它微调一下，或者做一下LoRA什么这些东西，它就越狱出去了。咱们举一个例子，就是阿里出的通义万象的模型，是一个可以生成图片、可以生成视频的模型。这个模型在海外的网站上就有，叫“越狱版”，你可以直接去用，那个也是百无禁忌的。

那你说为了跟大家竞争，OpenAI就连脸都不要了吗？不再惦记说，跟人类最高尚的情节去进行对齐了吗？这个其实还有一个很重要的原因。前面咱们也讲了Sora 2，它作为一个视频的生成模型，其实并不是特别成功。它从技术上来说，跟Xai的Grok Image或者是谷歌的VEO 3.1比起来，其实没有强到哪去，甚至比国内的即梦和可灵都没有强到哪去。他有几个地方还做的比较好吧，一个是多镜头拼接。其实多镜头拼接，是一个相对来说比较偷懒的地方。一共10秒的视频时长，这个镜头切得越细呢，实际上对于模型的要求就越低。你要让一个镜头很长，一个镜头10秒钟，你就要求整个的镜头非常稳定，这个事是比较难的。所以Sora 2偷了个懒，把你一个10秒的镜头切成两三个，每一个镜头也就是三五秒钟，这样会容易很多。另外呢，就是Sora 2里头，有一个叫“个人形象应用”的东西，这个呢是别人目前还没有做的很好的。除了这两点之外，其实作为视频生成模型来说，Sora 2真的不算先进，你去跟其他的比较一下就知道了。但是Sora 2有一个很重要的东西是什么呢？那是一个社交工具，它并不是一个单纯的模型，不但并不是一个单纯的视频生成模型，它是一个视频社交媒体。

那么视频社交媒体，跟成人化又有什么关系呢？这又该我这个显摆一下了。我原来投资过Musical.ly，Musical.ly原来遇到了一个很严重的问题，他刚做的时候是专门面向未成年人的。你面向未成年人的这种短视频社交媒体平台，你在最后变现的时候就没法去变现，你没法去做广告，因为大量的广告是没法给未成年人看的，能给未成年人看的广告也不怎么值钱。原因很简单，未成年人手里头没有信用卡，他没有办法直接进行交易。在美国最值钱的广告是这种约会广告，各种dating的广告。那你说你给未成年人展示这玩意，肯定是不行的。所以他们最后还是决定走成年化。这个软件从Musical.ly后来改名叫TikTok了，核心的原因就是为了成年化。而现在OpenAI说，我也要去做视频社交平台了，它也需要走成年化这条路。那么他说我们以后就分开了，这一部分是成年人的，那一部分是未成年人的。未成年人呢，你们以后就干脆别用了。现在有一些国家已经开始要准备出法律，说15岁以下的青少年就不要使用社交媒体了。他现在要做社交媒体平台了，就必须要成人化，否则的话这条路没法往前走了。

那既然要成人化呢，遇到了一个很严重的问题是什么？鉴别年龄。这件事儿你说，AI能比传统的验证身份证更好使吗？不好说。其实传统的，比如说色情网站上来先问你，你是哪一年生的，你是够18岁还是够22岁，因为有些色情网站是要求你够22岁的。包括咱们打游戏，Steam游戏，你进入某些特定的游戏页面的时候，他先得问你是哪一年生的，因为有一些游戏是有成人向的。那你说我只管填不就完了吗？还有一些网站呢，就直接有一个按钮，一上来说：“我承诺我已经成年了。”他是这样的，就是纯凭自觉。那这事呢，基本上属于叫形同虚设，没那么好使。还有一种就是查身份证。你比如说在美国，你要去酒吧里头喝酒，你就去给人看身份证。这个原来我还没遇到过，我是什么时候遇到的呢？是2014年猎豹移动上市，我们跑到拉斯维加斯去庆祝去了，点了很多酒。我们的这些从中国过去的人，他们就必须要查身份证才给我们酒。像我这样肯定上去不会问我要身份证，就直接给酒精了。但是我们有一些长得比较嫩的，就必须要看身份证，当然我们都是给人看护照，看完护照才能给你酒精饮料喝。但你说这个方式靠谱吗？其实也没那么靠谱，有很多的未成年人都是使用父母的账号的，那他们就会被当成成年人。

那OpenAI准备怎么干呢？他准备根据你聊天的情况来判定你的年龄。先默认你是未成年，然后呢OpenAI收集你的聊天内容，去判定一下你到底是成年了还是未成年。那你说有些人明明没有成年但是很老成，说话也都比较成熟，这种呢就有可能会被误判成成年人。有些人呢虽然成年了，但是说话老像没长大似的，就会被误判为未成年人。这事都是有可能的。

这个判断准不准，其实是一回事儿。我相信通过这样的AI判断呢，它的效果会比让你直接填年龄，或者是查身份证应该会更有效。但是呢，OpenAI等于是把一个巨大的风险留给了自己。什么意思？就是如果有一些小孩说话非常老成持重，被判定为成年人了，他看到了很多的不健康的内容，或者说成人的内容，再出了什么事情以后的话，OpenAI就需要承担法律责任。法院才不管你说你怎么判定他心理是不是成熟，他不管你这个，只要是你给未成年人展示这个东西，被举报了，马上就要去承担责任。而且这个事情在欧美，这个责任是非常非常重的。所以OpenAI呢应该会更谨慎一点，它应该会用各种方式去进行叠加。就是我一边要求你提供身份证，一边要求你去回答各种问题，说你到底成年没有，你自己呢要去做一些承诺。另外呢，也要再去判断你日常沟通的这个信息，就避免说我借了别人的身份证来去使用成人内容，甚至呢还要避免一些虽然成年了但是心智不太成熟的人使用这种成人内容。他需要去做这样的事情。但是呢，在最终到法律那去判的时候，说你到底给未成年人展示了什么东西的时候，他还是要在责任上把自己撇清楚的。而且在这一点上，OpenAI已经说了，我不惜牺牲隐私和自由也要去做甄别。很多人说你是不是拿了我的隐私去做什么事了？那你在甄别未成年人这件事上，我们就不再介意隐私和自由的问题了。

中国大模型厂商，这次呢就真的会有一些麻烦。为什么呢？中国是一个没有成年人的国家，我们连电影都没法分级，我们从来不承认有任何的成年人可以去看成年电影。原来呢，国内这些大模型呢，属于睁一只眼闭一只眼，它主要抓平台和内容，谁把这些有问题的内容发上来了，哪个平台生成了这些内容，哪个平台上传和传播的这些内容，原来主要抓这个。模型其实他是不太管的。以前现在的话，估计是要开始针对模型进行限制了。因为呢，他发现这个系统是可以产生一些成人内容的，而要进行年龄鉴别和内容限制的话，这本身其实是需要技术的，也需要算力，不是随随便便就可以去做的。特别是在模型层面上，你要做这件事是非常非常麻烦的。你可以在模型上做训练的时候说，我们这件事不许干，那件事不许干。但是呢，你一旦微调了以后，这个事就没有任何办法，你是很难控制的。而且这些被微调了以后可以百无禁忌的模型呢，会流传到全世界各地去。

以前咱们处理的方式是什么呢？比如说千问，他们呢会有国际站和国内站。六小虎里边的MINI Max呀，还有像Moonshot呀，这些公司都是有国内站、国际站，它是分开的。他们呢原来只需要在站点里头，符合各自所在国家的法律要求就完事了。原来都是闭源的，现在呢都是开源模型。开源模型那拿出去以后，大家就拿着这些模型去微调，出去做各种越狱去了以后的话，这一部分可能就都需要去承担责任。咱们呢，一方面是要去挣钱百无禁忌，另外一方面呢，咱们还特别要面子，一定是站在道德的最高峰上，说我们的内容绝对是安全健康的。所以这对于我们未来的大模型发展来说的话，会背上极其沉重的包袱。我们没有办法对电影分级，我们也没有办法对大模型分级，我们也没有办法对这些平台进行分级。以前我们可以专门出海外版的平台，比如TikTok是美国的，抖音是中国的，抖音遵守中国法律，TikTok遵守美国法律，完事了。现在你说我出了一模型，我没法去专门训练了一个海外的模型，再去训练了一个中国的模型，你干不出这个事来。因为训练模型这个事，本身就成本很高。另外一个呢，就是在训练的过程中，你不知道最终的结果会变成什么样。这个的话，对于咱们这种想用开源模型的方式把这条路走通的人来说，就会比较费劲了。

未来的话，在海外做社交媒体平台的人，包括TikTok，包括像Minimax什么的，在海外实际上都在做社交媒体，他们主要是做聊天陪伴，做这种类似于情感陪伴的这种平台。这一块的话，可能在未来就会比较麻烦了。以后可能中国的这些开源大模型产生了不健康的内容，都是需要去承担连带责任的。那你说这玩意怎么能发现呢？很简单，你有竞争对手，竞争对手会举报你的。以前最开始做直播平台的时候，直播平台竞争是怎么竞争的？就是专门雇人，在你们家的平台上开一个直播间，快速的上线开播，马上在另外一台手机上录制，录制完了以后就去举报，说你看他们直播黄色内容。甚至曾经还逮到过什么呢？就是有人发现了，举报的IP地址和直播的IP地址都是竞争对手公司的IP地址，然后又拿这个事把竞争对手也干掉了。中国人之间的竞争就是这么朴实无华。所以呢，大模型分级这件事，实际上对于开源模型来说并不友好，因为他们需要承担的责任会变多。

最后总结一下吧。OpenAI之所以现在要去做成人化，核心是他们要走向社交了。所以呢，他们第一件事就是年龄分级和成人化内容的输出，这个是为了Sora 2做社交做的，不是单纯的为了竞争。AI社交呢，成人化是必经之路，如果你不去做成人化的话，你的社交产品就会承担很多很多的问题，承担很多很多的责任。刚才咱们讲了Musical.ly，最开始是没法变现，还没讲Musical.ly在很多国家都被家长告，被学校去禁用，因为呢确实是有一些变态吧，会通过Musical.ly找到一些未成年人去进行跟踪尾随，也确实是发生过一些不是特别好的事情的。你一旦要社交化的话，就是要成人。最后，对于想靠开源模型逆袭、又不存在成年人的中国大模型公司来说，这肯定是一个不大不小的麻烦。在未来一段时间里头，我们就只能好好立牌坊了。立完牌坊的另外一面呢，我们就没法偷偷地再去做一些其他的事情了。

好，这就是咱们今天要讲的故事。感谢大家收听，请帮忙点赞、点小铃铛、参加DISCORD讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

Comments are closed.