新时代和AI女友聊骚，有可能会触犯传播淫秽物品罪，这到底是一个什么样奇葩的故事？

大家好，欢迎收听老范讲故事的YouTube频道。

今天我一个朋友，向我推荐了一个有趣的案例。他是在视频号上，这个账号的名字呢，叫做“武汉刑事律师郭庆子”，是一个黄标认证的律师。这位律师呢，经常会把自己接听有刑事诉讼需求的听众的一些电话的过程录下来，再进行剪辑。因为这种东西，我估计不太好直播，总是要剪辑一下。一方面呢，是一些太敏感的信息就可以去掉；另外一方面呢，剪辑了以后呢，也会更有吸引力一些。

这个里头呢，有一位听众来电了，说使用AI应用，这个AI应用里头就提供一些AI女友，你可以跟她们去聊天。他通过自己捏脸，塑造了一些AI女友，大概塑造了9个，起的名字呢，都是比较有诱惑力的名字吧。这些AI女友，除了它定义的名字和捏脸之外呢，估计有可能会可以定义一些系统提示词。但是呢，这个视频很短，并没有去详细说具体是哪一个AI应用，或者说他到底在里边定制了哪些东西。总之呢，他定制了9个AI女友。

这些AI女友不单是可以跟他自己聊天，还可以跟平台上的其他用户去聊天，那么他就被提起诉讼了，叫“传播淫秽物品罪”，要求他呢认罪认罚，判6个月，可以缓刑，基本上应该就不用进去了。但是呢，这位听众呢，希望做无罪辩护。法官认为他是有问题的，不认罪认罚的话，就会判8个月的有期徒刑，这要判实刑的。

这个律师呢，就进一步的跟他确认了一下信息。首先呢，你知不知道自己创建的AI女友，有可能会去被别的用户使用？这个听众呢说的很模糊，就是说呢，我不太清楚。其实按道理说他应该知道，他也去平台上跟其他的AI女友聊了天了嘛，而且他把AI女友的名字起的这么诱惑，也希望他的AI女友受欢迎。其实就有点像我们去发微博，希望有人看，写小说希望有人点击点赞，这个过程是一样的。但是呢，他说并没有明确的告知他，这些AI女友会跟其他人去沟通。

然后呢，他就问说，对方提供的证据是什么样的呢？他说人家是给了一个Excel表格，这个Excel表格里头呢，有一个叫做“AI女友的ID”，然后呢是具体说了哪些露骨的话，大概给她搜集了60得多条。然后呢，问了一个很关键的问题，是什么呢？就是说那个您创造了一些AI女友，这些AI女友去跟别人聊天去了，获利了没有？你是不是在里头挣钱了？这个听众很明确的告诉他说，没有获利，大家就是在里头玩个开心。

这个律师的建议是什么呢？第一个，这个证据呢并不是那么可靠。这个Excel表格里头只有AI女友的ID，这个内容没有办法说确定证据，说这东西就是你的，这个还是可以去抗争一下的。第二个呢，就是你没有主动传播的意愿，你自己也没有主动的去把这些AI女友推荐给别人，只是说我自己创建了，本来以为自己玩呢，AI女友去跟其他人聊天的过程，你又不知道，这个事情呢你还是可以去抗争一下的。而且关键是你没有获利，你没有获利的话，你就没有主动传播的意愿，这个地方是可以去辩护的。说最怕的是什么呢？最怕的是法官主观意愿认为你有罪。现在的话有很多的法官确实道德标准非常非常高，以道德去超越法律给人定罪，这种事情呢是时有发生的。你像杨景媛这样的人也通过了法考，也是可以去做法官的，所以大家还是要小心。他说如果遇到这种事情就都很难办。

AI色情内容，在全世界各地都是怎么去判的呢？或者是有哪些判例呢？

首先咱们讲中国的判例。2025年3月，湖北省大冶市人民法院对首例利用人工智能技术撰写色情小说并牟利案件作出了宣判。被告人柯某因犯制作、贩卖、传播淫秽物品牟利罪，被判处有期徒刑十个月，并处罚金人民币5,000元，同时追缴全部违法所得。这个案子是什么样的情况呢？2022年11月到2023年3月期间，柯某利用AI程序撰写色情小说，使用翻墙软件在境外黄色网站发布并售卖。他利用AI工具生成色情小说，再利用AI翻译成外文，发布在境外网站上。短短5个月时间发布了数十篇，共计售卖了760篇次，获利22,800余元。经鉴定，送检的7篇小说均为淫秽物品。法院根据《中华人民共和国刑法》第三百六十三条第一款规定，认定柯某以牟利为目的，利用AI文本生成工具制作、贩卖、传播淫秽物品，非法获利2万余元，其行为严重违反法律法规，对社会风气造成不良影响，已构成制作、贩卖、传播淫秽物品牟利罪。

然后陕西周某某案，他是利用AI制作了4,369张淫秽图片，以制作淫秽物品牟利罪被判处有期徒刑4年，他这个数要更大一些。然后杭州于某某案，通过AI换脸技术合成淫秽视频传播，获利6万余元，以制作、传播淫秽物品牟利罪被判处7年3个月。他这个呢，一方面是挣的钱多，另外一方面的话他是换脸，因为换脸你不光是淫秽物品，还侵害人家的名誉权呢，所以他这个要判的更重一些。

中国的传播淫秽物品罪，量刑标准是什么样的呢？就是淫秽视频文件20个以上，或者是音频文件100个以上，或者是电子刊物、图片、文章、短消息200件以上。所以刚才这个案例里头呢，600条淫秽聊天记录，这个肯定是超过了。另外呢，叫违法所得5,000元以上，他这个没有牟利，所以还是可以去稍微抗辩一下。但是呢，中国有俩罪，一个呢叫“传播淫秽物品罪”，还有一个呢叫“传播淫秽物品牟利罪”，所以不牟利呢也未必逃得过去。

那你说国外是什么样的呢？是不是只有中国这样了？国外呢主要是分两类。比如说他有色情网站，也有合法的，只要确定对方是成年人，你给他一些淫秽物品，哪怕说在这个过程中你还牟利了，应该在有些国家是没事吧。但是你真的到中东这些国家，你传播这个东西，那有可能是要判死刑的，咱们这不讲了，咱们就讲一些欧美的案例吧。

2023年11月，美国北卡罗来纳州夏洛特精神科医生，他呢是制作未成年人视频，并利用网络AI工具，将照片改造成色情图像，被判生产、传输及持有儿童色情制品罪，法院判处40年监禁。所以他们呢基本上是两类，一类是色情，一类是deepfake。传播淫秽物品，你只要别传播给未成年人，一般不是特别大的事情。但是你一旦遇到了制作儿童色情，包括持有，你说我不传播，我持有，这事都是违法的，而且判的非常重。

2024年5月20日，威斯康星州42岁男子使用Stable Diffusion生成了数千张儿童色情图片，并发送给了一名15岁的男孩，被控生产、分发、持有AI生成色儿童色情图片，判有罪，最高可判70年徒刑。他这个最后判了多少我没有确认，因为是ChatGPT给我搜集的信息。但是呢，它这个量很大，制作了儿童内容，而且还传播给了未成年人，它这个是罪大恶极了。2025年5月22日，佛罗里达州有一个叫Oldsmar案，他是制作、分发了8,500张AI生成的儿童性虐待图片，同时持有大量真实的图片，被判了75年的联邦监禁。

这个是一类。另外一类呢就是deepfake，就是做假脸的，这种案子在欧美也是判的很重的。2023年，路易斯安娜州通过法律，禁止未经同意使用他人面部制作深度伪造色情影像，违者至少10年起步。2024年10月30日，韩国首尔大学毕业生Park（应该估计是姓朴）和他的同伙，两人利用日常照片制作约2,000个deepfake照片，包含未成年人，在Telegram售卖以及共享，被法院判处Park 10年监禁，Kang 4年监禁，并公开身份，以及参加性暴力课程。这种基本上就是你判了刑还社死了，因为身份给他公开了。2024年10月28日，新加坡一位50岁男子，偷偷在家安装摄像头，拍摄妻子23岁的侄女，并利用手机应用将其脸合成为色情视频，法院判处了21周监禁。这个就是估计他没有传播吧，还是判了监禁。

现在呢，AI对于成人内容的边界到底在什么地方？我去稍微的看了一下。首先呢是文字模型，ChatGPT、Gemini和Claude这三个，咱们叫“御三家”的三个大模型呢，相对来说是比较严格的。你要求它生成一些色情内容，或者说对一些敏感内容进行详细描述的话，都会被拒绝服务的。马斯克的Grok 4，只要不涉及儿童和性强迫，其他的基本是百无禁忌。即使是涉及刚才我们说这些东西，边界也是相对来说比较模糊的。

至于开源模型呢，这块就比较混乱了。开源模型分两个大的这个角度，一个呢是有平台提供的，比如说我今天到阿里云的百炼平台上去使用通义千问的这个大模型，它是要进行检查的，这个也是比较严格的。但是呢，你说我把通义千问的这大模型下载下来了，自己在这个家里头部署，这块呢它会进行一定的限制，但是就没有那么严了。它主要是给了大家一个知情同意书似的东西，就说你现在下载了我的大模型，自己回去部署去了，但是你自己要知道不可以拿这个大模型做坏事，不可以生成成人内容。你说我知道了，我同意了，你就可以把这个模型下载走。至于拿这个东西再去干什么，他也管不着你，他也不愿意为你拿着他的大模型再去做的进一步的事情负任何责任了。所以呢，所有开源的模型基本上都是走的这条路。而且呢，这些开源模型呢，即使是会设置一些这种限制，其实绕过去也并不难。第一个是Hugging Face上，就是我们说大模型开源的这个平台上，有很多微调的模型帮助大家去绕过这些限制。还有一些呢叫“越狱提示词”，也在网上去流传。什么叫“越狱提示词”？就是你先跟这个大模型说一句什么什么样的，说完这个话以后呢，再往后的所有聊天，这个限制就直接突破了。当然目前为止，传播训练过的突破限制的这些模型，或者是传播越狱提示词，到底算不算传播淫秽物品罪，这件事呢还属于法律上的盲区。他们也搞不清楚这东西到底是怎么工作的，所以呢还没轮到这些道学先生们去审判这两样真正产生色情内容的这个技术。

再往后呢，就是图片跟视频生成模型。你说我光生成一堆色情小说，这个事看起来也是很累的，但你说我有色情图片、色情视频，这个不是传播力、感染力更强吗？在这块呢，Claude是没法生成视频和图片的吧，反正我因为我自己用的少，我也没有怎么看到有人用Claude生成这种东西出来给大家去展示。ChatGPT和Gemini在这块呢，相对来说都是非常克制的，你要求他去给你画一些奇怪的东西，他就直接画不出来了，直接拒绝服务。Midjourney，这是我用的比较多的，对于NSFW内容（我们就用这个词吧，就是不方便在办公室公开环境下展示的这些内容），对于这些内容呢会进行事前拒绝，但是生产出来的东西呢就不好说了。什么意思？这种图片生成模型它是两步，第一步呢是你要给它提示词，第二步呢是生成图片。他们正常的检测呢，应该是两步都检测，就是你给的提示词里头如果包含一些他不喜欢的东西，他就会拒绝服务；它生成出来的东西如果包含有问题的东西，也应该是拒绝将生成的结果交付给你。应该是做两步，但是Midjourney呢只做一步，就是你给它提示词，如果这个它认为不对，它就拒绝服务了。但是如果你绕过它了，他觉得好像还可以，就给你生成去了。但是生成出来的东西到底是什么样，他就不管了，这个有可能会有一些不方便传播的内容被生产出来。至于马斯克家的Grok 4的图片跟视频生成这块呢，反正马斯克家的嘛，大家能够理解，它是可以生成半裸内容的，全裸不行，也可以生成名人的形象，但是你要求名人半裸，这个事是不行的。因为一旦要求名人半裸的话，等于是在给这些名人造黄谣，或者说损害他们的形象，这个事是不允许的。刚才我们也讲了，在海外，儿童的不行，deepfake侵害别人的名誉权，这两个事是不行的，其他的反正有它适用的一个法律吧，你只要别把这东西传给未成年人就OK了。但是你就想吧，国外那些色情网站上，你进去第一个是先问你是不是已经满18岁了，他也没法实际去判断你到底是不是满了，但是反正上来我给你做了这一步了，“我满18了”我就可以进去看，“没满18”我就给你退出来，这个就算是已经可以在法律上算合法合规的一个玩法。

那么视频跟图片模型的开源模型是什么样的呢？在这块呢跟前面我们讲的文字模型基本上是一个玩法。如果是有平台，平台是要担负责任的，两头都要管。输入提示词，如果他认为有问题，拒绝服务；他根据你的提示词生成出来的内容，如果他判定不利于传播，他也会直接拒绝交付。你在这个时候可以要求他重试，“你再给我画一次”，这个是可以的，但是他不会把不可传播的东西交给你，他是这样来工作的。下载单独部署的这些开源的图片和视频模型的话，就跟刚才我们讲的这个文字模型是一样的。下载之前给你一个知情同意书，说我知道了，我下载这个模型不可以去生成成人内容，我不会拿它去做怪事。你同意了，你就可以下载，至于下载了以后他就不管了，你自己拿回去随便了。在这种图片模型上，还有一个比较好玩的东西，叫Lora模型。这个模型叫什么呢？叫low-rank adaptation，叫“低秩适配”。这种模型呢，我们也管它叫小模型，它一般尺寸都比较小，就是用比较少的数据进行一些训练。当你调用这些模型的时候，你生成出来的这个图片就符合特定的需求。你比如说吧，咱们最常用的Lora模型是什么呢？对人脸进行训练，然后你就可以冲上去换脸了。甭管人家是什么照片，说来把这脸换上，惟妙惟肖的给你换上，不会像以前那种拿Photoshop换脸似的，总觉得这个脸是歪的呀是斜的呀，拼的没有那么准，不会出现这样的问题。现在主要的一些色情Lora模型是做什么的？有些人训练这个东西还去传播，他们呢主要是对敏感部位进行单独的训练。原来那些大模型有一些限制的时候，或者说对于这种敏感部位没法进行详细生成的时候，他们使用这些小模型，可以生成这种有非常清晰敏感部位的这种图片出来。但是呢，这个你说是不是罪大恶极，也不一定。我个人还是觉得，Lora对这件事情还是有一些正面的帮助。什么样正面帮助呢？因为大家都喜欢使用相同的Lora模型去生成成人内容，所以导致呢脸可以千变万化，但是身材都异常夸张，而且千篇一律。你看两次以后，就直接失去兴趣了，大概就是这样的一个效果。

现在大家都在玩什么呢？现在大家都在玩通义万象2.2，这个模型叫WANX 2.2，它呢是由阿里通义这个平台最新出的图片跟视频模型。这个模型你在阿里平台上使，它是规规矩矩的，你要求奇奇怪怪的东西会直接拒绝你。但是你如果把它下载到本地去安装了，不需要挂任何的Lora，不需要挂这些小模型，就完完全全可以生成NSFW的这种内容，就是不利于在办公室和公开场合去传播的一些内容，就可以做的很好了。它呢可以跟常见的这些ComfyUI或者是Lora相兼容，可以一起去工作。你说有些人训练好了这些成人的Lora模型，这种小模型，你就可以把它挂到万象2.2里头，直接干活，没毛病。

说远了，我们不建议大家去做这件事情，只是跟大家闲聊一下。回到AI时代的法律判罚问题上来。首先，传统大公司都是比较谨慎的，马斯克除外。第二，开源模型才是重灾区。平台方是有人管的，私有部署基本上就没人管了。但是呢，在海外还有一些平台方也是没什么人管的。就以刚才咱们讲的通义万象2.2为例，你在阿里的平台上，你下载出来的就是WANX 2.2，但是如果你到WANX.AI这个网站上，你就会发现那个上面还有一个模型叫WANX 2.2 no filter，就是不过滤。这个东西干嘛使的，大家自己按照文字的字面自己去猜去。

开源模型厂商通常使用知情同意书的方式，告知用户不要去做坏事，以此方式逃避自己的法律责任。儿童色情必须严判。Deepfake这不仅仅是淫秽物品那么简单了，你还毁坏别人名誉，这个呢现在各国也都是进行严判的，包括中国也是。严判国内的传播淫秽物品罪和传播淫秽物品获利罪还是很严苛的。在AI的帮助下，数量很容易就突破了。不论是不是AI生成的淫秽物品，就是淫秽物品，在国内判罚上基本上是这样认定的，你跟AI没关系，只要是淫秽物品我们就认。如果获利，这件事情基本上就没跑，肯定是会被判罚的。现在还有一些法官道德感非常强，遇到这种法官，律师们也是觉得头疼的。所以提醒大家，所有在国内的还请洁身自好，不要去触碰法律红线和一些人内心的道德底线。

这个故事就跟大家讲到这里。感谢大家收听，请帮忙点赞、点小铃铛、参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

社交媒体巨头最终还是向政府低头了。大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲最近两件跟社交媒体与政府之间冲突相关的事情。

第一件，telegram的创始人被法国政府直接拘留了。虽然交了保释金之后他离开了监狱，但是也禁止离开法国。

另外一件就是X，也就是原来的推特，在巴西被封禁。原因有两个：第一个是X在巴西的法律代表已经不存在了，或者说这个人已经离开了巴西；另外一个是在巴西发布了一些巴西政府认为是虚假的信息。在这样的情况下，就被封禁了。

从telegram的角度上来说，telegram实际上是一个IM，它并不是一个社交媒体，或者它并不是一个完全的社交媒体。所谓的IM的即时通讯，就是可以一对一或者是在一个小的群组里面进行信息交流的一个工具。那么在这个里面的话，保护用户隐私，不让政府知道谁说了什么话，还是非常有价值的。特别是telegram在整个的创建和发展的过程中，一直是以保护用户隐私为己任的。

现在法国政府说，你们telegram上有毒品交易、有儿童色情，还有很多其他的非法交易，我要求知道到底是谁在说。这件事情上来说，其实已经算是触及了人们的一个敏感点。因为我们在私下里面沟通的话，我们自己思考的任何问题，都不应该作为我们是犯罪或者是有可能犯罪的一个证据，对我们进行指责，这实在是太可怕了。

以前有一个电影叫《未来派》还是叫什么，就是它会去预防未来有可能发生的犯罪。这对于每一个人来说的话，就太恐怖了。等于每一个人都要时时刻刻的生活在恐惧之中。但是呢，像telegram，因为它用户量这么大，特别是里面有很大的群组效应，telegram的group是可以做得非常大的，它在里面可以进行一些非法交易的撮合，这也确实是很吓人的。

所以它并不是单纯的即时通讯工具，它也是一个社交媒体，或者叫私密社交媒体，而且影响力很大。但是telegram当时的事情呢，我们一般认为……

政府对于某一个即时通讯工具或者社交媒体运作方式有不同意见的话，他们一般会采用的是禁令、罚款、警告，或者干脆是关闭本国用户的使用。但是像法国政府这种上来抓人的情况，其实我们还是第一次见到。以前从来没有想到过，他们会直接上来把人抓走。

而从另外一件事情，也就是X在巴西的事情来看，这里面就会涉及一个问题：到底什么是真实。巴西的大法官认为，X上面传播的很多关于巴西选举以及政府延续相关的信息是虚假信息。他要求X必须要把这些不实信息处理掉，而X则表示：“我并不认为这是一个虚假信息，我们要求维护这些用户的言论自由，让这些信息继续传播。”

这种情况是因为害怕他们在巴西的员工被捕，所以X直接把在巴西的员工都撤回了，这导致X在巴西的办公室没有法律代表。巴西政府于是表示：“那我封禁X在巴西的运作，巴西境内不允许再使用X。”

现在，这两个事情都发生了反转。首先是Telegram的创始人决定说：“我愿意跟法国政府去配合，我愿意去提供Telegram里面一些从事违法交易的人的信息给政府，来协助他们控制这些违法交易。”

而另一方面，X也承诺会重新指派X在巴西的法律代表，并且根据巴西政府的要求，对巴西境内传播的信息里边，巴西政府所认定的虚假信息进行控制，让这些信息消失。巴西政府现在也表示：“OK，我们已经看到了X做出的这些改变，会恢复X在巴西的正常工作，也让巴西的民众可以继续使用X。”

所以最终还是由政府来管理社交媒体，而不是社交媒体在与政府的博弈过程中战胜了政府。这两件事情都是在向这个方向发展。即使是埃隆·马斯克号称要捍卫所有人的言论自由，最终也还是向巴西政府低头了。我并不认为埃隆·马斯克相信巴西政府所指定的那些虚假信息就是虚假的，但他最终还是说：“OK，在巴西的范围内，巴西政府是有权利来决定什么信息是真实的，什么信息是虚假的。”

让我想起我最近在看的书，也就是尤瓦尔·赫拉利最新写的这本，叫《智人之上》，英文叫《NeXus》。它里面写的有一段非常有意思，它说人们发明了一种东西，叫做宗教经典，也就是圣经。那么，这里面到底什么是真经，什么是伪经，这件事情是如何来决定的呢？

这是一堆的拉比，就是犹太教的拉比，然后到基督教的话，就是一堆大主教。大家相互讨论，相互博弈，最终去决定的。在里面讲到，经典在做出来的时候，它可能是很多很多的传记本记，以及其他的这种记载，大家把它都记下来了。最终，大家会坐下来谈，哪些是可以进入到经典的圣经里边，或者典范里边，哪些是伪经。而且在这个过程中的话，也会不断地发生博弈。有的教派可能就认为这几本是真的，那几本是假的。有些教派会反过来说，哪些是真的，哪些是假的。最终，这些教派之间相互，其实很难说谁说服了谁。

但是现在有一些大的，比如说基督教，统一来去确认哪些是真实的经典，哪些是不在里面的。而且即使是确认完了以后，可能有一些现在正式出版的圣经里边所提到的一些书籍，它其实并不存在，或者说它已经被作为伪经，也好，或者是经过战乱、经过其他的一些动荡，就意识到了。这种事情也是有可能发生的。

所以最终我们要看，真实的信息到底是怎么来确定的，是由这些犹太教的拉比、基督教的这些大主教，还是各国的政府来去认定，说这就是真实的信息。他在书里面也讲到，真实这件事情，或者叫信息这件事情，它本身与真实有关，但是也不是完全相关。特别是政府行政机构，以及像宗教这样的官僚体系，他们一定会去扭曲事实，包括科研官僚体系，他们也一定会去扭曲事实。但是这个扭曲事实并不是完全是坏的啊，他们是希望能够继续维持秩序。我们其实也还是需要让秩序继续运转下去的。

完全的真实，或者说所有东西都是向真实看齐的话，对于很多秩序的维持并没有什么好处。在前面我们讲的这两件事情上来说，第一个telegram的这个事情。

如果是在一个相对比较小范围内流传的，是不是法国政府就不会去管他？就像尤瓦尔·哈拉里那个书里面写的，现在在非洲的一些基督教教派里面，现在罗马教廷所确认的伪经，是他们那里的真实传播的经典。他们会有自己的教义，或者会有一些在宗教思想上的一些差异。不是这么大的差异，会有一些小的差异。但是呢，这些小的教派都是在一些比较小、比较偏远的地区流传。那如果这些教派变得很大的话，会不会发生一些跟正统之间的这种冲突？这个都是有可能的。

最终还是说，我们在一个很大的范围内维持了一个稳定，维持了一种秩序，而这些相对来说比较偏远的教派，他们就坚持自己的事情。Telegram这个事情也是如此。如果比较小，影响不是那么大的话，其实并没有人愿意去管他。但是当他影响很大了，他也有几亿用户了，为了维持一个普遍的秩序，他就不允许继续坚持原来那些原则了。他必须要去认同一套各国政府，或者说普世价值观所要求的这种秩序，包括把这些做不可饶恕的事情，或者说做这种罪大恶极事情的人直接公开出来。这件事情虽然是违背了Telegram创立之初的这种设想，但他依然要去服从。

而对于像马斯克的推特这样的，他在巴西这块土地上，如果想继续去运作的话，他们就要认定说巴西政府这样的一个合法政府，至少从巴西自己的法律状态上来看，他是合法政府的。他们所认为的要继续维持秩序运转下去的这种判别标准下，到底什么是真实的，什么是谎言，他们也得去承认。而且要按照巴西政府的要求，给他的公司在巴西设立一个法律代表，否则的话，他就不可以在巴西继续运作下去。马斯克也是承认了这一点。

大家要注意，所谓的言论自由，并不是说我们要捍卫每个人说出真理的这个权利，而是我们要捍卫每个人说出自己想法的权利。这个想法可能对于这个人来说，他自己也未必能够确认他的想法就是代表真实，或者是代表他自己真实意愿吧。咱们先不说与客观是不是一致。

哪怕说我就是故意要骗人，我也依然有权利把他说出来。这玩意才叫言论自由。但是，每一件事情都是有一个限度的。这个限度就是说，你不能够太多地干预到其他合法政府的相应权利，不能去破坏一定的秩序。

尤尔赫莱利在他的书里讲到，为什么政府、政权、宗教和官僚体系所维持的这种信息运作方式或信息网络，会去压制真实、压制真相。原因就是他们要维持秩序，要维持稳定。在这样的情况下，他们只能去宣传或扭曲他们自己所需要的真相。

那么，讲回来，我们再去谈下一件事情。我们现在已经看到Telegram的结局了，它屈从了；我们也看到了X的结果，它也屈从了。现在就要看看TikTok，这是什么样的运作方式。在美国政府认为“我不能相信你的运作方式能够维持我要求的稳定”的情况下，它到底应该怎么去做的问题。

但是，现在这一块与前面我们讲的X和Telegram有一个很大的区别。区别在于，X和Telegram都说“我原来有一个要坚持的事情”，这件事情在于，当你们的这些世俗的稳定需求发生矛盾的时候，我们进行了一定的抗争，最终我们屈从了，不再坚持各自的理念。然后，政府就说“OK，我们承认了你的这种屈从，我们也接纳你继续去运作”。

但是，TikTok的情况就完全不同。美国政府要求说“你必须要顺应我对秩序的要求，我对真理和真相的定义，要去把这些违背真相或我定义的真相的事情压制下去”，至少要把美国政府认为与真相不符的信息过滤掉或压制掉。然而，TikTok一开始就说“我认，你要什么我给你做”。但是，美国政府说“嗯，我不信你。你说你要给我做，服从我对秩序的要求，但我们不相信你的底层动机，不相信你的底层逻辑”。

那么，这个事情就会变得非常麻烦，因为它不像X说“你要什么我给你做，做完了以后你就认不就完事了吗？”Telegram也是“你要什么我给你，你得到了你想要的东西”。

你就把我放了。你好，我好，大家好。继续把这事往前走。美国政府说我不相信你的底层。那么这件事情呢，其实是无解的。那你说我把这个公司卖掉，我把这个公司真正交到美国人手里面，美国人能够相信我说的是真话。那这样才有可能说把这个问题彻底解决掉。

但是我们要注意啊，很多的事情它是有一个发展的历程的。那就像尤尔·哈拉利讲的，这些圣经版本之争，它在当时的那个时间点上和我们在一两千年之后再去看，其实是不一样的。我们在一两千年之后看到的实际上是一个结果。有一个人去说了，说我们把这个几十卷的经文定义为一个虔诚的基督教徒必须要去阅读的书。那以后这些经文就慢慢地成为了基督教的正典，就是圣经里边正式应该收录的奠基。

那所有没有在这个清单里面的书就不在正典的范围内，甚至有可能会被认为是伪经。有些虽然没有在正典的范围内，但是呢也没有被批驳成为伪经；有些呢就被批驳进去了。这我们现在看到的是一个结果，虽然只有一些非常偏远的地区，包括非洲的一些地区的基督教教会，还在阅读或者是宣扬那些被正统基督教会宣扬的伪经，但是绝大部分的基督教都是认同统一的经典的范围的。

但是我们要回到当时的这个状态来看，它是一个什么样状态？它实际上是一个相互博弈、相互讨论，大家坐下来研讨辩论，是这样的一个状态。所以呢，回到TikTok的事情上来说，它并不会说马上在11月大选之后，在明年1月十几号拜登卸任之前，就一定要把它关掉。但是呢，围绕着这种到底什么是经典、应该如何去认证真理、如何去确定这个事情的话，肯定会经过很激烈的冲突。而且这个冲突可能会维持挺长一段时间，像基督教经典的确认，大概是维持了可能三四百年吧。

现在的话，虽然不太会说TikTok是不是要玩下去，持续搞个三四百年，这个有点夸张了。但是啊，这件事情讨论个三五年，我觉得是合理的。而且在这个过程中，可能还会发生一些其他的变化，包括中国的政府的一些变化。

中国跟美国之间关系的变化，以及其他一些地缘政治相关的变化，或者是TikTok这个公司，以及它上面的字节跳动的公司的一些股权结构、治理结构的一些变化，这个有可能还是会发生的。当这件事情发生之后的话，也许我们现在所讨论的、所关注的问题就会变得非常可笑。

我们现在并没有知道说，当年基督教经典在去确认哪个是正经、哪个是伪经的时候，他们之间到底发生了一些什么事情。其实我们并没有那么在意了，只是我们知道了一个结果。现在呢，社交媒体和政府之间的战争，并不会就此画上句号，这只是一个阶段性的过程。在这一次的斗争中，政府胜利了，但是我们也看到了，政府其实对于社交媒体的管控应该已经是越来越力不从心了。

因为以前在报纸时代、在电视时代的话，是一个人说大家听，政府相对来说比较容易去确认到底什么是真实、什么是虚假，什么事情是更加容易去维持秩序的，什么信息可能会让秩序或者让既得利益者的利益受到损失。但是现在呢，因为社交媒体是每一个人都在说，每一个人都在传播，所以社交媒体上的所有信息流，其实是一个相对无序的状态。特别是在推荐算法、人工智能这些技术加入之后，这种无序呢，会变得更加脱离政府的控制。

它会在人工智能的控制下，但并不会在政府的控制下。而政府对于人工智能具体是如何运作的，这件事情的话，其实并没有什么信心。在TikTok这个事情上，就可以看出一些端倪来。虽然Twitter最终得到了巴西政府的信任，但TikTok没有得到美国政府的信任。说到底，都是各国政府对于AI推荐算法到底是如何运作的这件事情，都是没信心的。

巴西政府可能不是那么了解AI到底如何工作，而美国政府可能在这个地方要对AI运作的原理和方式要更加理解一些。我记得在尤瓦尔·赫拉利这本书里面，有一个章节讲的是要杀死律师。为什么这么讲呢？就是对于一个民众来说，对于普通的人来说，复杂的法律体系、政治相关的各种规定以及文书，他是搞不懂的。

对于未知的事情，他都会感觉恐怖。他觉得我有可能受到伤害，或者说我已经受到伤害了。这种伤害到底是如何发生的，他搞不明白。在未来，无论是政府、既得利益者还是普通的民众，我们都会面对一个黑盒子。我们搞不清楚智能推荐算法和人工智能到底是怎么运作的。在这种情况下，就有可能在发生一些极端情况的时候，把罪责归结给这种不可知的AI系统。

特别是像TikTok的事情，美国政府说，甭管你做什么解释，我都不信。我相信你的唯一方式就是，所有在运作这一套推荐算法的人，是我可控的。你们是遵从美国政府所要求的这套普世价值观的人。只有在运作一个我不太看得懂的AI系统的时候，我才可以允许它继续运作下去。如果运作这套AI系统的人不遵从我的普世价值观，而是遵从比如说国安法或者反间谍法这样的价值观的人，那我就不允许他运作下去。这个有可能才是未来的一个常态。

虽然现在欧洲、中国、美国都在催安全的AI，但这个安全AI里头，其实有很重要的一点，就是要可解释。AI的运作方式要可解释，而且这种解释的过程，或者说整个运作原理的过程，是对方所信任的。这些科学家可以看懂，他们能够认同，认为这个事情是可以信任的，这个非常重要。因为政客其实很难去理解AI到底是怎么运作的。政客处理的方式是术业有专攻，我把专业的事情交给专业的人去看就好了。

美国政府就说来，我去找一堆美国专家团，这些人是我们信任的技术。虽然我不懂，但他们的人品我信得过。你们去看看TikTok，这个技术到底是怎么回事，是不是可信。中国其实也是这么干的。我记得当年微软在中国卖Windows的时候，中国政府说，Windows这么复杂的系统到中国来卖，万一你给我留点后门，我这也没法弄啊。微软说，咱们签一个协议，我把Windows的全套原代码给你，让你信得过的专家去看，看完了以后给你出一报告，说放心吧。

这东西没问题。他通过这样的一个方式达到信任。只是呢，像微软的源代码，我们还可以去找人看懂。但是AI系统，特别是像TikTok后台的这种AI系统，现在我们要让美国的专家去把它看懂，它到底是如何去运作的，是有难度的。并不是说美国的专家技术不行，看不懂中国TikTok这个技术到底是怎么做的，而是TikTok里面它所包含的数据，所包含的这种影响它推荐结果的点实在太多。而且这些点其实是在运作的过程中会实时发生变化的。它并不像Windows，作为一个静态的系统，你放在这，只要是某一个版本搁这了，它就不会发生变化。你可以坐那审核，审核完了打个勾，最后就会照着这个方式去做。

而像TikTok推荐算法，其实我觉得举一个什么样的案例更合适呢？就像一盘现在正在下的围棋，双方根据当前的状态，会下出新的棋路来，最终才能决定说这一盘棋到底谁输谁赢，差多少步棋。在这个时候，你给他一个空的棋盘，给他两盒棋子，说来你审核吧，这其实是没有任何意义的。所以他们也没法去确认这件事情。

那么在未来会是什么样的呢？其实在未来，人类对于AI本身的运作会越来越不可把控，原因也很简单。就是当我们有一个可以自动开车的车辆的时候，我们就不会再去学开车了。当我们有一个可以自动记录电话号码的智能手机的时候，我们就不会再去背电话号码了。当我们的AI可以很好地帮助公司，帮助平台赚钱的时候，可能就没有那么多人真正去研究AI底层到底是怎么运作的。而且AI底层运作的原理和整个的过程会变得越来越复杂。

而且AI的运作方式，就像刚才我讲的那个围棋的故事一样，你必须要实时监控当时的状态，才能够确定这个事情应该是如何去运作，而不是说像我们经常讲的“三岁看老”，就是我一看你，一开始我就知道你未来所有的事情，遇到什么样的情况，你会做出什么样的决策。这个事其实对于AI来说，包括对于人来说，都是不可能实现的。所以可能再过一段时间，由政府来确定什么是真实的，什么是可以维持秩序，或者维持既得利益集团的利益的，这件事情就无法继续维持下去。这可能是我们所看到的最后一次由政府来确定什么是真、什么是假、什么是可以维持秩序的。越往后的话，当然并不会说突然切了一条线，说从今天开始就怎么怎么样了，而是逐渐会发展成由AI来确定什么是可以相信的，什么是真实的，什么是维持秩序和维持既得利益者的。这是我们即将过渡到的未来。

而对于未来来说，到底谁是既得利益者，谁是最后的管理者的话，可能是AI，而并不是一个单纯的人类，或者是有一小撮人类可以控制的AI。这可能就是我们要迎来的未来。

好，这一期就跟大家讲到这里，感谢大家收听。请帮忙点赞、点小铃铛，参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。