四个部门六条举措，要去整治算法乱象了。大家好，这里是老范讲故事的YouTube频道。首先，我们来讲一下基本事实：时间是2024年11月24号发文，这很神奇，礼拜天发的文，讲的是即日起至2025年2月14日截止。这个非常有意思，它是有起止时间的。四个部门：网信办、公安部、工信部、市场监督总局。但是大家要注意，他们这一次使用的全称是什么？是中央网络安全和信息委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅。为什么要重新念一下这个事？要注意，这个四部门跟四部委是有差异的，现在都是由各部委的办公厅发出来的文，所以叫四部门。那么文件叫什么？叫《关于开展清朗网络平台算法典型问题治理专项行动的通知》，这是它完整的名称。在礼拜天发了文件，说我们到明年的2月14号之前，我们集中整治。

那么这六个举措是什么呢？信息茧房、热搜榜单、新就业形式劳动者权益、大数据杀熟、算法向上向善、落实算法安全主体责任。这是这六个措施。咱们一项一项的解读一下。

首先是信息茧房，深入整治信息茧房诱导沉迷问题，构建信息茧房的防范机制，提升推送内容多样性、丰富性，严禁推送高度同质化内容，诱导用户沉迷。这句话说得很长，意思是什么？咱们的算法首先去判断你喜欢什么，再去给你推送，让你继续看下去。算法的设计指标是什么？就是你不退出，你要一直看下去。那么在这样的一个情况下，会去给你尽量推同质的东西，就是你喜欢的东西我接着给你推。但是同时，这种推荐算法其实还有一个小的分支叫新鲜感。如果始终推同样的东西，那么你就没有新鲜感。所以他每过一段时间，会去尝试给你推一些新的东西出来。这一条其实把它放在文件里，主要讲的是防沉迷。

然后是说，不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签，并据此推送信息。这两句话什么意思？因为我们现在使用很多的软件，特别像小红书，还有很多的，比如说阅读类软件，包括今日头条。

这些软件你第一次使用的时候，都问你兴趣爱好是什么。他好去给你一个基本的画像，然后根据这些信息向你推送。说这个事以后不允许了，都去改去。然后呢，什么叫违法不良信息记入用户标签，并以此进行推送呢？比如说，有些人说：“我就爱看小姐姐扭屁股。”他把这个东西记到里头去了以后，我就始终给你推荐这些东西。或者说我就喜欢看一些，比如一些血腥暴力的东西，那他也给你记在标签里头去，始终给你推这一类信息出来。

在这个里头，其实是有一些擦边的东西，或者说他没有那么明确说这个东西一定是违规的，或者一定是合规的，但是一定是贴近违规那一边。是否违规这个事是一个梯度的，那么越是贴近违规的那边的东西，其实大家越爱看。所以这个都是明令禁止，不得超范围收集用户个人信息，用于内容推送。这个到底什么叫超范围，并没有详细解释。

然后，要规范设置不感兴趣等副反馈功能。有些系统他是没有这种副反馈功能的。我不喜欢这东西，其实像我很喜欢刷抖音，也很喜欢看今日头条。前提是什么？你一旦遇到不喜欢的东西，一定要马上告诉他不喜欢，否则这个系统就会变得越来越难用。你只有是比较多的去点不感兴趣举报。为什么举报？因为里头有一些你不喜欢的这种内容，它又诱导你去点。

那么在这个时候就举报他，比如说经常有人去今日头条上或者在抖音上刷什么呢？如何在iPhone上设置NFC门禁卡？其实iPhone是设不了这东西的，直到目前为止，苹果依然没有开放NFC门禁卡这些东西。但是有很多人专门去做这种假视频，因为这个很吸引流量。而且iPhone用户点了这些视频以后，他后边的变现能力会上升的，因为iPhone用户的购买力强嘛。我每次遇到这种内容，它等于明显有欺诈性内容，我都会去举报，说这个是骗人的。

那么这是信息茧房。下一个是什么？下一个是热搜榜单，要提升榜单透明度，打击操纵榜单的行为。现在他也知道说大家想去被别人看到，最好的方式就是冲热搜榜单。

因为有很多人说最近什么流行啊，我要去看一看榜单。现在一定要有更强的监管和控制了。咱们现在打开今日头条，咱们自己去看看今日头条前三条到底是什么。任何人打开今日头条的前三条，永远是一样东西。自己去看去，这个就是要有更强的可控性了。

当然，冠冕堂皇的话还是要说了：全面公示热搜榜单的算法原理，提升榜单透明度和可解释性，完善榜单日志留存，提高榜单算法原理可验证性。什么东西冲上热榜了？因为现在很多的政府跟民众之间的一些冲突与矛盾，会很容易上到热榜上去。现在你就必须要给我解释为什么上去了。如果你解释不清楚，这个锅你就要去背。你不能说莫名其妙就上去了，这事是不行的。这一定要可以控制。

所以这句话基本上大家可以认为是在说反话就好了。能够上榜单的，一定是可控制的。至于什么公开、什么透明、什么这种可解释，这个都不用想。这里头唯一有用的叫留存日志啊，这个到底怎么上去，你要把日志留下来，到时候我们来解释一下为什么某地政府发生了一个什么事情，就榜单就冲上去了。你得给我解释清楚。

还有一条是什么？就是要健全水军刷榜、水军账号等违规行为，账号检测识别技术手段，严管不法分子恶意利用榜单排序规则，操纵榜单炒作热点的行为。你不是说有一些政府事件跑到榜单前面去了吗？那么这个锅谁来背呢？水军来背。出了问题一定是他们恶意刷榜，咱们普通民众一定是相信政府的。出现任何问题，都不会把他刷到榜单前面去的。一旦刷到前面去了，那么一定是有坏人。

所以这件事我们还是要认真的识别。这个是前两条。第三条叫新就业形式劳动者权益。这个讲的是什么？只要是外卖小哥、滴滴司机这些人，其实是靠算法来管理的。你到哪去派单，一单要多长时间跑完，你的全勤是什么样人，还有多少投诉，他们完全生活在算法的世界里面。现在要求防范盲目追求利益，损害新就业形态劳动者权益。你说我要快、要准时拿，不能有人投诉，像这些东西，现在要去进行一定的管控了。

严防一味压缩配送时间，导致配送超时率、交通违章率、事故发生率上升等问题。你说我就要求配送时间了，那么剩下这些东西你也得管。我们必须把所有这些都搁在一起管理，而且要求详细公示时间预估、费用计算、线路规划等算法规则。你就得算明白，说这一单到底应该多长时间到。你不能给人家一个“mission impossible”，是无法达到的。这种东西你天天发出去，这个事是不允许的。你一定要搞清楚，预期你10分钟到，那么为什么你预期是10分钟，这个事你是要公示的。

还有一条特别有意思，叫搭建畅通的申诉渠道。因为无论是外卖小哥也好，还是滴滴司机、货拉拉司机也好，他们其实是弱势群体。他们站在平台面前，基本上没有能力去挑战平台或者要求任何权利。他们没有这个能力，而且他们的所有投诉，平台也不太愿意管。在这样的情况下，这些人又是相对不那么稳定的因素，所以要求平台必须要有畅通的申诉渠道。

在这里跟大家讲一个最近刚发生的事情，就是保时捷事件。保时捷事件是什么？应该也是在这周日，11月24号左右，保时捷上海浦东的一个展厅做了一个展览。展完了以后叫了一辆货拉拉的车，说你帮我把某一个展品或者某一些参展用品送回到某个广告公司或者咨询公司。这个货拉拉的司机说行，但是我只管送货，我是不管搬东西的。这个保时捷的员工说，你还是给我搬一下呗，咱们商量商量，我给你600块钱，你帮我把这东西从这头搬到车上，再从那头下了车后帮我搬到这个楼上去，行不行啊？

这个司机想了想说，那行。说你先给钱吧。他说不，万一给你钱到那边你不搬了怎么办？后给钱。我跟他说好，这个钱还是要付的。司机就把这个货搬到车上去了。到了那头以后，把这个货给人卸好了，说你给钱，你应该给我600块钱。大家要知道，货拉拉的钱其实跟滴滴的钱是一样的，大家是在平台上交易的，跟司机之间。

正常情况下是不发生任何的现金交易，或者叫线下交易。他也不应该发生这件事情。现在收货的人一看货，反正已经到了，那看看是不是可以把600块钱赖掉，就上演了一出闹剧。说我要跟这个货拉拉去核实这个事情，我要向货拉拉投诉你，你单独找我收钱，在这个货拉拉订单之外找我收钱了啊。最后导致投诉到了货拉拉，货拉拉把这个司机的账号封了。这个司机就很生气，他说我有病，我要去做肾透析，我就是靠拉货拉拉的钱来这个救命的。你现在不但答应好的钱不给我，你欺负我，还举报我，让我封号，这个事情我没法活了，你要杀了我。

这个事情现在发酵了两天了，所有人都讲说保时捷多大个牌子，你在中国就搞这种事。你这一个甭管是广告公司也好，还是咨询公司也好，一帮白领，你去欺负一个司机，然后不给人600块钱，这到底怎么回事？其实很多人在想这个事，但是有没有人想过这个问题？其实这里边最坏的人是货拉拉平台。他通过一个算法，把这个司机绑定在这里头。大家想明白了没有，货拉拉为什么会制定这种规则？规则其实很简单，就是如果每一个司机都可以去跟用户去沟通，去进行线下的交易，那么货拉拉所提供的服务质量实际上在下降。

什么意思？我们每一个人去使用货拉拉的时候，希望是可以得到一个有保障的服务，符合标准的服务。而且我在获得服务之前，我首先需要知道我需要支付多少钱。所以一定是到货拉拉点说我有多少东西要送，从哪送到哪，给你一个价格，这就是我的预期。我不希望在这个预期之外有任何的支付，这个是服务质量的一个基本保障。货拉拉为了保证服务质量，就一定要尽可能的杜绝什么线下直接交易，在货拉拉交易金额之外再去要钱，这个是货拉拉绝对要去禁止的。

所以只要是被举报了，那么货拉拉肯定是封号，这没什么好说的。人家收货方把这东西搬上来以后，也是威胁这个司机，说你收600块钱有依据没有，是不是跟前面说好了。他不管他说我要，货拉拉给我一个说法，货拉拉觉得这个钱是合理的。

那我就给你这个钱。那货拉拉一看，说你居然敢在线下找人收钱，他肯定封你没商量，一定是这样的。现在货拉拉发现这个声音已经起来了，马上又出来辟谣：我没封号，我也没有不给他派单，这个都是没有问题的。但是大家要想清楚一个问题是什么？对于司机来说，他的单多还是单少，他其实是没法控制的，而算法对于他来说是个黑匣子。

货拉拉需要的很简单：我要维持我的服务符合标准，没有任何一个司机在我的服务平台之外去跟这个客户进行线下交易，在我的标准收费之外进行额外的这种索要费用。因为你一旦进行额外索要费用，你这个服务水平就下降了。大家可能下一次就不敢叫货拉拉了。

比如我去叫货拉拉，说好了这个1,000块钱给我拉走，结果到那边人家又在这时候要一笔钱，那我下回可能就换一个去弄，或者我去想一些什么其他办法，一定是这样的。那你说，货拉拉能不能把这个系统做在里头，说如果搬货了，我就单独有一个新的费用出来，是不是可以？这样货拉拉是不会干这个事的，因为第一个有这种需求的人，有一部分没有那么多，因为有些人是自己有装卸能力的，还有一些人的这个东西本身并没有那么大件。

第二个你也没有标准，这个到底是装多少货、爬多少楼应该是怎么去收钱。而且装货的过程其实还有一个很麻烦的事情：你有破损，你给人把东西碰了磕了，这怎么算？没法算。所以货拉拉为了服务统一，说我们这块就不算了，所有司机你到那就别搬就完事了。如果是有搬运了，那咱们再说啊，但是你不能在平台上明面上说我们又多了一笔费用，这事是不允许的。

对于司机来说，他就说我在开了手机以后抢不到单了，这个我就被平台歧视了。甭管滴滴司机还是货拉拉司机，或者是这些跑外卖的人来说，他们都会有这样的对平台面对算法的无力感。他们都说好像受到处罚了，又好像没有，也没有明文规定，只是我觉得最近很倒霉，接到的单都很不好，或者我就抢不到单了。他们经常会有这种事情，甚至有些人说，这个人为什么抢的单都是那么好？他总能抢到最好的单，我为什么总抢不到？这个事情对于他们来说是完全无解的。所以这块也是要增强管理。再往后是避免大数据杀熟，这个是老生常谈了。因为这个算法一方面是要促成交易，另外一方面是要促成尽可能高消费额的这种交易。同样的一个人，明明可以买更贵的这个商品，为什么会给他推荐便宜的？当然，所谓的大数据杀熟，并不是说你这个人平时消费能力高，就给你推荐比较贵的商品，不是这个意思。

大数据杀熟的意思是，两个人都到一个平台上消费，一个人消费能力高，一个人消费能力低，买同样的商品，消费能力高的人用更多的钱，这个叫大数据杀熟。其实现在的大数据杀熟更多用在另外一个地方。你比如说你去买一个套餐，或者买一个团购券，你看了是一个价格，在这个时候你把它退了以后，待一会儿他会再重新向你推荐，再给你一个券，让这个价格下来一点。意思是什么？你还是得把这个交易做了。

在这个过程中，其实我们可以通过大数据反向杀熟杀回去。但是现在要求同样的年龄、职业、消费能力的情况下，相同的商品你必须是同样的价格，那你不能给他改。但是现在的大数据杀熟很多，我们都是通过用户的一些行为去把这个价格进行一定的调整。

再往后叫算法向上向善，这是第五条了。什么意思？这个很有意思。他讲的是要增强算法向上向善服务，保证网民的合法利益，这个要持续优化，完善未成年人、老年人的算法推荐的服务，便利未成年人、老年人获得有益于身心健康的信息。那么什么叫有益于身心健康的信息？这个没有规定，这就是一个道德要求了。

建立健全算法，在赋能优质内容传播、违法行为识别、发现等方面的社会治理应用，要把这个事情做好。总之，我们还是要去宣扬社会主义核心价值观，讲好中国故事，这些东西多给老年人看，多给年轻人看。那些举行暴力、有荷尔蒙诱导的，咱就别给人看了。大概是这么个意思。要持续提升生成合成信息检测识别能力，及时发现处理违法违规。

生成合成信息这块就是数字人，这是对他的一些管控。你们要去注意，因为最近是余东来又被合成数字人出来骂人来了。十一期间，是把雷军合成了数字人出来骂人，这次是把余东来合成出来骂人。但是余东来这个难度还稍微大一点，为什么？他得说河南话。这个雷军其实基本上说的还是普通话。我看了几个余东来骂人的这个视频，还是挺惟妙惟肖的。现在胖东来他们已经开始起诉了，要把这些人抓起来，这个我觉得还是应该的。

最后第六条是什么？落实算法安全主体责任，这个就是出了事打谁的板子，谁运营这个算法就打谁的板子。其实就是平台你们要小心点，字节跳动你要小心一点，腾讯你要小心一点。另外，美团、滴滴什么这些人你们要注意一些。所以它这个里头讲的叫落实算法安全主体责任，健全算法机制机理的整合。你们谁上这种算法，算法更新了你要上，我这来审批一下。

数据安全管理制度和技术措施，这块也要单独强调，以及确保算法的训练数据具有合法来源啊。这块是专门针对最近的大模型AIGC这块讲的。前面其实主要讲的不是AIGC的东西，前面只能有一条是跟AIGC相关的，就是生成数据这块是跟AIGC相关的。传统的这种推荐算法，其实跟AIGC没什么关系，但是训练新模型这块是有关的。

这四个部门发了这6条内容出来，那么为什么是现在要发这东西？咱们总要问一下，你现在有什么不一样的时候？第一个，钟睒睒刚喊了“算法之恶是大恶”，因为他说大家都网爆钟睒睒。你们这些网爆我的人跟我一样，都是受害者，你们都是钟睒睒。那么在这个过程中谁是坏人？是算法。你们把这些片面的信息传给了这些网爆我的人，导致他们来网爆我。这个事是钟睒睒刚喊的，虽然是首富，但是他喊，这四个部门马上就发文，这个也有点过分了。

中国不是这么运作的，毕竟还有一些事情。第一个是什么叫实名举报之风盛行，动不动就举个身份证去举报，这个肯定还是要杀一杀了。如果你实名举报完了以后，这些信息……

慢慢地，在推荐算法里边沉淀掉了，不会被很多人关注。那么实名举报就不会产生那么大的效果，这个是肯定要去处理的。第二个，余东来跟雷军被恶意生成数字人，这个也给领导们拉响了警钟。现在只是做他们两个，万一哪一天真的有胆大包天的人，把一些中央领导，我估计他们不一定敢做，但是一些地方领导给你做出来，放了一下，这个对于他们的伤害力还是很大的，所以这个也要专门拿出来说一下。

有一些社会事件，莫名其妙地被传播了以后，造成了一些不稳定的因素，比如说郑州骑行开封的事件，明显是算法出了问题，算法失控了。你原来就是几个大学生，从郑州骑到开封去，吃了个汤包，发了个小红书，这些内容快速膨胀爆发了，形成了一些链式反应，就跟核反应似的，一下就爆炸了。爆炸完了以后，几万个郑州的大学生就骑着自行车奔开封去了。这个事情以后就不能再发生了，要敲响警钟。

还有什么？各种的献忠事件最近频发，开车撞人了，或者是其他的一些什么砍人，这种事情，这个也是要专门注意的。像前面讲的，给新形势就业者保护他们的劳动权益，就是什么保护滴滴司机，保护外卖员，保护这个货拉拉司机，基本上是为这条讲的。就像刚才我们讲的保时捷事件里的这位司机，身上有尿毒症，要去做透析，就指望挣这点钱去做透析呢。你说我举报你，给你把号封了，在这样的情况下他还开个车，这样多吓人，所以这个要注意。

还有什么？一些不那么好看的信息被广泛传播，平台也不是很听招呼了。比如说最近广东潮州的集体停业事件，以及各地的禁摩禁电动车，实际上，这都属于是社会矛盾的突然爆发。特别是前面这个广东潮州的事情，说我们现在要检查一下大家的消防，所有的市面上的人就都闭市了，这个怎么可以？而且就算是你闭市了，这个东西你不能传播。你不能每天在抖音上、在快手上、在各种平台上去刷广东潮州的事情，这个太难看了。所有的推荐算法和平台，你们要处理这个事情，各地现在又在新搞禁摩、禁电动车的事情。

这个事情其实跟上一条也是有关系的。什么？就是外卖员。你想，外卖员都是骑电动自行车的，他们的电动自行车如果不超标，根本就送不到。他必须是超重、超速了以后，那个车才有可能在美团的系统内把这个订单跑到。结果现在警察天天在街上逮你，这个车有问题，我一定要把你扣下来。那就会有人在边上摔头盔大哭，说我完蛋了，我又迟到了，我又被扣钱了。他这个事他就要去解决，这个问题。

还有一个什么原因？最近突然要下这样的一个文件。中国一直在努力加入一个组织，叫全面与进步跨太平洋伙伴关系协定，叫CPTPP的这样的一个组织。咱们已经连续申报了好几年，都没有通过。今年又去申报去了，今年未必能通过。咱们看看11月27号在加拿大温哥华开会来审议啊。这一次主要是讨论中国、台湾、厄瓜多尔、乌拉圭等国家和地区的入会申请。那么CPTPP对于信息流动是有专门要求的，如果不符合这个要求，人家是不允许你加入的。咱们肯定是在这个之前，要先敲打敲打这些平台，你们要注意一下，看看后边怎么去处理相关的问题。那么肯定也在折腾关于CPTPP的事情。明后天咱们再专门做一条来讲一讲。

这些原因凑在一起，导致现在要发这个文。那你说这个文下来以后会有效果吗？咱们一开始就讲了，这是一个有起止日期的活动，这种活动一般我们叫运动，哪天开始到哪天结束。一堆描述性的表述，没有具体的量化标准，没有具体详细的奖惩条款，真正有用的东西其实根本就没有。真正有用的是什么？对于算法伤害诉讼的这种严厉判例，这个东西是真正有用的。比如说，我是一个外卖员，他因为我超时，或者说用了一些不合理的时间约定让我去超时，扣了我的钱了，我去告他，告美团，给美团判了一个比如罚款多少钱，就对我进行赔偿。要很多这样的判例出来以后，这个才会真正有效果。其他其实都是没用的。但是你说一点效果没有，那这个事肯定也不至于。因为中国政府一般做事情，还是会有一定效果的。它的效果会是什么？

第一，平台方还是要知道一下谁是老大。你们不能自己放飞了。政府跟民众之间发生的一些事情，到底应该怎么报道，你自己心里要有个数。第二个，你自己有点小心思，这事没人管你。你比如说，我们希望利用算法实现垄断竞争，这个事其实还没什么人去理你的，但老大的眼色还是要看好的。

有一些地方政府消息压不下去了，比如说广东潮州这种事情。你以为潮州相关的部门，他们希望这些信息被流通吗？他们难道没有去打招呼，没有去问人吗？肯定都动了。但是现在平台没有理他。以后再出现类似这个事情，那么这个信息到底怎么去处理，平台心里还是应该有数的。

好，这就是我们今天要讲的四个部门，六条措施进行算法整治的故事。感谢大家收听，请帮忙点赞，点小铃铛，参加Discord讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

社交媒体巨头最终还是向政府低头了。大家好，这里是老范讲故事的YouTube频道。今天咱们来讲一讲最近两件跟社交媒体与政府之间冲突相关的事情。

第一件，telegram的创始人被法国政府直接拘留了。虽然交了保释金之后他离开了监狱，但是也禁止离开法国。

另外一件就是X，也就是原来的推特，在巴西被封禁。原因有两个：第一个是X在巴西的法律代表已经不存在了，或者说这个人已经离开了巴西；另外一个是在巴西发布了一些巴西政府认为是虚假的信息。在这样的情况下，就被封禁了。

从telegram的角度上来说，telegram实际上是一个IM，它并不是一个社交媒体，或者它并不是一个完全的社交媒体。所谓的IM的即时通讯，就是可以一对一或者是在一个小的群组里面进行信息交流的一个工具。那么在这个里面的话，保护用户隐私，不让政府知道谁说了什么话，还是非常有价值的。特别是telegram在整个的创建和发展的过程中，一直是以保护用户隐私为己任的。

现在法国政府说，你们telegram上有毒品交易、有儿童色情，还有很多其他的非法交易，我要求知道到底是谁在说。这件事情上来说，其实已经算是触及了人们的一个敏感点。因为我们在私下里面沟通的话，我们自己思考的任何问题，都不应该作为我们是犯罪或者是有可能犯罪的一个证据，对我们进行指责，这实在是太可怕了。

以前有一个电影叫《未来派》还是叫什么，就是它会去预防未来有可能发生的犯罪。这对于每一个人来说的话，就太恐怖了。等于每一个人都要时时刻刻的生活在恐惧之中。但是呢，像telegram，因为它用户量这么大，特别是里面有很大的群组效应，telegram的group是可以做得非常大的，它在里面可以进行一些非法交易的撮合，这也确实是很吓人的。

所以它并不是单纯的即时通讯工具，它也是一个社交媒体，或者叫私密社交媒体，而且影响力很大。但是telegram当时的事情呢，我们一般认为……

政府对于某一个即时通讯工具或者社交媒体运作方式有不同意见的话，他们一般会采用的是禁令、罚款、警告，或者干脆是关闭本国用户的使用。但是像法国政府这种上来抓人的情况，其实我们还是第一次见到。以前从来没有想到过，他们会直接上来把人抓走。

而从另外一件事情，也就是X在巴西的事情来看，这里面就会涉及一个问题：到底什么是真实。巴西的大法官认为，X上面传播的很多关于巴西选举以及政府延续相关的信息是虚假信息。他要求X必须要把这些不实信息处理掉，而X则表示：“我并不认为这是一个虚假信息，我们要求维护这些用户的言论自由，让这些信息继续传播。”

这种情况是因为害怕他们在巴西的员工被捕，所以X直接把在巴西的员工都撤回了，这导致X在巴西的办公室没有法律代表。巴西政府于是表示：“那我封禁X在巴西的运作，巴西境内不允许再使用X。”

现在，这两个事情都发生了反转。首先是Telegram的创始人决定说：“我愿意跟法国政府去配合，我愿意去提供Telegram里面一些从事违法交易的人的信息给政府，来协助他们控制这些违法交易。”

而另一方面，X也承诺会重新指派X在巴西的法律代表，并且根据巴西政府的要求，对巴西境内传播的信息里边，巴西政府所认定的虚假信息进行控制，让这些信息消失。巴西政府现在也表示：“OK，我们已经看到了X做出的这些改变，会恢复X在巴西的正常工作，也让巴西的民众可以继续使用X。”

所以最终还是由政府来管理社交媒体，而不是社交媒体在与政府的博弈过程中战胜了政府。这两件事情都是在向这个方向发展。即使是埃隆·马斯克号称要捍卫所有人的言论自由，最终也还是向巴西政府低头了。我并不认为埃隆·马斯克相信巴西政府所指定的那些虚假信息就是虚假的，但他最终还是说：“OK，在巴西的范围内，巴西政府是有权利来决定什么信息是真实的，什么信息是虚假的。”

让我想起我最近在看的书，也就是尤瓦尔·赫拉利最新写的这本，叫《智人之上》，英文叫《NeXus》。它里面写的有一段非常有意思，它说人们发明了一种东西，叫做宗教经典，也就是圣经。那么，这里面到底什么是真经，什么是伪经，这件事情是如何来决定的呢？

这是一堆的拉比，就是犹太教的拉比，然后到基督教的话，就是一堆大主教。大家相互讨论，相互博弈，最终去决定的。在里面讲到，经典在做出来的时候，它可能是很多很多的传记本记，以及其他的这种记载，大家把它都记下来了。最终，大家会坐下来谈，哪些是可以进入到经典的圣经里边，或者典范里边，哪些是伪经。而且在这个过程中的话，也会不断地发生博弈。有的教派可能就认为这几本是真的，那几本是假的。有些教派会反过来说，哪些是真的，哪些是假的。最终，这些教派之间相互，其实很难说谁说服了谁。

但是现在有一些大的，比如说基督教，统一来去确认哪些是真实的经典，哪些是不在里面的。而且即使是确认完了以后，可能有一些现在正式出版的圣经里边所提到的一些书籍，它其实并不存在，或者说它已经被作为伪经，也好，或者是经过战乱、经过其他的一些动荡，就意识到了。这种事情也是有可能发生的。

所以最终我们要看，真实的信息到底是怎么来确定的，是由这些犹太教的拉比、基督教的这些大主教，还是各国的政府来去认定，说这就是真实的信息。他在书里面也讲到，真实这件事情，或者叫信息这件事情，它本身与真实有关，但是也不是完全相关。特别是政府行政机构，以及像宗教这样的官僚体系，他们一定会去扭曲事实，包括科研官僚体系，他们也一定会去扭曲事实。但是这个扭曲事实并不是完全是坏的啊，他们是希望能够继续维持秩序。我们其实也还是需要让秩序继续运转下去的。

完全的真实，或者说所有东西都是向真实看齐的话，对于很多秩序的维持并没有什么好处。在前面我们讲的这两件事情上来说，第一个telegram的这个事情。

如果是在一个相对比较小范围内流传的，是不是法国政府就不会去管他？就像尤瓦尔·哈拉里那个书里面写的，现在在非洲的一些基督教教派里面，现在罗马教廷所确认的伪经，是他们那里的真实传播的经典。他们会有自己的教义，或者会有一些在宗教思想上的一些差异。不是这么大的差异，会有一些小的差异。但是呢，这些小的教派都是在一些比较小、比较偏远的地区流传。那如果这些教派变得很大的话，会不会发生一些跟正统之间的这种冲突？这个都是有可能的。

最终还是说，我们在一个很大的范围内维持了一个稳定，维持了一种秩序，而这些相对来说比较偏远的教派，他们就坚持自己的事情。Telegram这个事情也是如此。如果比较小，影响不是那么大的话，其实并没有人愿意去管他。但是当他影响很大了，他也有几亿用户了，为了维持一个普遍的秩序，他就不允许继续坚持原来那些原则了。他必须要去认同一套各国政府，或者说普世价值观所要求的这种秩序，包括把这些做不可饶恕的事情，或者说做这种罪大恶极事情的人直接公开出来。这件事情虽然是违背了Telegram创立之初的这种设想，但他依然要去服从。

而对于像马斯克的推特这样的，他在巴西这块土地上，如果想继续去运作的话，他们就要认定说巴西政府这样的一个合法政府，至少从巴西自己的法律状态上来看，他是合法政府的。他们所认为的要继续维持秩序运转下去的这种判别标准下，到底什么是真实的，什么是谎言，他们也得去承认。而且要按照巴西政府的要求，给他的公司在巴西设立一个法律代表，否则的话，他就不可以在巴西继续运作下去。马斯克也是承认了这一点。

大家要注意，所谓的言论自由，并不是说我们要捍卫每个人说出真理的这个权利，而是我们要捍卫每个人说出自己想法的权利。这个想法可能对于这个人来说，他自己也未必能够确认他的想法就是代表真实，或者是代表他自己真实意愿吧。咱们先不说与客观是不是一致。

哪怕说我就是故意要骗人，我也依然有权利把他说出来。这玩意才叫言论自由。但是，每一件事情都是有一个限度的。这个限度就是说，你不能够太多地干预到其他合法政府的相应权利，不能去破坏一定的秩序。

尤尔赫莱利在他的书里讲到，为什么政府、政权、宗教和官僚体系所维持的这种信息运作方式或信息网络，会去压制真实、压制真相。原因就是他们要维持秩序，要维持稳定。在这样的情况下，他们只能去宣传或扭曲他们自己所需要的真相。

那么，讲回来，我们再去谈下一件事情。我们现在已经看到Telegram的结局了，它屈从了；我们也看到了X的结果，它也屈从了。现在就要看看TikTok，这是什么样的运作方式。在美国政府认为“我不能相信你的运作方式能够维持我要求的稳定”的情况下，它到底应该怎么去做的问题。

但是，现在这一块与前面我们讲的X和Telegram有一个很大的区别。区别在于，X和Telegram都说“我原来有一个要坚持的事情”，这件事情在于，当你们的这些世俗的稳定需求发生矛盾的时候，我们进行了一定的抗争，最终我们屈从了，不再坚持各自的理念。然后，政府就说“OK，我们承认了你的这种屈从，我们也接纳你继续去运作”。

但是，TikTok的情况就完全不同。美国政府要求说“你必须要顺应我对秩序的要求，我对真理和真相的定义，要去把这些违背真相或我定义的真相的事情压制下去”，至少要把美国政府认为与真相不符的信息过滤掉或压制掉。然而，TikTok一开始就说“我认，你要什么我给你做”。但是，美国政府说“嗯，我不信你。你说你要给我做，服从我对秩序的要求，但我们不相信你的底层动机，不相信你的底层逻辑”。

那么，这个事情就会变得非常麻烦，因为它不像X说“你要什么我给你做，做完了以后你就认不就完事了吗？”Telegram也是“你要什么我给你，你得到了你想要的东西”。

你就把我放了。你好，我好，大家好。继续把这事往前走。美国政府说我不相信你的底层。那么这件事情呢，其实是无解的。那你说我把这个公司卖掉，我把这个公司真正交到美国人手里面，美国人能够相信我说的是真话。那这样才有可能说把这个问题彻底解决掉。

但是我们要注意啊，很多的事情它是有一个发展的历程的。那就像尤尔·哈拉利讲的，这些圣经版本之争，它在当时的那个时间点上和我们在一两千年之后再去看，其实是不一样的。我们在一两千年之后看到的实际上是一个结果。有一个人去说了，说我们把这个几十卷的经文定义为一个虔诚的基督教徒必须要去阅读的书。那以后这些经文就慢慢地成为了基督教的正典，就是圣经里边正式应该收录的奠基。

那所有没有在这个清单里面的书就不在正典的范围内，甚至有可能会被认为是伪经。有些虽然没有在正典的范围内，但是呢也没有被批驳成为伪经；有些呢就被批驳进去了。这我们现在看到的是一个结果，虽然只有一些非常偏远的地区，包括非洲的一些地区的基督教教会，还在阅读或者是宣扬那些被正统基督教会宣扬的伪经，但是绝大部分的基督教都是认同统一的经典的范围的。

但是我们要回到当时的这个状态来看，它是一个什么样状态？它实际上是一个相互博弈、相互讨论，大家坐下来研讨辩论，是这样的一个状态。所以呢，回到TikTok的事情上来说，它并不会说马上在11月大选之后，在明年1月十几号拜登卸任之前，就一定要把它关掉。但是呢，围绕着这种到底什么是经典、应该如何去认证真理、如何去确定这个事情的话，肯定会经过很激烈的冲突。而且这个冲突可能会维持挺长一段时间，像基督教经典的确认，大概是维持了可能三四百年吧。

现在的话，虽然不太会说TikTok是不是要玩下去，持续搞个三四百年，这个有点夸张了。但是啊，这件事情讨论个三五年，我觉得是合理的。而且在这个过程中，可能还会发生一些其他的变化，包括中国的政府的一些变化。

中国跟美国之间关系的变化，以及其他一些地缘政治相关的变化，或者是TikTok这个公司，以及它上面的字节跳动的公司的一些股权结构、治理结构的一些变化，这个有可能还是会发生的。当这件事情发生之后的话，也许我们现在所讨论的、所关注的问题就会变得非常可笑。

我们现在并没有知道说，当年基督教经典在去确认哪个是正经、哪个是伪经的时候，他们之间到底发生了一些什么事情。其实我们并没有那么在意了，只是我们知道了一个结果。现在呢，社交媒体和政府之间的战争，并不会就此画上句号，这只是一个阶段性的过程。在这一次的斗争中，政府胜利了，但是我们也看到了，政府其实对于社交媒体的管控应该已经是越来越力不从心了。

因为以前在报纸时代、在电视时代的话，是一个人说大家听，政府相对来说比较容易去确认到底什么是真实、什么是虚假，什么事情是更加容易去维持秩序的，什么信息可能会让秩序或者让既得利益者的利益受到损失。但是现在呢，因为社交媒体是每一个人都在说，每一个人都在传播，所以社交媒体上的所有信息流，其实是一个相对无序的状态。特别是在推荐算法、人工智能这些技术加入之后，这种无序呢，会变得更加脱离政府的控制。

它会在人工智能的控制下，但并不会在政府的控制下。而政府对于人工智能具体是如何运作的，这件事情的话，其实并没有什么信心。在TikTok这个事情上，就可以看出一些端倪来。虽然Twitter最终得到了巴西政府的信任，但TikTok没有得到美国政府的信任。说到底，都是各国政府对于AI推荐算法到底是如何运作的这件事情，都是没信心的。

巴西政府可能不是那么了解AI到底如何工作，而美国政府可能在这个地方要对AI运作的原理和方式要更加理解一些。我记得在尤瓦尔·赫拉利这本书里面，有一个章节讲的是要杀死律师。为什么这么讲呢？就是对于一个民众来说，对于普通的人来说，复杂的法律体系、政治相关的各种规定以及文书，他是搞不懂的。

对于未知的事情，他都会感觉恐怖。他觉得我有可能受到伤害，或者说我已经受到伤害了。这种伤害到底是如何发生的，他搞不明白。在未来，无论是政府、既得利益者还是普通的民众，我们都会面对一个黑盒子。我们搞不清楚智能推荐算法和人工智能到底是怎么运作的。在这种情况下，就有可能在发生一些极端情况的时候，把罪责归结给这种不可知的AI系统。

特别是像TikTok的事情，美国政府说，甭管你做什么解释，我都不信。我相信你的唯一方式就是，所有在运作这一套推荐算法的人，是我可控的。你们是遵从美国政府所要求的这套普世价值观的人。只有在运作一个我不太看得懂的AI系统的时候，我才可以允许它继续运作下去。如果运作这套AI系统的人不遵从我的普世价值观，而是遵从比如说国安法或者反间谍法这样的价值观的人，那我就不允许他运作下去。这个有可能才是未来的一个常态。

虽然现在欧洲、中国、美国都在催安全的AI，但这个安全AI里头，其实有很重要的一点，就是要可解释。AI的运作方式要可解释，而且这种解释的过程，或者说整个运作原理的过程，是对方所信任的。这些科学家可以看懂，他们能够认同，认为这个事情是可以信任的，这个非常重要。因为政客其实很难去理解AI到底是怎么运作的。政客处理的方式是术业有专攻，我把专业的事情交给专业的人去看就好了。

美国政府就说来，我去找一堆美国专家团，这些人是我们信任的技术。虽然我不懂，但他们的人品我信得过。你们去看看TikTok，这个技术到底是怎么回事，是不是可信。中国其实也是这么干的。我记得当年微软在中国卖Windows的时候，中国政府说，Windows这么复杂的系统到中国来卖，万一你给我留点后门，我这也没法弄啊。微软说，咱们签一个协议，我把Windows的全套原代码给你，让你信得过的专家去看，看完了以后给你出一报告，说放心吧。

这东西没问题。他通过这样的一个方式达到信任。只是呢，像微软的源代码，我们还可以去找人看懂。但是AI系统，特别是像TikTok后台的这种AI系统，现在我们要让美国的专家去把它看懂，它到底是如何去运作的，是有难度的。并不是说美国的专家技术不行，看不懂中国TikTok这个技术到底是怎么做的，而是TikTok里面它所包含的数据，所包含的这种影响它推荐结果的点实在太多。而且这些点其实是在运作的过程中会实时发生变化的。它并不像Windows，作为一个静态的系统，你放在这，只要是某一个版本搁这了，它就不会发生变化。你可以坐那审核，审核完了打个勾，最后就会照着这个方式去做。

而像TikTok推荐算法，其实我觉得举一个什么样的案例更合适呢？就像一盘现在正在下的围棋，双方根据当前的状态，会下出新的棋路来，最终才能决定说这一盘棋到底谁输谁赢，差多少步棋。在这个时候，你给他一个空的棋盘，给他两盒棋子，说来你审核吧，这其实是没有任何意义的。所以他们也没法去确认这件事情。

那么在未来会是什么样的呢？其实在未来，人类对于AI本身的运作会越来越不可把控，原因也很简单。就是当我们有一个可以自动开车的车辆的时候，我们就不会再去学开车了。当我们有一个可以自动记录电话号码的智能手机的时候，我们就不会再去背电话号码了。当我们的AI可以很好地帮助公司，帮助平台赚钱的时候，可能就没有那么多人真正去研究AI底层到底是怎么运作的。而且AI底层运作的原理和整个的过程会变得越来越复杂。

而且AI的运作方式，就像刚才我讲的那个围棋的故事一样，你必须要实时监控当时的状态，才能够确定这个事情应该是如何去运作，而不是说像我们经常讲的“三岁看老”，就是我一看你，一开始我就知道你未来所有的事情，遇到什么样的情况，你会做出什么样的决策。这个事其实对于AI来说，包括对于人来说，都是不可能实现的。所以可能再过一段时间，由政府来确定什么是真实的，什么是可以维持秩序，或者维持既得利益集团的利益的，这件事情就无法继续维持下去。这可能是我们所看到的最后一次由政府来确定什么是真、什么是假、什么是可以维持秩序的。越往后的话，当然并不会说突然切了一条线，说从今天开始就怎么怎么样了，而是逐渐会发展成由AI来确定什么是可以相信的，什么是真实的，什么是维持秩序和维持既得利益者的。这是我们即将过渡到的未来。

而对于未来来说，到底谁是既得利益者，谁是最后的管理者的话，可能是AI，而并不是一个单纯的人类，或者是有一小撮人类可以控制的AI。这可能就是我们要迎来的未来。

好，这一期就跟大家讲到这里，感谢大家收听。请帮忙点赞、点小铃铛，参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。