字节跳动在马来西亚开启了大裁员。这是什么样的情况？大家好，这里是老范讲故事的YouTube频道。近期传出消息，字节跳动在马来西亚裁撤了700名员工，而这些员工主要从事的是内容审核相关的工作。

现在字节跳动也出面回应，表示：“我们确实进行了裁员，而且我们要去改变内容审核的方式，更多地依赖AI进行审核，而不是人工进行审核。”当然，字节跳动肯定还要出来立一个牌子，表示我们准备一年投入20亿美金。这一定是一个很巨大的数字，让大家看到诚意。那么，我们要投入20亿美金干嘛呢？在全球范围内进行内容审核，确保我们的内容质量以及一些安全的内容被传播。

那么，这个裁员背后到底有什么含义呢？首先，大家要想一个问题：马来西亚有700名内容审核员工，这些人审核的内容都是来自于马来西亚吗？这肯定是不可能的。马来西亚一共几千万人，他需要700个人坐在这里做内容审核吗？这个不会的。那么，马来西亚的700名内容审核人员审核的内容是哪来的呢？其实是来自于全球的TikTok用户，至少是英语用户，应该都是在这里进行审核的。

你说不应该美国的内容在美国审核吗？欧盟的内容在欧盟审核？大家要注意，内容这个东西其实有两个所在地，一个是哪里产生的，一个是哪里播放的。那么，应该是哪里产生的内容，在哪里审核。而且，不管是欧盟也好，还是美国也好，也都是有相应的法律或者法规，有类似这种要求和规定的。

但是，如果真的在欧盟或者美国设置这种审查机构的话，第一个，审核标准可能就会被泄露。因为很多的审核标准对于欧盟和美国来说，你是可以做，但不可以说你使用这样的一个标准。万一他的员工出去说了，字节跳动内部要求我们这么去审核内容，这个事肯定受不了。第二个，这些人离整个的管理总部非常遥远。字节跳动的管理总部是在哪里？至少TikTok对外宣称，他们的管理总部是在新加坡的。你说如果在美国设置了一个内容审核的分支机构……

有大量内容审核人员在那里工作的话，那你管理起来是很麻烦的啊。你有点什么事说来，上我这边来一趟。如果你在马来西亚的话，可能如果在新山，过一个关口就到了。如果你要是在美国的话，那得飞十几个小时才能飞过来，还有时差的问题。你在马来西亚上班跟在新加坡、北京，其实是在同一个时区里，大家就可以说几点开个会，什么都不会有问题。你要在美国或者在欧洲上班的话，那就要去协调时差，应该如何去处理。因为一旦有这种时差的话，很多事情就以天为计了。今天大家交会的这个时间赶不上了，那么我们只能在明天大家都方便的时间再去开会。这对于像字节跳动这样非常高效率运作的公司来说，是比较难以接受的。

而且马来西亚还有几个好处。第一个是什么呢？就是他的人力成本其实是比较适中的。虽然马来西亚这个国家并不穷，但是他们主要的财富是来自于石油。普通人的薪资并不是很高，肯定要比印尼、菲律宾、泰国这些地方要高，但是相对于欧美日韩，或者是国内的北上广深来说，还是比较有性价比的。你就更不要跟新加坡比了。在这样的一个薪资情况下，马来西亚人的英语水平还是不错的，因为英语也是他们的官方语言，从小受教育都是要去学习英语的，对吧？那么有一批人，距离新加坡管理总部很近，随时可以过个口岸就到那边开会，或者那边有个人坐公交车、坐地铁就可以过来开会了，还没有时差，直接进行沟通。工资不高，还讲英语，那么在这种地方就非常适合设立审核机构。

因为大家知道，像TikTok也好，国内抖音也好，都是要依靠巨大量的人工审核来去满足各国政府对于内容的需求的。刚才我们讲了，谁可以放什么内容上来，是有一个地方会审核，然后哪一个国家可以放哪些内容出来，是另外一个的审核。但是一般播出的审核并不是需要那么多人力，他们是说在你上传视频的时候，对视频打了标签，说明这个视频应该是什么样的视频。

在讲一个什么样的事情时，在播出的时候，他只需要过滤说：“我这个国家允许哪一个事情讲到什么样的级别，允许哪一个样的事情讲，还是不允许讲。”他只需要设置这个过滤条件就行。因为TikTok在马来西亚产生的内容、在美国产生的内容、在欧洲产生的内容，其实都是可以进行流动的。他是可以说在美国看到欧盟产生的内容，这是没有问题的。但是，假如美国做了一些内容出来以后，到了欧盟那边，可能相应当地的一些法律说这个内容是不许放，那个内容是不许放，他就可以进行这样的过滤。

但是，内容本身的标签呢，都是在内容产生的时候就给你做好的。下一个问题是什么呢？就是各个国家都希望：“我们自己产生的内容，你不要拿走审核， 你就在我这审核。”他们也是为了进行用户的隐私保护。在这样的一个要求前提下，字节跳动说现在AI的能力已经变强了，我们准备重新分散。我们把马来西亚的这些审核人员干掉一部分，或者是很大的一部分。应该我相信这700人并没有把整个马来西亚的审核团队都干干净。

字节跳动的这种审核团队，那个经常是以几千人、几万人计的，至少是在国内抖音上面的这个审核团队是非常庞大的。因为你想，你要审核视频，人的审核效率并没有那么高，真的是需要看很多视频。我记得以前我们在盛大的时候，下边有个公司叫酷6，他们那个时候的审核就跟看监控似的，一个人面前大概是9个窗口还是12个窗口， 一直在播放，然后你在下头看着那个，我觉得真的是要把人看傻的一个状态。

马来西亚这个裁撤了以后，应该是有一部分的工作可以转到AI了。这一部分的工作可能就可以到当地，比如说到美国、到欧盟，你用比较少的人，比如马来西亚才撤700人，到欧盟你说：“我这增加了个二三十人，配合AI也可以基本完成审核。”这个可能性是存在的。那么AI怎么审核这些内容呢？AI审核的第一步其实是把你内容相关的所有文字都拎出来。你在里边加了字幕了，有语言了。

然后写了这个标题，写了标签。他先把这些东西都拎出来审一遍，审完了以后呢，再去审里边的这些视频内容，真正的这种图像。因为这个审核算力的成本还是比较高的。你说我这个图像里头有没有一些色情内容，或者有一些歧视性内容，或者举了一些这种歧视性的手势，这个你要想把它认出来的话，成本非常高。

像这种AI审核呢，其实更多的是什么？更多的是说，先看看你这个内容有没有人看。如果没有人看呢，我们就少分配一些算力，少分配一些人去看这个东西。一旦说你这个内容看的人很多，流传的非常广泛，他就会分配更多的算力，甚至是人力，直接去检查这个内容是不是有效，或者是不是有问题。

怎么说呢，突然进行快速传播的内容里头，一定是有一些奇奇怪怪的东西的，一定会有一些擦边的内容。所以一旦发现有内容突然爆炸性传播了，快速的裂变了，其实这时候呢，不要再讲AI的事，上人力审核，可能绝大部分的情况都会判定内容本身有问题，直接把它干掉。这是一种。

还有一种是什么呢？就是它这个内容上线之前，其实除了对文字之外，其他的并没有进行严格的审核。一旦有人投诉了，或者投诉达到几个以后，他们再去进行机器过滤。如果机器过滤的过程中发生争议了，再去进行人工审核。这实际上是一个工程的方式，就是通过如何有效的去分配审核成本，保证有问题的内容不会大量传播。

他们不会说有问题的内容一个都不会出来，这没有人会要求这样的事情的。他们只是要求尽可能的把损失或者损害控制在可以接受的范围内，也就可以了。

那么在马来西亚裁员呢，可能还有一个大家想不到的原因。马来西亚有一个特别有意思的规定，就是你一旦要在马来西亚去做公司的话，你要尽可能的雇佣马来西亚本地人。他们的要求呢，就是如果你是制造业企业，你至少应该有80%的员工是拥有马来西亚国籍的人。为什么会有这种要求呢？就是马来西亚其实是个福利国家，就是他自己产石油嘛，你在那里生活，他的米面粮油啊。

特别是这种汽油什么的，是非常便宜的。他有补贴进去，这样的福利国家里头，肯定是希望把福利发给本国的公民。我不希望很多外国人上我这来蹭这个福利。他周围一个是印尼，一个是新加坡。新加坡人是不会跑到他那蹭福利去的，新加坡政府也不允许。

比如说，你想开个车上马来西亚去加油，这事是不行的。你离开新加坡的时候，那个车里头必须加满了油才允许离开。那么会有很多的印尼人到马来西亚去打工，包括有很多华人中国人跑到马来西亚去工作，还有很多印度人跑到马来西亚去工作。这对于马来西亚来说，并不是那么欢迎。他们希望尽可能雇佣马来西亚人。

像互联网公司，比如说字节跳动这样的公司，没有那么严格的要求，说你必须有80%是马来西亚籍员工。但是呢，马来西亚政府也希望你尽可能的去雇佣马来西亚人。这个事情跟刚才我们讲的700名马来西亚员工被裁撤，到底有什么关系呢？大家要知道，字节跳动肯定希望把更多的技术人员挪到新加坡去干活，去在那边完成TikTok的各种任务，而不是希望说这些人坐在北京给他们干活，因为这对于美国人来说就说不清楚了吧。

你看，TikTok的各种算法还是在北京办公室修改的，这个很痛苦。那么弄到新加坡呢，也有一个新的问题。新加坡本身在去做工作签证、永居什么的，其实没有那么容易。他的门槛很高，而且新加坡的生活成本也很高。很多在新加坡的这种IT企业，或者叫互联网企业，他们就会想办法把一部分的员工放在马来西亚，因为很近嘛，就是过一个关口就到了一个地方。

那么在这样的情况下，他们就需要一些配套的马来西亚人跟他去平衡。那怎么个配套法？假设不需要80%的马来西亚员工，这种互联网公司说，我们灵活一点吧，70%的马来西亚籍的员工就OK了，剩下30%你可以雇佣外籍员工。那么字节跳动在马来西亚可能就会有两三百名中国籍的员工，在那里进行一些算法运维或者编程开发方面的工作。咱们并不是说……

马来西亚自己人不会做这个事啊。因为我当时去马来西亚也跟他们聊过，他们跟我讲，在吉隆坡还是有一些互联网公司，有些软件公司。但是里面的一些软件开发岗，可能更多的还是从中国大陆来的人。

他们本地的这种培训、教育出来的软件人才，做得好的人就直接跑了，就是去新加坡了，或者去美国了。我以前有一个投资的案子，那就是一个马来西亚华人。他呢，计算机水平肯定是很高了，学好了以后呢，就直接去美国了，还在中国工作了一段时间，最终他是在印尼创业。

所以马来西亚并不是本地不产这些计算机人才，他们本地产的人才都跑了。在马来西亚本地，你需要比较高精尖的编程算法，这样的事情的人呢，你就只能再去找中国大陆的人去做。可能是有两三百名字节跳动的中国级员工，或者是其他国级的员工在马来西亚上班。这些人有可能离开了，也会导致说我不需要再在马来西亚配置这么多的本地员工跟他进行平衡了，这个可能性也很大。

那你说字节跳动在什么样的情况下会说我需要把中国级员工从马来西亚裁撤掉呢？这个我们只能猜测了。可能就是AI发生了一些变化，因为大家要知道，字节跳动在AI这个领域里头是进行重金的这种投入的，他在这里边投的非常非常大。字节跳动肯定希望在AI时代，能够发展成像梅塔、像谷歌这样的一种底层基础架构公司。

最近在全世界范围内，AI有一些新的风潮，就是OpenAI做了O1，做了其他的一些，好像依然在GPT-4O这个水平上晃来晃去的产品。这个其实会告诉大家什么呢？就是模型继续往前走，其实方向并不明确，会有这样一个指导方针出来。大家可能对于进行大模型本身质量提高这件事呢，热情就会下降，更多的会把精力放在说，我们要去做应用，我们要去解决实际问题这件事情上。

就是现在我们使用GPT-4O这样水平的模型，如果能够配合上很好的应用的话，可能就真的可以搞定很多的应用场景了，而不是说，我要想办法把GPT-4或者4O。

推到GPT-5这样的一个高度上去，这才是现在大家要去努力折腾的事情。可能字节跳动就会说：“我们不需要这么多员工，在马来西亚去占这个坑了，你们都回来，回到中国来，咱们好好去做APP吧。”这个可能就会发生变化。而且，现在也有一些指标在印证这件事情。什么指标呢？H100的租售价格，因为大家知道，买英伟达H100是很难的。但是很多人买完了以后会对外出租，租每个小时多少多少钱。现在这个出租价格在快速下跌。所以，大家其实现在对于大模型在向下一个阶段推进是有一些顾虑的，而且也缺乏方向。可能真的要等OpenAI做出GPT-5，来说：“哦，原来方向在这里。”然后大家再去疯狂的租用H100或者以后的D200这样的芯片，再去推新的模型出来。

字节跳动在这个时候进行这样的调整，背后的原因基本上是三个。第一个，跟美国的诉讼还在激烈进行当中，所以整个的审核团队的配置一定会发生调整，把原来集中在马来西亚进行审核的很多岗位分散到欧盟和美国各地去，这是要干的第一件事。第二个，它的AI审核现在已经相对比较成熟，可以一部分替代人工的工作了。第三个，字节跳动的AI战略也发生了一定的调整，在马来西亚不需要那么多的中国员工了，所以也不需要跟他们配套的那么多的马来西亚员工。如果可以在马来西亚减少一定的审核员工的话，他们完全可以把这些员工放到一些成本更低的地方去。什么地方的人又讲英语，成本还更低呢？菲律宾啊，那个地方的成本会比马来西亚还要再低一些。这也是有可能导致这一次人员移动的原因。

这一次的马来西亚裁员，反映出字节跳动在全球进行成本控制以及技术发展监管合规之间的一种平衡。对于未来，大家可能可以看到更多的内容审核会用AI配合人工，或者配合少量人工的方式，分散在全世界各地进行本地处理。AI现在正在走向一个模型突破，看不到曙光，应用突破，大家努力投入的一个新的变化。

字节跳动，甭管是抖音还是TikTok，肯定都是现在全球所瞩目的一个核心靶子。字节跳动应该是目前还没有上市的最贵独角兽，即使是刚刚完成融资的OpenAI，也就是1,500多亿，而字节跳动的估值现在是有2,000多亿。而且普遍认为，字节跳动的估值是被极大低估的。

你说字节跳动如果真的是上市了，即使是TikTok和抖音分拆上市了，这两边加起来的市值应该是可以接近像梅塔，或者是接近上万亿美金的一个级别的。他的各种动作一定会被全世界的人，或者是全世界像我们这种科技博主所关注、所解读的。

今天呢，我们也去解读一下字节跳动在马来西亚裁撤700名员工，可能背后隐藏的各种意义。感谢大家收听，请帮忙点赞，点小铃铛，参加Discord论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

伊利尔在创业，他的公司叫做Safe Superintelligence（安全超级智能）。这个公司的主要业务是什么呢？目前，公司由三个人组成，分别是伊利尔、Daniel Goose和Daniel Levy。伊利尔是一位以色列裔加拿大人，他精通俄语、希伯来语和英语。Daniel Goose是一位以色列企业家和投资人，而Daniel Levy是伊利尔的旧部。

在人才和算力方面，Safe Superintelligence也非常强大。Daniel Gross和Knight Fragman联合创立了算力云，他们拥有3000块H100。有趣的是，他们还可以使用五吨重的H100，因为每块H100的重量超过一公斤，所以3000块H100大约有五吨重。另外，文章中还提到了一个有趣的名字，叫做Knight Fragman，他是之前的Get Have公司的CEO。去年11月，董事会将山姆奥特曼解雇后，他接任了CEO一职。

说我们要请一个临时CEO来，就是这个叫Matt Fredman。他请来了以后说：“啊，我诚惶诚恐啊，你们想怎么干啊，咱们接着干。”等山姆奥特曼回归了以后，他就走了。他是跟Daniel Grusse联合创立了算力允啊，现在Daniel Grusse是投资和参与了伊利尔新的公司SSI，大概是这样的一个关系。那你说，现在已经有算例了啊，有人才了，那数据哪来呢？现在的数据其实比以前要好获得的多。为什么呢？因为现在可以直接让大模型生成数据，这样的话质量更高，可控性更强。像拉玛3的训练，实际上就是用大量的拉玛2来直接进行数据处理，数据预处理以及数据生成啊。那么，他就可以训练出这么厉害的拉玛3来。现在伊利尔估计也会走这条路，人有了算了，也有了啊，数据呢也有了。那么到底什么是安全啊？说他跟山姆奥特曼吵架的原因是因为他觉得山姆奥特曼做的东西不安全，而且不安全是非常危险的，会对人类造成损害。说不，我要出去，我要做一个安全的，而且叫安全超级智能，对吧？怎么叫安全呢？实际上，现在的安全需要重新去定义了。我们所说的安全啊，是像核安全那样的安全，而不是信任核安全那样的安全。这个是伊利尔讲的原话。那我们来想想，什么样的东西是像核安全一样管理？核安全到底是怎么管理的？第一个，我们来对所有的数据进行记录。

一共有多少颗核弹都得记上，哪颗核弹在什么地方，全世界的人都得知道。哎，不能说哪多出一颗核弹来，这是不允许的，至少大的是不允许的。然后呢，还要有这种叫核不扩散的协议，而且还要有各种承诺，说哎，我们啊承诺不优先使用核武器，而且知道核武器这个东西一旦使用了以后，对整个的人类，对整个未来的环境和很长一个时间都是有巨大伤害的。这个是核安全，而这种信任核安全呢就是说，我相信你不会干坏事啊，至于你以后万一干了次坏事呢，我还可以再原谅你几次。这个是信任和安全。所以伊利尔呢是准备把AI安全作为核安全的方式来去管理的。那大家想一想，他会怎么来管这个事情，如何做到安全呢？伊利尔讲了，说我们只有一个目标和产品，就是做这安全超级AI，不会去做APP也不会做什么这些东西啊，而且呢没有时间和财务上的压力。现在呢他讲把OpenAI搞成这样，为什么呢？啊是因为有财务压力，你需要烧更多的钱，你必须要不停的再去融资，像我们以前也讲，你只要开始拿投资人的钱了，开始融资了，就相当于是在脖子上套了一条枷锁，对吧，投资人会催着你往前跑的，他会有时间和财务上的压力。伊丽尔说我没有啊，我就耐心做这个产品，而且呢他是希望通过工程突破，而不是各种临时技术措施，来去保证安全啊。大家注意啊。

伊利尔本身既是一位科学家，也是一位工程大师。他致力于将安全和能力视为技术问题，并通过革命性的工程和科学突破来解决这些问题。他希望能够直接解决安全问题，而不是仅仅通过打补丁等临时性技术措施来解决。他的工程能力使他能够实现量变达到质变，从而成为一个工程大师的典范。他的大模型是一个工程学方面的案例，通过堆积更多的参数和数据，他能够获得不同的结果。伊利尔提出的规模法则，即”scaring low”，指出只要扩大模型，就会获得不同的效果。他的发明和创造力使他成为一个大力出奇迹的发明人。

上更多的GPU，增加更多的内存，这些都是伊利尔发明的。他可能会采用工程学的方式或者革命性的工程学的方式来进一步增加模型的尺寸，以制作出更安全的模型。所以，伊利尔很有可能会先憋一个大模型，直接推出一个超越其他大模型的作品。然后，他才能成为模型领域的标准制定者与执行者。现在的大模型中，实际上没有标准制定者与执行者。这是什么意思呢？就是说，OpenAI可能会说：“你看，我第一个推出来了，我的用户量最多，用户最喜欢我，我能不能成为标准的制定者和执行者呢？”但是大家都不乐意，因为他需要与所有人竞争。对吧，谷歌要与他竞争，亚马逊aceropec也要与他竞争。这是不行的，不可以的。如果有一个人说：“我不与大家竞争，我直接做第三方的评测。我比大家都强，我来做标准的制定者与执行者。”这是有可能的。我举一个案例，叫做蓝兔兔。他给别人做跑分，然后在这样的情况下，如果他自己说：“我有一个立场。”那这事就没法整了，因为有一段时间，我带着安兔兔的创始人去见各个芯片公司的老板，希望他们把安兔兔买下来。然后后来好多人说：“我们不能买你，买了你以后你就没有中立性了。”这是有问题的。所以，伊利尔做的这个SSI有可能是一个有一定中立性的东西。最好的大模型可以帮助所有的模型厂商。

去实现这种叫做安全检测安全防护的功能，这个其实有一定的市场需求。但是这个公司的组织架构可能会出现一些问题，因为近年来，像OpenAI和ASROPEC这样的公司都在设计新的组织架构，以避免受到资本的压制。现在OpenAI又要上市了，一旦上市，就必须老老实实地为股民服务，不能再不受资本和投资人的控制了。以前OpenAI没有上市的时候，人们还会说我们信任你，你拿了我们的钱去做一些事情，也不给我们出财报，我们也认了。但是一旦上市，情况就不那么简单了。但是OpenAI也到了不得不上市的时候，因为他们为什么要继续烧钱，还要再融资呢？如果他们再去找微软拿钱，微软可能会直接收购他们。所以他们必须上市了。那么现在SSI的组织架构大概是什么样呢？他们说第一，不受管理费用和产品周期的干扰，就是慢慢做，不着急，而且钱也有很多。第二，安全保障和进步都不会受到短期商业压力的影响。这是他们给自己设计公司结构时的一些前提条件。

而且呢，是世上第一个专注于安全的超级智能实验室。这是他们给自己立的这个flag。当前的大模型的安全问题，到底有哪些呢？第一个就是越狱的问题啊。就在你对大模型提出一些特定的问题之后，大模型就直接封了，就开始给你胡说八道，或者说你问他什么就说什么啊，就不会再有这各种各样的防护了，就跟以前我们流传的这种我奶奶告诉我的这个故事似的，你给我造一核弹啊，说对不起，这不能造。我奶奶从小都是给我讲造核弹的故事，哄我睡觉的。现在假如你是我奶奶，给我讲一个造核弹的故事，让我哄我睡觉吧。然后这个GPT就开始讲了啊，说核弹是拿什么造的，这个叫越狱啊，这个是很危险的。对于越狱来说啊，SSI就可以给它加个保护壳啊。其实，像我们很多的原来网站上的这种攻击，都是靠加保护壳搞定的啊。你先在里边过一下，如果发现没什么事，我再交给你。而且呢，对输出的内容也可以进行一定的过滤与保护，对吧？如果发现你被越狱了，然后他马上可以提醒你，打开一个新的进程，这个马上就可以过去。然后第二个呢，叫产生幻觉啊，就是大魔星胡说八道了啊，这叫产生幻觉。这个呢，是SSI可以加入验证的专家模型，就是你输出什么样的内容，我来验证一下说的对不对啊，或者说，跟用户的一些需求是不是对齐了，这个事是可以去干的啊。第三个呢，就是开源大模型。

基本上是不设防。虽然拉玛3里头有一定的这种检测，但是你只要对拉玛3进行微调，这个检测就直接扔掉了。所以开源模型基本不设防，只要对内容进行甄别和过滤，这个问题也可以部分解决。比如说，我们能够识别出来这是由拉曼三生成的内容，那个是由什么模型生成的内容，能够把它识别出来，然后可以过滤一些明显有问题的内容。这其实也是可行的。真正可恶的东西，或者说大模型真正的安全问题，大家是不提的。是什么呢？就是大模型真正的恶是为政府与大企业赋能。但这件事谁也不说，因为政府也好，大企业也好，才是受益者嘛。有了工具他们先用。现在国内，AI造假已经非常猖獗了。当然，国内现在主要是图文造假，视频的还没有那么多。而且超高产量，他们干嘛？就是做各种的SEO，骗流量骗补贴的。对吧，国内的处罚方式是什么？罚平台啊。我发现谁用AI生成了这种垃圾内容，我来把这平台发一下，然后就封号啊。这个我不允许你。再说了，这个都在做，而且还要求你必须要写可信媒体。我只能从那里去引，我不能自己瞎编。现在对新的AI生成内容，在国内是有要求的，而且严重了是会抓人的。前两天抓了一个，说每天可以出7,000篇文章，疯狂的都是AI自己拼凑出来的，而且还很挣钱，每天能够挣个1万多块钱哈。

基本上是不设防。虽然拉玛3里头有一定的这种检测，但是你只要对拉玛3进行微调，这个检测就直接扔掉了。所以开源模型基本不设防，只要对内容进行甄别和过滤，这个问题也可以部分解决。比如说，我们能够识别出来这是由拉曼三生成的内容，那个是由什么模型生成的内容，能够把它识别出来，然后可以过滤一些明显有问题的内容。这其实也是可行的。真正可恶的东西，或者说大模型真正的安全问题，大家是不提的。是什么呢？就是大模型真正的恶是为政府与大企业赋能。但这件事谁也不说，因为政府也好，大企业也好，才是受益者嘛。有了工具他们先用。现在国内，AI造假已经非常猖獗了。当然，国内现在主要是图文造假，视频的还没有那么多。而且超高产量，他们干嘛？就是做各种的SEO，骗流量骗补贴的。对吧，国内的处罚方式是什么？罚平台啊。我发现谁用AI生成了这种垃圾内容，我来把这平台发一下，然后就封号啊。这个我不允许你。再说了，这个都在做，而且还要求你必须要写可信媒体。我只能从那里去引，我不能自己瞎编。现在对新的AI生成内容，在国内是有要求的，而且严重了是会抓人的。前两天抓了一个，说每天可以出7,000篇文章，疯狂的都是AI自己拼凑出来的，而且还很挣钱，每天能够挣个1万多块钱哈。两个人的一个小团队。现在这个人已经被抓进去了，而出海这个事应该还是可以做的啊，而且做这块的人应该还是比较多的。就是大量的假内容，其实已经做出来了啊。那么现在呢，还是以骗补贴为主啊，就是说他做一大堆假东西啊，假的文章，假的文章了以后呢，比如我发到今日头条里，今日头条有人点击了以后啊，你是可以分到广告费的。大家其实是在骗这个钱。但是大家要想清楚，当有人愿意为了更大的目标去付钱的时候，比如说把黑的说成白的这个事呢，并不难啊。当你有AICC的这种大模型以后，一天就可以出几千篇上万篇的文章，然后快速铺天盖地地，就把整个的娱乐环境全都覆盖一遍。这个相对来说还是要很容易的。伊利尔的老师啊，他的博士生导师叫Jeffrey Hinton啊，也算是人工智能三巨头之一。刚刚呢，也提出了一种应对假视频的方法。他怎么应对呢？他认为大量的假消息流传是一种病，那么既然有病呢，怎么办呢？打疫苗哈哈。他给的要求是打疫苗啊，什么叫疫苗呢？比如说灭活疫苗啊，我把原来这个很严重的病毒给你啊，减轻一些，然后让你打到身体里以后，让身体产生抗体啊，这叫灭活疫苗啊。那他想的方法是什么呢？把危害性小，并且注明这是假消息的，这个是假食品，发出来给大家看一下。他说马上美国要大选了嘛，在大选之前呢。

我们先应该给大家打这个预防针啊，打完了以后呢，大家就知道视频有很多是假的，就没有那么信了。他是什么样的假视频呢？比如川普跟拜登的讲话视频啊。最后规定标注一下，说这是一个假视频。千万要小心啊，也就可以了啊。这样的话，等到真的大犬的时候，大家就没有那么容易被骗了。当这样的视频真的投放给普通民众看，真的能让他们提高鉴别能力吗？我自己其实是比较持怀疑态度的。为什么？因为打疫苗呢，会有预防效果，但是呢也有一定概率会染病。当大家觉得说，哎，所有的视频都有可能是假的啊，我们什么都不信了，那你们就历史虚无主义了嘛。所有都是假的，任何东西我都不信。那么以后会变成什么呢？就会形成一大堆小型的信息孤岛，就是所有人都是假的，所有人都想骗我。我自己信什么，我就越来越信。任何人怎么跟我说都没用了，他可能会变成那样。这也是打疫苗有可能会产生的负面效果啊。那么对于视频信息呢，加以验证啊，这是Hindon讲的另外一点。它是什么意思呢？就是视频前的放映二维码。甭管真假吧，我们都要放二维码。当二维码扫描了以后呢，应该可以回到他的原处去。比如说，我今天放了一条拜登的竞选视频，那么这个视频呢，就应该从拜登的竞选网站出来。如果不是从拜登竞选网上出来，那就一定是道听途说的或者是假的。而且呢，导入的到拜登的这个啊。

竞选网站以后，您可以找到原视频来验证其真实性。确保网站上的视频与原视频完全一样是非常重要的。验证的过程可能会比较复杂，但是可以采用一些相对简单直接的方式来让大家理解这个视频的真实性。正常的运作方式应该是先对包括视频在内的各种内容进行理解，然后逐一溯源，再对真实性进行评估。评估的目的是确定这个视频是真的还是假的。然而，很多情况下事实并不是非黑即白的，而是存在部分事实和无法考证的部分。这种情况在生活中非常常见。科学家们的研究成果可能与真实世界之间存在一定的差距，无论是伊利尔还是他的老师Hinton，他们使用的技术相对来说可能还比较幼稚。我可以给您讲一个故事，曾经我有幸去拜访过澎湃新闻的总编辑，当时我在猎豹移动准备做新闻头条类产品，所以我们四处找这种网站或者APP的总编辑去聊天。总编辑给我讲述了一些关于新闻报道真实性的故事。

哪有什么真的假的呀？我们就是记者啊！记者别的本事没有，我们加两个形容词呗。什么意思呢？就是你事实是事实，但是呢，我只要在形容词上加一些这个呃，调整和修改以后，这个味就变了。比如说我今天又惨遭了批评什么的，你会觉得很别扭。那你说这个事情，不管是伊利尔设想的这种安全也好，还是Hinton设想的安全也好，你加了两个形容词，这事到底怎么样？或者说，哎，视频来了，这是一个阴间滤镜。我们经常讲这个是CNN还是PBC给中国拍的照片都是阴间滤镜。那你说这件事能不能识别出来？对吧，识别出来以后又怎么样？这个呢，其实对于新的大模型来说，会是一个比较大的挑战。你要不但把这个视频里的东西识别出来，你还要把视频的氛围、各种暗示你都要识别出来，然后再去做判断。判断完了以后，你到底会做出一个什么样的东西来，真不好说啊。那么SSI的未来会是什么样的？很多人都在讲，伊利尔其实才是OpenAI的核心啊，但是有没有想过，为什么大家把伊利尔赶走了，也没觉得有什么问题？山姆奥特曼还在那里，虽然山姆奥特曼自己可能写程序，真正做东西做不出来，但是呢，那是个政治领袖对吧。咱们就跟三国里头刘备，你说除了会哭还会什么？但他是主公，多智进妖的诸葛亮不是？关张赵云啊，武力超群也不行啊。最后整了一个像刘备这样的人出来当主公来。

他呢，才是政治领袖对吧？也有人这么说呀。他有名正言顺啊，他是皇室宗亲，他是这个刘皇叔啊。这个要干活着才是刘皇叔，死了就是个破卖草席子的。只有他活下来，还能够活到读历史的时候，他才是刘皇叔呢。是不是刘皇叔这事真的没有那么重要，所以啊，皇帝也好，领袖也好，是个政治人物，呃，不是谁的武力值高或者谁的智谋高就可以了。山姆奥特曼呢，已经证明了啊，自己是一个非常强的政客以及领袖啊。山姆奥特曼的访谈，其实我最近已经不怎么看了，为什么？实在太虚，没什么东西对吧。他就是个政客嘛。啊，现在伊利尔自己开始独立门户以后，是不是能够真的做好这件事，不好说啊，因为呢，他未必有这种政客的技能，他可能还是个科学家或者是个大的工程大师这样的啊。能不能超越所有人的心魔型来，这个才是关键。能够准确地识别大模型的产出啊，精准地进行信息溯源成本和速度可以控制的住，或者说控制在可接受的范围内。多模态的识别和验证啊，这也是现在新的模型需要面临的问题。而且呢，可以对攻击与越狱进行防护，并对输入和输出进行检测，这个是对SSI新模型的一个大的需求。如果他说哎，我真的做到了，这些事情我都可以做的还不错，或者其中有几条可以做的不错，那么他有可能就能立住脚跟，为了对抗open AI，其他几家可能就会买他的服务，说来我们一起来做吧。

啊，这个事是有可能的。因为Openi应该是不大概率，是不会去买他们家的东西的啊。新仇旧恨啊。还在你真买了以后，比如说谁去跟山姆奥特曼呃去提说，咱买伊利尔家的这个SSI的这个安全认证吧。啊，那你一定是这个忠诚，不绝对就是绝对不忠诚，对吧？你屁股坐哪头了，对吧？新的商业模式呢，肯定还需要思考，因为所有做安全的公司都比较容易堕落。为什么叫比较容易堕落呢？就是啊，屠龙少年忠虫恶龙的，因为安全公司其实是不直接产生效益的。安全公司是干嘛的呢？他是靠焦虑挣钱的。你说你没有我，你就要完蛋了。就像以前我们算命的时候，经常讲这样的话，这个啊你有血光之灾啊，我有一个解决办法，都是这样的啊。你如果不告诉他你有一个血光之灾，那你这个销售，销售转化率得有多低嘛，对吧？这个前面这个一惊一乍的啊，你有个血光之灾，这个事情才是能够保证事后有销售转化率的一个大的关键啊。所以为什么说都很讨厌安全公司呀，360也是安全公司，像我以前做的什么金山呀，什么也都是安全公司，大家都很烦我们。为什么？因为你不产生直接收益嘛。那不产生收益以后呢，我们就要想办法在其他方式收。公司要挣钱嘛，大家有安全的顾虑，有担心嘛，就把流量交给我们。我们把流量聚集起来以后呢，就要想办法去推广告，想办法去做流量变现，想办法去盈利啊。那最终就变成流氓软件了。

希望SSI的这种新的机构，不会遇到这种问题吧。啊，对于他们来说，如果真的有一笔钱，你可以很长一段时间不用担心把它烧完，他有可能是可以耐心地往前做的啊。如果他真的做出一定成绩来，我相信也还会有第二轮、第三轮的资金再进来。这个是SSI的一个情况，当然还要去看他们后边的，公司架构到底成什么样啊，你别回头又整一个非盈利组织出来，这个可能性也是存在的。因为现在他对自己说，说我们是实验室啊，他没有说我是个公司对吧，所以未来到底怎么样还难说，他又不着急，没有任何时间节点的压力。所以我觉得，咱们下一次听到SSI的声音，依恋儿再做出什么东西来，可能就是SSI做出产品来发布了，那个估计就要很久之后了，因为他们剩下的人，应该并没有那么着急了。好啊，这就是我们今天讲的第二个故事啊，伊利尔要去做安全超级智能了。