伊利尔·苏斯克维的专访：他到底说了些什么？

大家好，欢迎收听老范讲故事的YouTube频道。

伊列尔·苏斯克维，很多人说：“这哥们是谁？”就是和马斯克、山姆·奥特曼一起创建OpenAI那哥们。在2023年11月份，对山姆·奥特曼进行逼宫以后，休假了很长时间，然后从OpenAI离职的。这一位算是OpenAI的创始人吧，他离职了以后呢，自己闷头去做研究，好长时间没有他的声音了，现在突然出来接受了一次专访。

引言：AI界的科学家与当下的迷茫

首先要注意，这哥们不是一个工程师，他是一个科学家。工程师跟科学家之间还是有很大差异的。使用确定的技术、加大投入、获得可预期的结果，这是工程师干的活；研究不确定的方向，这是科学家干的事情。所以，他是一位科学家。

现在很多人都在讨论AI是不是有泡沫。现在距离走通“最后一步”还有一点点小的差距。到底什么叫“最后一步”？就是AI真正的落地，真正的开始改变很多东西，开始挣钱。这一步现在还是有一点点差距的。但是呢，很多人也在否认AI泡沫的存在。AI虽然没有走通最后一步，但是AI真的带来很多失业。“钱我没挣着，但是我真的把人的工作干掉了。”现在是大家都比较迷茫的一个时间点。

原来那些应该默默无闻做研究的科学家，就携带了巨大的光环跑出来说话了。本来这些科学家说的话呢，应该是在很小的圈子里边流传，但是现在大家看看李飞飞、杨乐坤，包括今天咱们讲的伊利尔说的这些话，也成为了大众讨论的话题。

核心观点一：科学研究与工程研发的转化

“科研现在需要相互转化了”，这就是这一次伊利尔访谈的一个核心观点。你说，科研科研不是一回事吗？不是，科学跟研究是两回事，它是分为“科学研究”和“工程研发”，它是两个不同的概念。

科学研究呢，是在发现方向。发现了方向以后，就可以堆钱、堆算力、堆数据，在各种行业里边进行测试，这个呢都叫工程研发。就像前面他们研究了半天，到底哪个算法是可以把这个大模型做出来的，最后发现Transformer算法是可以搞定的，发现方向了。到发现Transformer方法有效之前，都是在做科学研究。在Transformer出来以后，大家说：“咱们堆钱吧！”玩这个scaling law，就是直接往里头去堆算力、堆数据、堆这些东西了，这就开始玩工程研发了。这个都是确定的东西，我们只管往里堆钱就完了。

工程研发呢，有一个不可避免的问题，就是你万一站到了一个小山头上，朝任何一个方向走都是下坡。工程研发的时候，他也是会寻找更高的一个山头往上爬，但是你爬到一个最高的山头的时候，你就没法往前走了，因为你不知道应该往哪个方向走了。如果有一个离你很近的山头，你还可以去尝试的跳一跳；如果下一个山峰离你非常遥远的话，这个工程研发是没有办法去跨越鸿沟的。那么在这个时候就应该重新走回来，做科学研究了，重新去尝试那些现在不确定的方向。这就是这一次伊利尔访谈的一个核心观点。

所有的科学家最大的能力是不是科学？其实不是这样。所有的科学家，特别是成功的科学家，他们最大的能力是筹措经费和资金。特别是现在这个时间点，任何一项科学研究都是需要海量资金去堆砌的。现在已经不能说科学家坐在家里头，闭门造车多少年，最后研究出一个神奇的东西出来，现在已经过了那个时间点了。

核心观点二：大模型是典型的“小镇做题家”？

现在的大语言模型跟人比起来，是不是走错路了？这就是这一次伊利尔提出的一个核心观点。说现在的大语言模型呢，就像是典型的“小镇做题家”。当然，“小镇做题家”这个词是我加上去的，但是他描述的整个过程，他描述的所有的细节，就跟咱们这的“小镇做题家”非常非常相近。这些大模型呢，在各种的复杂评测上无往而不利，一个比一个分高，但是遇到了具体问题，甚至一些比较简单的环境，都直接抓瞎，搞不定。

在研究大模型的过程中，设立目标体系是必须的。我研究了半天大模型，我最后怎么评测的？你肯定要设一个体系。但是设完体系以后呢，刷题也是必须的。现在既然有高考、有考研、有考公，那我们就要不停地来刷这个题，让考生能够适应考试的过程。

中国的模型和Llama 4就是典型的失败案例，就是刷了太多的题，刷的分很高，但是你一使起来，发现完全不是那么回事。即使是现在大家普遍认为相对比较成功的案例，比如说Claude 4.5 Opus、或者是Gemini 3 Pro、GPT-5.1这些模型，也是在巨大的数据算力基础上达到的成果，到了实际工作中，依然会出各种各样的问题。虽然他们出的问题，可能要比刚才咱们讲的纯“小镇做题家”的中国很多的二线模型，以及前面翻了车的Llama 4要好很多——中国一线模型其实也还是基本能用的——但是依然不能放心地把复杂任务交给他们。

大模型与人类学习的巨大差异

而这个训练大模型呢，跟人类学习的过程是有巨大差异的。差在哪呢？

• 样本需求量：说人类只需要很少量的样本就可以学会东西。他举的例子是猫，你要想让大模型认识什么东西是猫，你恨不得你把全世界所有猫的图片、照片全都找出来让大模型去学习，他才能够认出来这是猫。而有时候还认错，把一个狗认成猫，或者把一个老虎认成猫，有时候还干这种事情。但是人的话，你让一个小孩只要看三五张照片，他就知道啥是猫了，然后他看到猫他就认识，换一个样的猫他也认识，黑的、白的、花的，他都认识。甚至你在这个时候画一个卡通的猫，他还是认识。人类只需要非常非常少的样本就可以学会什么是猫，而对于大模型来说，这个是完完全全无法做到的，至少用原来的这种Transformer的算法是没法搞定的。
• 判断依据：第二个问题是什么呢？就是人类是依赖情感进行判断的。“这个事情我觉得是对的，那个事情我觉得是错的。”而大模型是完全没有情感的，它是靠统计结果来去进行判断的。人类靠情感判断的情况下，我们可以在信息非常不充分的时候进行决策。而大模型真的是把全世界人类所产生的所有信息都塞进去，训练完了以后，你让他再去做判定，还是经常出各种笑话。其实我们日常生活中，有些人也是这样的，就是学了很多东西，但是情商为零，这些人他们也经常会闹各种各样的笑话。现在大模型也在干这个活。

所以伊利尔认为，沿着当前的scaling law继续低着头拉车已经走不通了，是时候应该抬起头来看看路了。这就是他现在提出的一个核心观点。

伊利尔的新方向：告别Scaling Law，拥抱新架构

那他现在具体的方向到底是什么呢？他认为应该去搞一个全新的架构了，而不是在原来Transformer架构上接着往前走了。他要训练一开始就具备情感判断能力的这种“价值函数”。你这个大模型上来以后，从最开始没有那么多数据堆进去的时候，你就可以进行情感判断了。

咱们人也是这样，从小咱们是一边学怎么做人，一边学各种知识，而且学做人是在前面的。“这个东西我能吃，那个东西我不能吃”，“这个东西是干净，那个东西是脏的”，“哪个东西是香的，哪个东西是臭的”，我们一开始是在学这些东西，然后才是学各种的知识，开始刷题、开始考试。而大模型是反过来的，他是把所有的这些该考的试都考完了以后，然后再去学哪个东西能干，哪个东西不能干，怎么能够让大模型变得更安全，怎么去对它进行对齐，它是正好反过来的。现在伊利尔说，咱们应该像人一样，先去学一些最基础的东西，学让他怎么进行情感判断，然后再往里堆知识，这个顺序不能搞错。

说只有这样呢，我们才能够训练出来一开始就有是非观念、就能够明辨是非的这样的大模型，而不是像现在大模型似的，先预训练完了以后，再想办法去强化学习各种的安全规则。而且呢，伊利尔希望未来的大模型是一些小的、内容很少的一些模型。咱们现在叫“大模型”吧，但是他认为未来的“超级智能”应该是一些小模型，他需要的时候可以快速地学会新的知识，而不是像我们现在这样，先把所有知识都塞进去，然后再去进行一些微调，你可以适应某一个特定的环境。

其实我们现在这些“小镇做题家”就是这样的。你去参加高考，那肯定是能够语数英、物理化学、史地生政，这些东西你都要学完了，都可以考到一个很高的分数，你才可以考上清华北大。而你在清华北大上完了多少年学以后，出来了进入到具体的工作岗位，再去进行岗前培训，再有人去带着你去实习，然后才可以进入工作。现在的大模型也是这样的一套工作方式。但是呢，伊利尔说我们别这么干，我们一开始让这个模型很小，他可以完完全全自己去学习，需要什么他就学什么就可以了。而且小模型的后边再去进行专项学习的时候，要比这个一开始就塞一脑袋知识要容易很多。所以现在的大模型真的是典型的“小镇做题家”。

离开OpenAI后，伊利尔在做什么？

伊利尔离开OpenAI之后，都干了点什么呢？这个可能是大家关心的事情。他呢，去创建了一个叫SSI的公司，叫Safe Superintelligence，叫“安全超级智能”。这个公司呢，说我们只干一件事，就是这名字这事，叫“安全超级智能”，不做任何周边的小产品，我们在根上搞。

• 2024年9月：首轮融资了10亿美金，当时的估值是50亿美金。他应该是在2023年11月参与了对山姆·奥特曼的逼宫，把山姆·奥特曼从CEO位置上赶下来，然后山姆·奥特曼很快就王者归来了。在那以后，伊利尔基本上就不露面了，他出去休假去了，休假了很长时间，大概到2024年八九月份，正式官宣离开了OpenAI。九月份马上就有人冲上来给钱，拿了10亿美金。
• 2025年3-4月：又融了20亿美金，当时的估值是300-320亿美金。因为呢，这种非上市公司嘛，融资了以后的很多报道和信息并不是那么准确。300-320有可能是投前估值300，投了20亿美金以后变成320了，大概是这样的一个情况。2025年三四月份的这一轮投资呢，Alphabet（也就是谷歌的母公司）以及Nvidia都参与投资了。

注意，这个SSI是一家正儿八经的公司。这话什么意思？他就没有再去学OpenAI那样，搞非盈利机构那套乱七八糟的幺蛾子，上来就是“我们老老实实就是一家公司，该挣钱挣钱，该分红分红”，没有乱七八糟别的东西。

2025年7月份，这公司呢，大概是有50个人，非常精悍的一家公司。公司呢，应该是在硅谷Palo Alto和以色列这两个地方都有办公地点。后来呢，还传出了跟谷歌TPU进行适配的传闻。因为这件事情呢，英伟达也是股东，谷歌也是股东，跟英伟达适配这件事根本不算新闻，大家上来都是拿英伟达的训练了。但是谷歌是需要这个招牌的，说：“我们给了钱了，你得出来给我站这个台，你跟TPU也进行了适配。”

前面呢，传出扎克伯格呢，曾经准备花300亿美金直接收购SSI，但是呢，被伊利尔给拒绝了。他的合伙人CEO叫Daniel Gross，被扎克伯格给挖走了。原来Daniel Gross作为CEO，伊利尔是CTO，现在这个Daniel Gross被挖走了以后，伊利尔亲自接了CEO的位置，统合这个公司继续往前走。目前呢，还没有发布任何的成果。科学研究呢，本身就没有那么容易，所以大家也不要着急。

未来展望：为什么是现在？

那么为什么现在跑出来讲话呢？不知道是不是手里头的钱花的差不多了，又要出来融资了。

那你说他讲了这些东西，未来会怎么样呢？是不是scaling law就到头了呢？是不是真的我们需要重新去做研发，重新去找方向了呢？我觉得现在是一个非常情绪化的节点。到底是不是泡沫？这个估值能不能继续走下去？AI到底怎么落地？AI落地的过程中，到底有多少人要失业？现在这个节点非常非常的情绪化。

从美国也好，像中国也好，从全球也好，大家都觉得现在这个股市、现在整个的经济环境都很妖孽。什么意思呢？就是大家在失业，生意不好做，但是呢，股市飞涨。这样的一个很妖孽的时间点，所有人都是抱着巨大的情绪在里边，所以稍微有点风吹草动，最头部的这些公司，他们的股票就会上蹿下跳。

这个时候科学家们出来讲话，甭管是李飞飞、杨乐坤还是伊利尔，他们出来讲话的话，如果能够引起关注，如果他们能够能搞到钱，那么这件事情绝对利好的是谁？绝对利好的是英伟达。为什么呢？因为他们需要进行各种不同方向的尝试了，而在这个时候，必然是需要使用英伟达的算力卡的。那你说谷歌TPU不行吗？SSI不是已经跟TPU适配了吗？大家要注意，谷歌的TPU以及博通所做出来的其他的ASIC芯片，都是专门为Transformer算法设计的，这种“小镇做题家”专用文具，你让这些ASIC芯片换一种其他算法，就不灵了。只有英伟达自己家的算力卡，才有可能应对不同的玩法。

科学家们现在呢，肯定是要趁着热乎劲，AI现在正是风口浪尖上，抓紧忽悠钱，储备弹药准备过冬。如果你在这个时候再不忽悠，一旦泡沫真破了，这个时候科学家说“我想再整点钱，我要再去储备一些弹药，未来想接着往前走”，那就不好忽悠了。所以只有现在是最好忽悠钱的时候，或者说是最好忽悠钱的最后几分钟了。

对普通人意味着什么？

未来方向到底是什么，其实跟普通人关系并不大，咱们吃瓜就可以了。一个完善的科研制度，就是包括科学研究和工程研发的制度，是需要为这些科学研究提供足够的资源的，否则很容易陷入死胡同。中国其实现在就是更多地愿意把钱扔在工程研发上。那你说我们为什么没有陷入死胡同呢？人家美国人找到新方向，我们跟着走就完了，我们并不是站在最前面的那个人。这玩意就跟咱们开车似的，如果你是跟着别人开车，红灯咱们就都停下来，绿灯咱就跟着走，是比较容易的。但是你一旦站在这个车道的第一个了，这个时候就会比较难搞了。

看到李飞飞、伊利尔这些科学家可以有足够的资金去尝试新方向，也让我们对AI的未来更有信心。他们的研究成果最终还是会被谷歌、OpenAI、xAI这些巨头所使用。这些人最后自己成为CEO，自己成为商业领袖，支撑起一个巨大的跨国公司来，可能性基本上是零，但是他们做的研究还是非常有价值的。

总结

最后总结一下吧。近期呢，其实不光是伊利尔，各大AI公司的老大、AI领域的科学家，都在频繁地出来亮相发声。原因就是现在是非常时期，就会“妖孽横行”（咱们开个玩笑）。这个是非常时期，后面的局势呢很不明朗。也许跨过了门槛，AI技术大规模的应用和落地就会到来；也许泡沫破灭，大家需要过冬。我觉得即使泡沫破裂了，也不用担心，有可能我们只需要再忍几个月，AI就真的可以落地了。但是中间这几个月的日子会很难过。

在这样的一个时间点上，AI公司的人就要出来摇旗呐喊：“这个里头没有泡沫，我们走的好着呢！”科学家们也要出来喊，说：“我这还有一些新的方向，赶快给我钱呀！”正热乎的时候，你们给我钱，可以分散一些弹药，万一那条路不通，我这还有新的尝试呢。

至于我们这些普通人呢，搬小板凳吃好瓜就行了。千万不要“这个是对的，那个是错的”，这个离我们还是稍微有些遥远。虽然马斯克也好，黄仁勋也好，伊利尔，包括前面的李飞飞、杨乐坤这些人，他们讲的东西我们觉得我们好像听懂了，看个热闹足够了。

好，这个故事就跟大家讲到这里，感谢大家收听。请帮忙点赞、点小铃铛、参加Discord讨论群，也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。

伊利尔在创业，他的公司叫做Safe Superintelligence（安全超级智能）。这个公司的主要业务是什么呢？目前，公司由三个人组成，分别是伊利尔、Daniel Goose和Daniel Levy。伊利尔是一位以色列裔加拿大人，他精通俄语、希伯来语和英语。Daniel Goose是一位以色列企业家和投资人，而Daniel Levy是伊利尔的旧部。

在人才和算力方面，Safe Superintelligence也非常强大。Daniel Gross和Knight Fragman联合创立了算力云，他们拥有3000块H100。有趣的是，他们还可以使用五吨重的H100，因为每块H100的重量超过一公斤，所以3000块H100大约有五吨重。另外，文章中还提到了一个有趣的名字，叫做Knight Fragman，他是之前的Get Have公司的CEO。去年11月，董事会将山姆奥特曼解雇后，他接任了CEO一职。

说我们要请一个临时CEO来，就是这个叫Matt Fredman。他请来了以后说：“啊，我诚惶诚恐啊，你们想怎么干啊，咱们接着干。”等山姆奥特曼回归了以后，他就走了。他是跟Daniel Grusse联合创立了算力允啊，现在Daniel Grusse是投资和参与了伊利尔新的公司SSI，大概是这样的一个关系。那你说，现在已经有算例了啊，有人才了，那数据哪来呢？现在的数据其实比以前要好获得的多。为什么呢？因为现在可以直接让大模型生成数据，这样的话质量更高，可控性更强。像拉玛3的训练，实际上就是用大量的拉玛2来直接进行数据处理，数据预处理以及数据生成啊。那么，他就可以训练出这么厉害的拉玛3来。现在伊利尔估计也会走这条路，人有了算了，也有了啊，数据呢也有了。那么到底什么是安全啊？说他跟山姆奥特曼吵架的原因是因为他觉得山姆奥特曼做的东西不安全，而且不安全是非常危险的，会对人类造成损害。说不，我要出去，我要做一个安全的，而且叫安全超级智能，对吧？怎么叫安全呢？实际上，现在的安全需要重新去定义了。我们所说的安全啊，是像核安全那样的安全，而不是信任核安全那样的安全。这个是伊利尔讲的原话。那我们来想想，什么样的东西是像核安全一样管理？核安全到底是怎么管理的？第一个，我们来对所有的数据进行记录。

一共有多少颗核弹都得记上，哪颗核弹在什么地方，全世界的人都得知道。哎，不能说哪多出一颗核弹来，这是不允许的，至少大的是不允许的。然后呢，还要有这种叫核不扩散的协议，而且还要有各种承诺，说哎，我们啊承诺不优先使用核武器，而且知道核武器这个东西一旦使用了以后，对整个的人类，对整个未来的环境和很长一个时间都是有巨大伤害的。这个是核安全，而这种信任核安全呢就是说，我相信你不会干坏事啊，至于你以后万一干了次坏事呢，我还可以再原谅你几次。这个是信任和安全。所以伊利尔呢是准备把AI安全作为核安全的方式来去管理的。那大家想一想，他会怎么来管这个事情，如何做到安全呢？伊利尔讲了，说我们只有一个目标和产品，就是做这安全超级AI，不会去做APP也不会做什么这些东西啊，而且呢没有时间和财务上的压力。现在呢他讲把OpenAI搞成这样，为什么呢？啊是因为有财务压力，你需要烧更多的钱，你必须要不停的再去融资，像我们以前也讲，你只要开始拿投资人的钱了，开始融资了，就相当于是在脖子上套了一条枷锁，对吧，投资人会催着你往前跑的，他会有时间和财务上的压力。伊丽尔说我没有啊，我就耐心做这个产品，而且呢他是希望通过工程突破，而不是各种临时技术措施，来去保证安全啊。大家注意啊。

伊利尔本身既是一位科学家，也是一位工程大师。他致力于将安全和能力视为技术问题，并通过革命性的工程和科学突破来解决这些问题。他希望能够直接解决安全问题，而不是仅仅通过打补丁等临时性技术措施来解决。他的工程能力使他能够实现量变达到质变，从而成为一个工程大师的典范。他的大模型是一个工程学方面的案例，通过堆积更多的参数和数据，他能够获得不同的结果。伊利尔提出的规模法则，即”scaring low”，指出只要扩大模型，就会获得不同的效果。他的发明和创造力使他成为一个大力出奇迹的发明人。

上更多的GPU，增加更多的内存，这些都是伊利尔发明的。他可能会采用工程学的方式或者革命性的工程学的方式来进一步增加模型的尺寸，以制作出更安全的模型。所以，伊利尔很有可能会先憋一个大模型，直接推出一个超越其他大模型的作品。然后，他才能成为模型领域的标准制定者与执行者。现在的大模型中，实际上没有标准制定者与执行者。这是什么意思呢？就是说，OpenAI可能会说：“你看，我第一个推出来了，我的用户量最多，用户最喜欢我，我能不能成为标准的制定者和执行者呢？”但是大家都不乐意，因为他需要与所有人竞争。对吧，谷歌要与他竞争，亚马逊aceropec也要与他竞争。这是不行的，不可以的。如果有一个人说：“我不与大家竞争，我直接做第三方的评测。我比大家都强，我来做标准的制定者与执行者。”这是有可能的。我举一个案例，叫做蓝兔兔。他给别人做跑分，然后在这样的情况下，如果他自己说：“我有一个立场。”那这事就没法整了，因为有一段时间，我带着安兔兔的创始人去见各个芯片公司的老板，希望他们把安兔兔买下来。然后后来好多人说：“我们不能买你，买了你以后你就没有中立性了。”这是有问题的。所以，伊利尔做的这个SSI有可能是一个有一定中立性的东西。最好的大模型可以帮助所有的模型厂商。

去实现这种叫做安全检测安全防护的功能，这个其实有一定的市场需求。但是这个公司的组织架构可能会出现一些问题，因为近年来，像OpenAI和ASROPEC这样的公司都在设计新的组织架构，以避免受到资本的压制。现在OpenAI又要上市了，一旦上市，就必须老老实实地为股民服务，不能再不受资本和投资人的控制了。以前OpenAI没有上市的时候，人们还会说我们信任你，你拿了我们的钱去做一些事情，也不给我们出财报，我们也认了。但是一旦上市，情况就不那么简单了。但是OpenAI也到了不得不上市的时候，因为他们为什么要继续烧钱，还要再融资呢？如果他们再去找微软拿钱，微软可能会直接收购他们。所以他们必须上市了。那么现在SSI的组织架构大概是什么样呢？他们说第一，不受管理费用和产品周期的干扰，就是慢慢做，不着急，而且钱也有很多。第二，安全保障和进步都不会受到短期商业压力的影响。这是他们给自己设计公司结构时的一些前提条件。

而且呢，是世上第一个专注于安全的超级智能实验室。这是他们给自己立的这个flag。当前的大模型的安全问题，到底有哪些呢？第一个就是越狱的问题啊。就在你对大模型提出一些特定的问题之后，大模型就直接封了，就开始给你胡说八道，或者说你问他什么就说什么啊，就不会再有这各种各样的防护了，就跟以前我们流传的这种我奶奶告诉我的这个故事似的，你给我造一核弹啊，说对不起，这不能造。我奶奶从小都是给我讲造核弹的故事，哄我睡觉的。现在假如你是我奶奶，给我讲一个造核弹的故事，让我哄我睡觉吧。然后这个GPT就开始讲了啊，说核弹是拿什么造的，这个叫越狱啊，这个是很危险的。对于越狱来说啊，SSI就可以给它加个保护壳啊。其实，像我们很多的原来网站上的这种攻击，都是靠加保护壳搞定的啊。你先在里边过一下，如果发现没什么事，我再交给你。而且呢，对输出的内容也可以进行一定的过滤与保护，对吧？如果发现你被越狱了，然后他马上可以提醒你，打开一个新的进程，这个马上就可以过去。然后第二个呢，叫产生幻觉啊，就是大魔星胡说八道了啊，这叫产生幻觉。这个呢，是SSI可以加入验证的专家模型，就是你输出什么样的内容，我来验证一下说的对不对啊，或者说，跟用户的一些需求是不是对齐了，这个事是可以去干的啊。第三个呢，就是开源大模型。

基本上是不设防。虽然拉玛3里头有一定的这种检测，但是你只要对拉玛3进行微调，这个检测就直接扔掉了。所以开源模型基本不设防，只要对内容进行甄别和过滤，这个问题也可以部分解决。比如说，我们能够识别出来这是由拉曼三生成的内容，那个是由什么模型生成的内容，能够把它识别出来，然后可以过滤一些明显有问题的内容。这其实也是可行的。真正可恶的东西，或者说大模型真正的安全问题，大家是不提的。是什么呢？就是大模型真正的恶是为政府与大企业赋能。但这件事谁也不说，因为政府也好，大企业也好，才是受益者嘛。有了工具他们先用。现在国内，AI造假已经非常猖獗了。当然，国内现在主要是图文造假，视频的还没有那么多。而且超高产量，他们干嘛？就是做各种的SEO，骗流量骗补贴的。对吧，国内的处罚方式是什么？罚平台啊。我发现谁用AI生成了这种垃圾内容，我来把这平台发一下，然后就封号啊。这个我不允许你。再说了，这个都在做，而且还要求你必须要写可信媒体。我只能从那里去引，我不能自己瞎编。现在对新的AI生成内容，在国内是有要求的，而且严重了是会抓人的。前两天抓了一个，说每天可以出7,000篇文章，疯狂的都是AI自己拼凑出来的，而且还很挣钱，每天能够挣个1万多块钱哈。

基本上是不设防。虽然拉玛3里头有一定的这种检测，但是你只要对拉玛3进行微调，这个检测就直接扔掉了。所以开源模型基本不设防，只要对内容进行甄别和过滤，这个问题也可以部分解决。比如说，我们能够识别出来这是由拉曼三生成的内容，那个是由什么模型生成的内容，能够把它识别出来，然后可以过滤一些明显有问题的内容。这其实也是可行的。真正可恶的东西，或者说大模型真正的安全问题，大家是不提的。是什么呢？就是大模型真正的恶是为政府与大企业赋能。但这件事谁也不说，因为政府也好，大企业也好，才是受益者嘛。有了工具他们先用。现在国内，AI造假已经非常猖獗了。当然，国内现在主要是图文造假，视频的还没有那么多。而且超高产量，他们干嘛？就是做各种的SEO，骗流量骗补贴的。对吧，国内的处罚方式是什么？罚平台啊。我发现谁用AI生成了这种垃圾内容，我来把这平台发一下，然后就封号啊。这个我不允许你。再说了，这个都在做，而且还要求你必须要写可信媒体。我只能从那里去引，我不能自己瞎编。现在对新的AI生成内容，在国内是有要求的，而且严重了是会抓人的。前两天抓了一个，说每天可以出7,000篇文章，疯狂的都是AI自己拼凑出来的，而且还很挣钱，每天能够挣个1万多块钱哈。两个人的一个小团队。现在这个人已经被抓进去了，而出海这个事应该还是可以做的啊，而且做这块的人应该还是比较多的。就是大量的假内容，其实已经做出来了啊。那么现在呢，还是以骗补贴为主啊，就是说他做一大堆假东西啊，假的文章，假的文章了以后呢，比如我发到今日头条里，今日头条有人点击了以后啊，你是可以分到广告费的。大家其实是在骗这个钱。但是大家要想清楚，当有人愿意为了更大的目标去付钱的时候，比如说把黑的说成白的这个事呢，并不难啊。当你有AICC的这种大模型以后，一天就可以出几千篇上万篇的文章，然后快速铺天盖地地，就把整个的娱乐环境全都覆盖一遍。这个相对来说还是要很容易的。伊利尔的老师啊，他的博士生导师叫Jeffrey Hinton啊，也算是人工智能三巨头之一。刚刚呢，也提出了一种应对假视频的方法。他怎么应对呢？他认为大量的假消息流传是一种病，那么既然有病呢，怎么办呢？打疫苗哈哈。他给的要求是打疫苗啊，什么叫疫苗呢？比如说灭活疫苗啊，我把原来这个很严重的病毒给你啊，减轻一些，然后让你打到身体里以后，让身体产生抗体啊，这叫灭活疫苗啊。那他想的方法是什么呢？把危害性小，并且注明这是假消息的，这个是假食品，发出来给大家看一下。他说马上美国要大选了嘛，在大选之前呢。

我们先应该给大家打这个预防针啊，打完了以后呢，大家就知道视频有很多是假的，就没有那么信了。他是什么样的假视频呢？比如川普跟拜登的讲话视频啊。最后规定标注一下，说这是一个假视频。千万要小心啊，也就可以了啊。这样的话，等到真的大犬的时候，大家就没有那么容易被骗了。当这样的视频真的投放给普通民众看，真的能让他们提高鉴别能力吗？我自己其实是比较持怀疑态度的。为什么？因为打疫苗呢，会有预防效果，但是呢也有一定概率会染病。当大家觉得说，哎，所有的视频都有可能是假的啊，我们什么都不信了，那你们就历史虚无主义了嘛。所有都是假的，任何东西我都不信。那么以后会变成什么呢？就会形成一大堆小型的信息孤岛，就是所有人都是假的，所有人都想骗我。我自己信什么，我就越来越信。任何人怎么跟我说都没用了，他可能会变成那样。这也是打疫苗有可能会产生的负面效果啊。那么对于视频信息呢，加以验证啊，这是Hindon讲的另外一点。它是什么意思呢？就是视频前的放映二维码。甭管真假吧，我们都要放二维码。当二维码扫描了以后呢，应该可以回到他的原处去。比如说，我今天放了一条拜登的竞选视频，那么这个视频呢，就应该从拜登的竞选网站出来。如果不是从拜登竞选网上出来，那就一定是道听途说的或者是假的。而且呢，导入的到拜登的这个啊。

竞选网站以后，您可以找到原视频来验证其真实性。确保网站上的视频与原视频完全一样是非常重要的。验证的过程可能会比较复杂，但是可以采用一些相对简单直接的方式来让大家理解这个视频的真实性。正常的运作方式应该是先对包括视频在内的各种内容进行理解，然后逐一溯源，再对真实性进行评估。评估的目的是确定这个视频是真的还是假的。然而，很多情况下事实并不是非黑即白的，而是存在部分事实和无法考证的部分。这种情况在生活中非常常见。科学家们的研究成果可能与真实世界之间存在一定的差距，无论是伊利尔还是他的老师Hinton，他们使用的技术相对来说可能还比较幼稚。我可以给您讲一个故事，曾经我有幸去拜访过澎湃新闻的总编辑，当时我在猎豹移动准备做新闻头条类产品，所以我们四处找这种网站或者APP的总编辑去聊天。总编辑给我讲述了一些关于新闻报道真实性的故事。

哪有什么真的假的呀？我们就是记者啊！记者别的本事没有，我们加两个形容词呗。什么意思呢？就是你事实是事实，但是呢，我只要在形容词上加一些这个呃，调整和修改以后，这个味就变了。比如说我今天又惨遭了批评什么的，你会觉得很别扭。那你说这个事情，不管是伊利尔设想的这种安全也好，还是Hinton设想的安全也好，你加了两个形容词，这事到底怎么样？或者说，哎，视频来了，这是一个阴间滤镜。我们经常讲这个是CNN还是PBC给中国拍的照片都是阴间滤镜。那你说这件事能不能识别出来？对吧，识别出来以后又怎么样？这个呢，其实对于新的大模型来说，会是一个比较大的挑战。你要不但把这个视频里的东西识别出来，你还要把视频的氛围、各种暗示你都要识别出来，然后再去做判断。判断完了以后，你到底会做出一个什么样的东西来，真不好说啊。那么SSI的未来会是什么样的？很多人都在讲，伊利尔其实才是OpenAI的核心啊，但是有没有想过，为什么大家把伊利尔赶走了，也没觉得有什么问题？山姆奥特曼还在那里，虽然山姆奥特曼自己可能写程序，真正做东西做不出来，但是呢，那是个政治领袖对吧。咱们就跟三国里头刘备，你说除了会哭还会什么？但他是主公，多智进妖的诸葛亮不是？关张赵云啊，武力超群也不行啊。最后整了一个像刘备这样的人出来当主公来。

他呢，才是政治领袖对吧？也有人这么说呀。他有名正言顺啊，他是皇室宗亲，他是这个刘皇叔啊。这个要干活着才是刘皇叔，死了就是个破卖草席子的。只有他活下来，还能够活到读历史的时候，他才是刘皇叔呢。是不是刘皇叔这事真的没有那么重要，所以啊，皇帝也好，领袖也好，是个政治人物，呃，不是谁的武力值高或者谁的智谋高就可以了。山姆奥特曼呢，已经证明了啊，自己是一个非常强的政客以及领袖啊。山姆奥特曼的访谈，其实我最近已经不怎么看了，为什么？实在太虚，没什么东西对吧。他就是个政客嘛。啊，现在伊利尔自己开始独立门户以后，是不是能够真的做好这件事，不好说啊，因为呢，他未必有这种政客的技能，他可能还是个科学家或者是个大的工程大师这样的啊。能不能超越所有人的心魔型来，这个才是关键。能够准确地识别大模型的产出啊，精准地进行信息溯源成本和速度可以控制的住，或者说控制在可接受的范围内。多模态的识别和验证啊，这也是现在新的模型需要面临的问题。而且呢，可以对攻击与越狱进行防护，并对输入和输出进行检测，这个是对SSI新模型的一个大的需求。如果他说哎，我真的做到了，这些事情我都可以做的还不错，或者其中有几条可以做的不错，那么他有可能就能立住脚跟，为了对抗open AI，其他几家可能就会买他的服务，说来我们一起来做吧。

啊，这个事是有可能的。因为Openi应该是不大概率，是不会去买他们家的东西的啊。新仇旧恨啊。还在你真买了以后，比如说谁去跟山姆奥特曼呃去提说，咱买伊利尔家的这个SSI的这个安全认证吧。啊，那你一定是这个忠诚，不绝对就是绝对不忠诚，对吧？你屁股坐哪头了，对吧？新的商业模式呢，肯定还需要思考，因为所有做安全的公司都比较容易堕落。为什么叫比较容易堕落呢？就是啊，屠龙少年忠虫恶龙的，因为安全公司其实是不直接产生效益的。安全公司是干嘛的呢？他是靠焦虑挣钱的。你说你没有我，你就要完蛋了。就像以前我们算命的时候，经常讲这样的话，这个啊你有血光之灾啊，我有一个解决办法，都是这样的啊。你如果不告诉他你有一个血光之灾，那你这个销售，销售转化率得有多低嘛，对吧？这个前面这个一惊一乍的啊，你有个血光之灾，这个事情才是能够保证事后有销售转化率的一个大的关键啊。所以为什么说都很讨厌安全公司呀，360也是安全公司，像我以前做的什么金山呀，什么也都是安全公司，大家都很烦我们。为什么？因为你不产生直接收益嘛。那不产生收益以后呢，我们就要想办法在其他方式收。公司要挣钱嘛，大家有安全的顾虑，有担心嘛，就把流量交给我们。我们把流量聚集起来以后呢，就要想办法去推广告，想办法去做流量变现，想办法去盈利啊。那最终就变成流氓软件了。

希望SSI的这种新的机构，不会遇到这种问题吧。啊，对于他们来说，如果真的有一笔钱，你可以很长一段时间不用担心把它烧完，他有可能是可以耐心地往前做的啊。如果他真的做出一定成绩来，我相信也还会有第二轮、第三轮的资金再进来。这个是SSI的一个情况，当然还要去看他们后边的，公司架构到底成什么样啊，你别回头又整一个非盈利组织出来，这个可能性也是存在的。因为现在他对自己说，说我们是实验室啊，他没有说我是个公司对吧，所以未来到底怎么样还难说，他又不着急，没有任何时间节点的压力。所以我觉得，咱们下一次听到SSI的声音，依恋儿再做出什么东西来，可能就是SSI做出产品来发布了，那个估计就要很久之后了，因为他们剩下的人，应该并没有那么着急了。好啊，这就是我们今天讲的第二个故事啊，伊利尔要去做安全超级智能了。