超级智能的黎明：山姆·奥特曼如何定义智能时代并引发人性与科技的重新思考？

10 月 02

Luke FanAIGC , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , 超级智能的黎明：山姆·奥特曼如何定义智能时代并引发人性与科技的重新思考？已关闭评论

第二个故事：山姆奥特曼的超级人工智能，或者叫超级智能。现在呢，OpenAI的融资时刻，总是要集中的发声表达意见，而且呢，只能有一个声音，唯一的声音，不能大家随便乱说。所以，山姆奥特曼给大家打了一个样，以后说的照我这样说，或者干脆以后就只许我说，你们都别说。

现在呢，它等于发了一堆东西。第一个是发了O1的这个模型，第二个呢，也发了一篇长文。今天咱们解读一下这篇长文。语音模式的高级使用方法呢，现在也上线了。我现在手机上能用，但是我的Mac电脑现在还用不了，要稍微等一等。但是呢，手机能用了以后，并没有什么新鲜感，唯一的差异就是你现在可以打断它了，这块要好一些了，交流起来要稍微自然一些。

这一次，山姆奥特曼的文章里都写了什么？9月24号，山姆奥特曼发了一篇博客长文，里边呢讲了几件事。第一个呢，他承认说社会是高级智能，比我们任何人都更聪明、更有能力。这个呢，算是提出了一个新的观点吧，人类的能力提升并非源自于基因，而是来自于社会，跟我最近在看的《世人之上》相互呼应吧。

第二个他说，每个人都可以拥有自己的人工智能团队。在不同领域里头，都会有虚拟专家来辅助你，共同创造几乎所有我们想象的东西。那就是未来AGI实现了，可能就是这样的一个状态。而且呢，他希望大家可以共享繁荣，不是有多少个人有电脑，有多少人有手机，不是这样的啊，完全是不一样的繁荣程度。每个人的生活，都将比现在的任何人更好啊。

这个呢，其实就是一种大的工业革命以后的效果。你就想，有了汽车以后，是不是所有人的生活都比马车时代要好？基本上可以这么认为，除了战乱地区之外，就是你认为和平地区可以是这么去想的一个事情。所以他觉得智能时代以后也是如此，每个人的生活都会比现在任何人都好。

繁荣并不一定快乐，并不是说大家就把所有问题解决了啊，很多富人依然不快乐。但是呢，生活的品质会上升，然而上升了以后，我们还是不快乐，还想考古啊，这事是不对的。然后呢，也给AGI下了定义啊。

就任何通用人工智能，不需要特定训练的情况下，可以完成很多任务。而且呢，提出了新概念，就是超级智能。大家注意啊，超级智能里头少了俩字，少了哪俩字？人工没了啊。AGI这个东西呢，就是要跟人一样聪明，可以完成人的一些工作，而且不需要预训练。但是超级智能是要比人聪明。那么它呢，应该是超越人工智能的范畴，也超越人的范畴，在任何智力任务上都大大超越人类。这是未来的方向。而且呢，他觉得这个也不远了，应该是几千天就可以实现了。有些人说可能是十年或者几年，就有可能会看到这种超级智能的实现，甚至呢，可能达到完全不可思议的一个程度，无法想象的一个智慧了。就是基本上是要去造神的状态。

如何实现超级智能呢？他也讲了深度学习取得成功，就可以造出这种超级智能来。实际上就是进一步推scaling low，还是要堆数据，堆更多的算法，堆显卡，堆到更大的一个规模之后，达到一个数量级突破，我们就可以得到超级智能了。而且在做超级智能的过程中呢，不要过度的关注细节。大模型的发展是一个整体的发展。你说：“哎呀，你的语音做怎么样了？你的图像做怎么样了？你的视频做怎么样了？你是不是安全？是不是不安全？”说如果纠结这些事情，超级智能就做不出来了。所以我们一定要努力去做去。

而且呢，也给时代下了个定义，比如说这是一个智能时代的黎明，那我们还没有到智能时代。原来是比如原始时代，或者是愚昧的时代，然后是工业化的时代，再往下一个时代就是智能时代了。只是现在我们还没到。其实很多人喜欢给时代打标签。我记得前两天是Michael Anti写了一个，说我们现在又几点零时代了，AI是应该怎么去分类啊什么的。这个呢，我个人是不太喜欢给时代打标签的啊。你像山姆·奥特曼这样的人给时代打了标签，可能就没有那么可笑。但是绝大部分人给时代打标签，就会显得稍微的不那么严谨吧。山姆·奥特曼给时代下了一个定义，智能时代的黎明，要将人工智能交给更多人手中。

OpenAI的这个使命，山姆·奥特曼依然准备去遵循。什么意思呢？就是他讲说，如果人工智能成为了有限资源，只有很少数人能用的话，是有可能引起战争的，会成为富人的专用工具的，这个是他不希望看到的。他希望OpenAI可以让更多的普通人可以用起来。但是这件事情不是他光希望就可以的。要让普通人都用上这个东西，还是要对普通人有作用，让普通人有感知才行。

而现在的OpenAI推出的很多新东西，其实对于普通人来说意义不是很大，特别像O1这样的模型，给普通人去用其实没什么用的。然后去讲说未来可期啊，令人震惊的成就将司空见惯，就是我们现在觉得完全无法想象的事情，未来可能四处都是，而且会不断地发生。他会解决气候问题，建立太空殖民地，发现所有物理定律。这句话写得非常奇葩，所有物理定律会发现，而不是说像以前我们想象的那样，我们发现的物理定律越多，我们发现我们越无知。

这里面他讲了一个叫“发现所有物理定律”，而且是有无限的智慧和充沛的能源，这是他对未来的一个期望。当然了，他也讲到说AIGC的理论，大模型是有风险的，人工智能，包括超级智能，都会带来很多问题和风险。但是呢，我们不能因为害怕这个事情就不干了，不能因噎废食，还是得努力前进。

而且最终的结论是什么呢？作为一个社会，我们将回归一个不断拓展的世界。其实在这个过程中，我们要看到背后讲的是什么，背后讲的是我们不要以人类这样的一个基础去说到底应该怎么去发展，是不是会被替代，是不是会被伤害，而是要以社会这个层面去看。本来人类得到发展，也是得到了社会的帮助。开始讲社会本身是一个超级智能，比所有人都聪明。那么在这样的一个情况下，他要改变的是社会。

至于未来的社会里，到底是有人还是没有人，还是人跟机器怎么去合作，那是未来的事情。但是呢，社会在智能或者在超级智能的帮助下，会重新变成一个不断拓展的世界，不断地去拓展新的文明，新疆域。

这使他对整个社会的一个期望吧。那文章大概写了这么长，写的还是比较有想象力的吧。但是呢，这样的文章里头，它其实没有任何具体东西。你不可能说，像原来OpenAI发布Sora，OpenAI发布GPT-4，OpenAI发布其他的这样东西，可以让别人有的抄，有方向可以去模仿，什么都没有，写了一堆非常空泛的东西。但是呢，也可以让我们去想象一下，未来到底是什么。

在融资的时候，通常都是公司最动荡的时候。山姆·奥特曼呢，也终于成了孤家寡人。咱们举一个例子，Sora在年初的时候发布，震惊了全世界。震惊完了以后，他自己又拿不出产品来，全世界所有的人都在去做Sora，百度这两天也出了，字节也出了，快手也出了，还有一堆的创业公司也都做了自己的Sora。结果到现在为止，他做不出来了，这事就很麻烦。

山姆·奥特曼在去年11月罢免事件之后，重新回去做CEO的时候，我当时录了节目就讲说，这个人的心理会有一些扭曲的。他以后不会再相信其他人了，他一定会相信他可以掌握的事情，否则的话，努力了半天，结果被董事会扔出来。而这个对于一个创始人来说，是非常非常大的伤害。这种伤害会伴随他一辈子，就是一个人是由他的过去经历来塑造和定义的。

去年11月份的罢免事件呢，也算是塑造了山姆·奥特曼。以后可能就更加的狡猾多疑吧，会变成这样的一个人。他呢，一定会任用更加值得信任的团队来管理事务性的事情。你说科技的事情他可能管不了，但是各种事务还是要他去控制得住的人去管，就跟咱们国内很多公司的老板喜欢找老婆或者是小三来去管财务一样，这个过程是一样的，也像古代的皇帝喜欢任用太监是一样的。

这一次融资呢，据说已经超募了。什么叫超募？就是说我现在准备融65亿，现在呢，愿意给钱的人比那多。就是每个人给的钱加一块比这个数多了。那么一般超募了以后的处理方式呢，就是要去拒绝一些人。啊，当然有时候超募的时候会多募一点，比如说我要65亿。

现在超募了10%或者超过了20%，一般在募集之前会跟大家说好。如果超过了20%，我就把这20%之前拿进来就完事了，再多的钱就要拒绝了。选谁的不选谁的，大家要去谈判。在谈判的过程中，可能是根据条款以及条件去限定其他的话，可能就基本上拒绝掉了。

所以他这一次融资基本上算完成了。而且呢，据说这一次融资可以摆脱非盈利机构的束缚了，他就完完全全变成一个盈利公司。但是非盈利组织还会在，只是他们的管理关系会发生一些变化。而且呢，也要开始给山姆奥特曼发股票了。山姆奥特曼据说是会发到7%的股份，对于一个1,500亿美金的公司的7%，哇，好多钱啊。我就不算了，你们帮我算一下这是多少钱吧。

其他的管理团队在这个时候呢，咱们不说什么理念相合呀，或者是我们想做的更安全呀，或者说有没有个人发展呀，这个事我们就不研究了。可能有这样方面的原因，在融资的时候团队分崩离析的，实际上我见过非常多的案例，最主要的核心原因只有一个，就是分赃不均，大家分股票没分明白。

现在山姆奥特曼分了7%，其他的这些管理团队，或者是叫做联合创始人的这些人，他们就会干嘛？不患寡而患不居。这一个礼拜大概又走了三个，他那个美女CTO也跑掉了。当时把山姆奥特曼干掉的时候，就是这个美女CTO说：“我一定要让他弄回来”，然后跟这个董事会对抗，最后把山姆奥特曼给拯救回来。今天她也走掉了。

对于基层员工来说，实际上相对是比较容易满足的，因为大家都差不多，大家都是拿的期权池，可能每个人有个百分之零点零零几这样的一个情况。但是你别看百分之零点零零几，对于他们来说可能也是几十万美金，几百万美金，就不要想比例的事情了吧，大家都挺开心的。

但是对于最上面这个，就是对于可以去按比例分这个股份的人来说，你是分不明白的。山姆奥特曼如果能分到7%的话，剩下的人可能连1%都没有，或者0.几，那肯定心里就不满意了嘛。那么说，趁着融资的时候，我们看看是不是调整一下架构。

应该怎么去分一下？这个事估计就没分明白。对于创业团队和管理层来说，预期管理是非常难的啊。像我们做投资的时候，其实基本上做两件事：第一件事呢，叫做信任游戏。如果不信的话，你是拿不了钱，别人也没有办法去相信把钱给你。

另外一个呢，叫预期管理。如果我觉得你的公司值100万，你觉得值一个亿，这就属于预期管理失败。特别是当有很多股东、很多投资方的时候，就要把所有人的预期对齐。如果对不齐的话，交易就没法做。有些人只觉得山姆奥特曼这公司Open AI值1,500亿，有些人觉得值1,000亿，有些人觉得值800亿，那这个就没法在同一份协议上签字。有些人觉得说，山姆奥特曼上百亿美金了，那我们其他人跟你一起玩的时候，我是不是也应该有个几十亿美金，或者有个几亿美金？如果你没分到的话，这就属于预期管理失败。如果是一堆投资人和股东，预期管理失败呢，那大家就没法签协议，要换投资人啊，换股东。最后让一些人对齐了以后再签字。如果是创始团队的，那就离职。所以现在在融资即将落地的时候，有核心大将离职是非常正常的。这个事情我们见得非常多。

然后咱们来讲这个吹牛的事情。Sora呢到现在为止依然遥遥无期。我看很多人去写文章、发视频，讲Open AI CTO这个漂亮姑娘去离职的时候啊，都在讲是因为她发了Sora，结果最后没做出来，她跑了。而且呢，她走了以后，Sora可能做不出来了。这个呢，我觉得最大的问题就是，预期管理失败。他等于对整个的社会放了一个预期，然后他自己又没有在预期相应的时间内把东西做出来，没有填这个坑。吹的太详细了，而且让别人都照着做这事是不行的啊。

前面吹的牛现在还需要慢慢的填。山姆奥特曼呢，算是给吹牛立了一个标杆，以后再吹牛怎么吹啊？多讲哲学，少讲些具体的实施方法。像刚才我们看的山姆奥特曼的博客，长文基本上就是这样的一个东西。我不会告诉你说这东西怎么做的，我也不会告诉你说……

我们具体会做成什么样？他只是告诉你说，未来可厉害了啊，厉害的你都无法想象了，无法用文字去描述了。他如果能描述得清楚，未来就是这样的，那甭等他做，别人就冲着这方向就去了。他现在已经是排头兵了，已经是风向标了，就不能再去讲很具体的事情了。

那么公司呢，有的时候就会失去创新力。其实像Open AI现在正在慢慢向这个方向前进。我们以前去做很多公司的调查，15年、16年的时候吧，在国内走访了大量的做AI相关的公司。走访了一段时间以后，最后我们立了一个标准，什么样的标准呢？挣钱的都不要，外包的都不要，接工程的都不要。为什么呢？因为做科研的公司锐意进取，他是没有办法盈利的。你也搞不清楚这东西到底怎么挣钱。而你一旦要去做销售为王，要开始做外包、开始做工程了，那么他就没有办法说，我再去投入那么大的精力去做这种你的预期完全无法预测的科研。

这个事就没法干了，因为很多的这种公司都是这样，说我一开始是做AI系统的研究，做底层，做自然语言处理，等做完了以后呢，还不挣钱，然后呢就开始去接项目。中国的甲方又是有名的刁钻啊，或者说比较苛刻，他们会提各种各样的问题。提出问题了以后呢，这个工程团队就会专门有另外一帮程序员去给他们实现。而在实现的过程中，其实即使到现在的大模型，你会发现很多事情，直接写程序进行简单判断实现，要比大模型给你生成的效果可能还好一点，特别是在甲方很规模的情况下，更是如此。

那么在这样的情况下，为什么要花这么高的薪水，养这么一帮不赚钱的科研团队呢？我们应该更倾斜一些，让给公司挣钱的人得到更好的收益，他们会做这样的一个事情。公司只要向这个方向发展，他们的一开始的原始研究团队就会快速离散掉，因为你又不愿意给他钱，而且还天天给他脸色看，说你看你每天花钱做出来的东西，别人又用不了，别人也搞不明白怎么用。接到工程项目里头以后呢，这个代码的质量又特别差，这个是很正常的。

我看科学家写的代码，这个品质都稀烂无比。像我们以前做人脸识别，都是专门雇佣的科学家。科学家最后写完代码以后，我们需要再雇一个程序员把它重写一遍。他们两个人就是鸡同鸭讲，科学家说：“我为什么这么做？算法是怎么做的？”正经的程序员根本就没法看，因为他们的各种内存泄漏、各种不规范的工程方式特别多，完全没有办法进到这个代码库里边去。

在这样的情况下，这些科学家就会走开。所以现在，OpenAI其实也在经历这样的一个事情，就是能做出业绩的人留下，财务、法务、人事、行政这样的一个团队来去管理公司。这样的团队实际上就是“皇上信任的事务团队”。山姆·阿尔特曼经历了去年11月份的罢免之后，现在整个OpenAI也有上千人了，所以他应该会有一个很强大的事务团队。

我见过很多这种创业公司，在一开始公司很小的时候，都是一帮技术、一帮销售、一帮业务人员，每天大家在商量说公司应该怎么做，应该如何去处理。等公司涨到一定程度以后，所有的话语权就会回到财务、法务、人事、行政手里面。然后，这些元老，特别是一些原来喜欢去说两句的，都会被财务、法务来教育：“你不可以去对你不负责任的事情发表言论，这些事情不应该你知道，你就不能知道，这个事情是要保密的。”他们会通过这样的方式把整个公司的创新力完全扼杀掉。

但这也没办法，公司的发展到一定阶段以后，一定会走这条路。那么现在OpenAI应该正在走这条路。一方面就是分钱没分明白，另一方面可能确实也有一些人是有理想主义的，但最终很多公司就是被金钱战胜了，最后谁有业绩谁留下。你说财务、法务这帮人，肯定也是围着有业绩的人去转，因为他们自己不挣钱嘛。你说另外一波不挣钱的人，肯定是我怎么看着怎么不顺眼，一定是这样的一个状态。由他们再去管理公司以后，大家的积极性就没有了。

现在呢，我们只能说，希望 OpenAI 还可以在排头兵的位置上多站个一到两年。你也不要对他有更多的预期了，再多站一站，至少把 AGI 做出来啊。觉得以 OpenAI 现在的这种势头，已经积累的这些人、这些代码、这些钱，他应该还是可以把 AGI 做出来的。把 AIGC 企业当前遇到的各种问题呢，也要解决掉，这是 OpenAI 当前的一个任务。

AIGC 的企业当前遇到了哪些问题呢？第一个问题就是不赚钱。你做了一大堆研究，最后没有赚到钱。而且大家没想明白这东西到底咋赚钱。但是 OpenAI 一旦把这个问题解决掉了，以后它也就不再是一个研发型公司了，它就变成了一个老老实实的该挣钱的公司，就像微软、苹果这样的公司了。这是第一个问题。

第二个问题是什么？就是距离解决实际问题的这个差距。这个其实是一个用户交互的问题。我一直在讲，OpenAI 做的聊天式的交互方式其实是有害的。大家其实并不需要这样的一个聊天交互方式。现在我们看到的一些比较好的交互方式是什么呢？就是一种叫流式交互，就是我们把需要做的事情规范好，设定几个流的节点，然后一步一步请你把它做完。这个其实才是可能更好的一种交互方式。但是这种流式交互方式，对于不同的业务是需要重新去设计的，它没有通行性。所以现在大家也在思考，应该如何去把这种先进的技术，用好的交互方式跟所有的人融合在一起，这个是需要去思考的。也希望，比如 OpenAI 和苹果合作的过程中，可以把实际问题解决掉。

最后呢，AIGC 行业还面临了一个很大的问题，就是消灭就业而不增加就业。就像山姆·奥特曼讲的，未来会面临巨大繁荣，所有人都会比现在任何人活得更好。但是，怎么走到这一步，怎么能够让所有人比现在都活得更好，这个是要去思考的一个问题。就像我们可能在马车时代很难想象，说高速公路家家户户都有汽车，这个事是没法想的。那么，未来到底是什么样的呢？

我们现在想象不出来，怎么能够让所有人都生活得更好。这个事情呢，至少让他再打个样本出来。这个我觉得是OpenAI的一个使命。如果它能把这些事情实现了，那么它倒下了也没有什么关系。如果你说你实现了以后，最后像谷歌一样，成为了一个基础设施公司也行。你千万不要说它把所有东西实现了以后，变成了政府，那就比较危险了。这个可能性也是存在的。

至于说超级智能这样的东西，到底会不会出现，会不会到来呢？不知道啊，有可能会有。而且真到了那一天，可能从人类的角度上来说，我们可能叫新人类，或者说叫一些什么不一样的东西。我们就跟现在的人，已经完全是两个不同的物种了。而且真的是超级智能了，以后你咋跟他说话？特别聪明的人，比如说北大伟神，够聪明了吧？你站在他面前有任何交流的欲望吗？其实你是没有的。还是说我们就见到这种得道高僧似的面前，我们说什么，他任何一个回复，或者佛陀拈花一笑，我们都觉得自己是个傻子。这样有意思吗？其实也没什么意思。

所以未来的这种超级智能，到底应该如何跟人一起去协作？或者人在未来超级智能掌管的这种社会里头，应该在一个什么样的位置上？它都已经远远超越人类了，还要我们干嘛使啊？这个其实是我们需要去思考的。而且我觉得，山姆·奥特曼把这个问题提出来，本身也是一个很好的事情。这个就是今天我们要去讲的：山姆·奥特曼在融资的时候发的这个文章，到底在讲什么？以及OpenAI为什么会有这么多的管理者、这么多的技术大拿会离开？以及我们应该如何去面对超级智能的一个故事。

Comments are closed.