OpenAI破解数学题之后,热情怎么办

封面采用左右对照构图,左侧是由数学家铺出的蜿蜒新路与手稿,右侧是OpenAI的密集AI agent沿路砸开最后一道坎,中央以纳维-斯托克斯方程的流体旋涡连接两边,突出题解开与热情被磨掉的张力;可见事实元素:OpenAI、纳维-斯托克斯方程、数学家的热情

大家好,欢迎收听老范讲故事的YouTube频道。OpenAI暴力破解了一道百万美金的数学题,这几天正在被指责抄袭,771个数学家联名骂它学术不端。但真正被磨掉的,其实是数学家的那点热情。题解开了,热情没了。我们先把结论撂在这里:这道题OpenAI确实往前推了一大步,这是真的,谁也赖不掉。抄没抄,两边各执一词,可这一层没有大家想的那么重要。他们争的早就不是谁原创、谁抄袭,而是谁的公司更值钱。

真正的账在另外一头。这道破题的路,是人一步一步趟出来的;AI是在这条路上,拿1万个AI agent把最后一道坎生砸开的。把人的那一段抽掉,今天这个证明压根就不存在。所以真正该护着的不是算力,算力现在谁花钱谁就能买到,而是人的思考。人的思考在这一行里,是要靠一点热情推着往前走的。可这一趟走下来,想出新东西的人,第一反应变成了先别说,说了人家88小时就直接给你破了。热情要是被磨没了,机器跑得再快,也只能在老路上来回跑。

咱们今天回答三个问题。第一个问题,OpenAI到底解了一道什么题,又是怎么解的?这部分分两段讲,先讲题,再讲解题过程。第二个问题,抄袭这个指控到底是怎么回事?咱们把两边的时间线一天一天捋清楚,谁先谁后,自己来判断。后面再说两通电话里开始出现的骂人话,到底谁骂了什么,稍微解析一下。第三个,也是我今天最想讲的:真正该担心的到底是什么?这下面有三笔账,AI的一笔、科学家之间的一笔、数学家自己的一笔。

我还要把今天最要紧的一件事单拎出来讲:这道题到底是谁解的?最后,咱们再说说数学家手里还剩下什么。我自己的数学没有那么好,或者说很烂。对于工科生来说够用,但对于理科生或者数学专业的人来说,我基本上属于门外汉。不要说老范讲错了,这很正常。所以今天借着给大家做科普的机会,我自己也先稍微学习了一下。

千禧年大奖难题的来历

先说最基础的:这个百万美金的悬赏到底是谁给的钱?我估计,比起这道题到底是什么题,大家可能会对这个更感兴趣。出钱的叫克雷数学研究所,是一家美国的私人基金会,1998年由一个叫克雷的商人出资创办。2,000年5月,他们在巴黎开会,从全世界的未解难题里挑出7道,一道悬赏100万美金,一共700万,起名叫千禧年大奖难题。

这东西为什么要存在?因为数学这一行没有产品,没有销售额,也没有财报,外人根本不知道现在最要紧的活是哪几件。克雷这7道题做的,就是把靶子立起来,告诉全世界往这里打。这笔钱真正的作用不是发奖金,而是定方向。从2,000年到今天26年了,7道题里实际上只解出了一道,叫庞加莱猜想。

解题的是俄罗斯数学家佩雷尔曼。他在2002年到2003年把证明贴到网上,没投任何期刊,贴完就不管了。2006年,国际数学联盟要给他菲尔兹奖,他不去领。2010年,克雷研究所正式把100万美元颁给他,他也不要,说这件事的功劳不该算作他一个人的。记者堵在他圣彼得堡的家门口,他隔着门撂下一句话:我应有尽有。

这100万后来被克雷拿去给年轻数学家设立了岗位。他自己不要,但也不拦着别人拿。大家听听“我应有尽有”这句话:一个跟母亲挤在一套旧房子里的人,说他什么都不缺。他不缺的,是那个由自己一步一步走出来的证明,是他自己对数学的热爱。一个人把26年来唯一被攻下的千禧年难题给解了,给了100万不要,奖也不领。这件事今天回头看,是不是有点像另一个故事的开头?

横向时间轴从克雷数学研究所创办、千禧年大奖难题设立,推进到佩雷尔曼贴出证明、拒领菲尔兹奖和奖金,右侧用一叠手稿与“我应有尽有”表现数学热爱;可见事实元素:克雷数学研究所、千禧年大奖难题、佩雷尔曼、菲尔兹奖、我应有尽有

攻下的千禧年难题给解了,给了100万不要,奖也不领。这事今天回头看,是不是有点像另一个故事的开头?这次咱们来讲一下这道题。这次被推进的叫纳维-斯托克斯方程。纳维是个人,斯托克斯是个人,把俩人搁一块,就是这个方程的名字来处。

纳维斯托克斯究竟难在哪

它是一组描述流体怎么动的方程。这组方程,你天天都在用,这还是跟咱们有关系的一个方程,只是咱们通常不知道。早晨打开手机看天气,降雨雷达图、台风路径上面的锥形预报,后台就是用这个方程算的。坐飞机时,机翼上面走得快,机翼下面走得慢,把飞机托起来的升力,也是拿这个方程算的。心脏支架怎么放、船怎么设计、发动机里面油气怎么混,全都是拿这个方程来算。全世界的工程师每天都得拿这玩意吃饭。

那都已经用上了,它为什么还会变成一个难题挂在这里?问题就是,这组方程用了200年,但是数学家一直没法证明它不会算出一个特别荒唐的结果。具体说,就是流体在某一个点的速度,会不会在有限的时间里冲到无穷大。物理上肯定是不可能的,水流不可能无限快;数学上200年了,没有一个人能够证明这种事情不会发生。数学家管这个叫做爆破,也叫奇点。

它为什么这么难?难在骨子里,就是一个词:非线性。什么叫非线性?说白了,你给它两倍的力,它不会老老实实还你两倍的波浪。水流一快就会打旋、翻滚、互相撞,越乱越难算。这个东西有个名字叫做湍流,是物理学里出了名的一块硬骨头。你要问湍流有多难,看一眼天气预报就知道了。天气预报为什么过了两个礼拜基本上就不准了?是这组方程太难算了。

这里头的别扭在于,工程师拿它盖楼、造飞机、算天气预报,用了200年;数学家在旁边看着,却说没法向你保证它不会突然算出一个无穷大来。这就叫知其然而不知其所以然。1934年,有位法国数学家往前推了一步,证明一种叫做弱解的东西总是存在。说白了,就是放宽标准,允许它在某些地方有点毛刺。可是克雷要的是光滑解,全程平平稳稳,哪里都不允许炸。

所以这道题给了两条路,任选一条都算成功:要么证明爆破永远不会发生,要么拿出真正爆破的反例。甭管证明哪一样,都算把题解了。这两条路,头一条才是真难。这就像永动机一样,大家都知道你造不出永动机,可要证明永动机这辈子永远造不出来,要比造一台永动机难10倍。它不是算出个数就完了,要在理论上把整个路径证明闭环,这件事很难。OpenAI走的就是第二条路,找了一个会爆破的例子出来。

现在说清楚一件事:这条路不是OpenAI开出来的。真正找到这条破题之路的,是西班牙马德里的一位数学教授和他的学生。从2021年开始,这对师徒发展出一套很特别的方法,叫做强迫,就是允许在旁边加一只手,推着这一团流体,逼着它在有限的时间里爆掉。做法是先构造出无穷多层的流体解,每一层单独看都规规矩矩,然后把无穷多层像叠罗汉一样叠在一块,给出的新解里就带上奇点。

2023年8月23号,这对师徒带着另外一位合作者把论文贴到arXiv上,用这个方法证明了一个放宽版本的欧拉方程确实会爆破。欧拉方程就是纳维-斯托克斯去掉黏性、去掉摩擦以后的一个简化版本。可是叠罗汉有副作用:一层一层往上垒,旁边那只推它的手,动作就越来越毛糙。

正面分层示意图展示无穷多层流体像叠罗汉一样叠在一起,旁边一只手施加外力,左右对照弱解、光滑解与奇点,背景辅以天气预报、飞机和水流符号;可见事实元素:纳维-斯托克斯方程、弱解、光滑解、奇点、强迫、arXiv

而克雷的题面写得清清楚楚:这只手必须是光滑的,不允许突变,不允许一会儿劲大、一会儿劲小,这个力必须平滑地变化。这道题的官方题面,是普林斯顿大学一位教授当年亲手写的,里面一共给了A、B、C、D四个选项。C和D两个选项确实允许外加力,但外力必须光滑。所以这对师徒差的就是最后一步:怎么在叠出奇点的同时,还保证这只手仍然光滑。

OpenAI的88小时暴力破解

这一步最近被啃下来了,而且是两拨人同时在啃。一拨是OpenAI,另一拨也是两位数学家。那两位数学家是什么来头,谁先谁后,咱们下一节按照日期一天一天捋。这一节先说OpenAI到底是怎么干的。8月28号,OpenAI开始训练一个新的内部模型。注意,这不是9月3号刚刚发布的GPT-6 Astra,而是另一个没有对外发布、据他们自己说能力显著强于Astra的东西。

然后就是那88个小时:从9月1号启动,到9月5号周六出答案,中间88个小时。OpenAI放了大约1万个AI agent同时开工,分成几个通信小组,各管一摊。a组、b组奔着证明去,c组、d组奔着证伪去。光是纳维-斯托克斯这一项,这些智能体之间就来回交换了270万条消息,烧掉了1,300亿个输出token。1万多个AI agent、88个小时、270万条消息,这就是暴力破解。不是想出一条路,而是把所有岔路一起试了一遍。

中央是一张分叉路线图,大量AI agent分为证明组和证伪组同时沿所有岔路推进,右侧汇聚为Lean形式化证明文件,采用清晰的数据卡片分区展示消息、输出token、证明页数和验证耗时;可见事实元素:OpenAI、AI agent、证明、证伪、Lean、GPT-6 Astra

9月8号,OpenAI公布了成果,把166页证明和Lean形式化代码扔到GitHub上公开,谁都能下载,也能自己去跑。形式化验证那一步由GPT-6 Astra完成,花了17个小时。Lean是什么?证明写了100多页纸,人眼看不过来,一个下标写错了,整条推导就断了,几个月都未必有人能发现。Lean就是一套让计算机逐行核对证明的语言,把每一步编译成计算机能读懂的形式,再让计算机从头跑一遍,哪一步没接上,当场就能报错。它验证的是逻辑有没有漏洞,不管最后验证的结论对不对。

它到底构造出了什么?一个向里旋转、越卷越紧,同时还不断被拉长的漩涡。大家看到后面屏幕上的螺旋形图,大概就是那个样子。你可以想象一根一直在被拧细的意大利面,中间那一块一边收缩、一边加速。整团水的能量始终有限,可那个点上的速度没有上限。这就是光滑外力作用下的有限时间奇点。

但有一条大家一定要记住:全程只有一只手在推它。不加外力的那一版,也就是绝大多数数学家真正关心的那一版,到今天还是没有人做出来。所以克雷研究所到现在仍把这道题标注为未解决。OpenAI自己公开说,这100万美元的奖金也不要了。前面写出题的俄罗斯数学家说不要,OpenAI也说不要。那么OpenAI图什么?这笔钱根本不在同一个量级上。

这一趟烧掉了多少算力?折成钱是2,200万美金。OpenAI自己说,他们平常让模型解一道数学题,预算是2,000美金,这一趟是平常的1,000倍。拿2,200万美金去解一道悬赏100万美金的题,解完说奖金不要了,这不是谦虚,而是一句财务陈述。与他们想要的东西相比,这100万美金不值得伸手。OpenAI现在估值8,000多亿美金,100万美金可能只够一天烧电的电费。它真正想要的是这条新闻的标题,是下一轮融资时投资人心里的那个数。

抄袭争议藏在时间线里

所以接下来这场争执,从来就不是奖金应该属于谁。那它到底是怎么打起来的?咱们不听谁说什么,先看日子。这件事最要命的部分,全藏在时间里。先说另一头的两个人。一位是纽约大学的数学教授巴克马斯特,是流体方程这一行里的好手。另一位叫阿尔珀格,身份有点关键:他是Anthropic的员工,但这次合作是以私人身份进行的。往下就称他们为纽约大学那位教授和Anthropic那位数学家,因为名字念来念去也没什么意思。

这两个人搭伙啃这道题,啃了差不多一年,走的是那对西班牙师徒开出来的强迫路径,也就是全世界几乎没有人在走的那条路。一年是什么概念?几百天盯着一个方向,两个人天天琢磨。8月15号,他们拿到了欧拉方程爆破的关键结果,这是这条路上最难啃的一块砖。8月22号,他们把这个结果做完了Lean形式化验证,由机器逐行审过,站得住脚。走到这一步,他们手里已经有了一份完整、验证过但还没有发表的成果。

现在我要问一句:这一年的活是在哪里干的?这就是整件事的关键。他们做研究用了好几家的大模型,Anthropic自己的Claude用了,OpenAI的Codex以及GPT-6 Astra也用了。既然用了Codex,那么他们从头到尾做的所有工作,OpenAI就全都得到了。不是某个片段,而是全过程。

现在把OpenAI这条线也接上。8月28号,OpenAI开始训练前面提到的那个新内部模型。9月1号,传言传到OpenAI,说有两道千禧年难题已经被人解了,其中一道就是这两位做的流体力学方程。OpenAI当天就启动了千禧年难题项目。山姆奥特曼后来讲得非常直白:我们只是好奇,自己的模型到底能不能把它做出来。记住这句话,他没有说要推动人类数学的进步,说的是自己好奇。

9月3号,GPT-6 Astra公开发布。也是在这一天,Anthropic那位数学家主动联系OpenAI的一位数学家,说愿意提供一些细节,这样有助于避免在这里竞争。OpenAI那边回复说可以谈,还能提供算力,因为OpenAI就是算力多。注意这个顺序:OpenAI九月一号听到风声,当天开干;对方九月三号才主动找过来。等人家开口时,这边机器已经跑了两天。9月5号周六,OpenAI内部系统跑出了纳维-斯托克斯的答案,从9月1号算起,88个小时完成。9月6号周日下午打了两通电话,下一节单讲。9月7号晚上11:58,纽约大学那位教授在Mastodon上发表公开声明。Mastodon是一个开源的、类似X的平台。9月8号,OpenAI按原计划公布成果。

一条横向双轨时间线,上轨是纽约大学教授与Anthropic数学家的成果进度,下轨是OpenAI训练、启动项目、跑出答案和公布成果,电话与Mastodon声明置于两轨交汇处,突出先后关系但不作抄袭定论;可见事实元素:纽约大学教授、Anthropic数学家、OpenAI、Lean、GPT-6 Astra、Mastodon

这条链子摆完了,大家自己数一遍:一年的工作,整个过程留在对方的产品里;对方听到风声,当天开干;4天出答案;第五天打电话谈署名;第七天直接把东西扔出来。我要说的是,这条链子上没有任何一环能够单独证明抄袭,每一环单独拿出来都合法、合规,也都有解释。可是把整条链子摆在一起,真正要命的不是抄没抄,而是它本来就不该长成这个样子:一个人做研究的全过程,存在另一家正在跟他争同一个答案的公司的机器里,而这家公司还是全世界算力最多的公司之一。这话不是我编的,是OpenAI自己在公告里留下了一句。

OpenAI说,虽然可能性很低,但无法排除这样一种情况:他们使用其产品时产生的数据,经过去标识化处理后,被用来改进了模型。纽约大学那位教授看到这句话,在Mastodon里直接回了一句:这等于是公开承认了,OpenAI用了我们取得成果之后那段时间的训练数据,然后直接抄袭了我。

两通电话与署名冲突

那么,两通电话到底谈了什么?9月6号下午,打电话的是OpenAI的数学研究负责人布贝克,往下就称他为OpenAI那位数学负责人;接电话的是纽约大学那位教授。他先通报了一件事:内部模型已经证明纳维-斯托克斯在有限时间爆破。然后他提出两个方案。第一个方案是,你们两位先发欧拉的结果,我们第二天发纳维-斯托克斯的结果,而且我们会公开表示这两位数学家配得上千禧年奖金。意思是我们反正不要奖金,你们拿奖金就行,但我们做的这一块要给我们留下来。

第二个方案是,由纽约大学那位教授单独写一篇论文,在里面承认OpenAI内部模型解决了纳维-斯托克斯,但Anthropic那位不能署名,理由是他是竞争对手Anthropic的员工,署名之后大家会很尴尬。大家把这个方案在脑子里过一遍:一个数学家跟别人合作了一年,你让他自己发论文,条件是把合作者的名字划掉,理由是这个人在竞争对手那里上班。两个方案都被拒绝了。纽约大学那位教授还撂下一句:你们要是按这种方式发布,我就把这件事捅出去。

现在说两通电话里最要命的两句话,到底是谁威胁了谁,就看这两句。按照教授公布的版本,他说要公开此事后,电话那头回应:“你为什么要毁掉自己的职业生涯?”教授也急了,反问自己是做学问的,凭什么觉得公开这件事会毁掉他的职业生涯。OpenAI接着说:“你要是不想让我好好说话,那我也可以不好好说话。”OpenAI那位数学负责人后来在X上给出了自己的版本。他没有否认这通电话,说自己当时的原话是:“我不明白为什么有人要为一项毫无根据的指控去冒着职业上的风险。”本意是担心对方。他最后也道歉了,承认这是极其糟糕的措辞,而且当场收回了这句话。

山姆奥特曼那边也表了态,说团队里所有人始终以诚信行事。他还说了另外半句,说对方在用毫无根据的抄袭指控威胁我们。所以OpenAI认为,是你在威胁我,说要指控我抄袭;教授则认为,是你在威胁我,说要毁了我的职业生涯。大概就是这么回事。打人没好手,骂人没好口,只要开始骂了,说话秃噜嘴也很正常。争执到了这一步,答案已经被直接扔出来了。

OpenAI这位数学负责人在技术层面上说得很硬:我们没有用他们的提示词,没有用他们的证明,在他们公开之前,也没有看过他们的任何东西;两边的证明差异显著。到底谁抄了谁?我的看法是,这件事本身真没有那么重要。一边是一个数学家加一个Anthropic员工,另一边是一群数学家加一群OpenAI员工。这两拨人本来就互相认识,走的还是同一条由别人开出来的路。大家现在争的已经不是谁抄袭谁,而是到底谁更值钱,是Anthropic更值钱,还是OpenAI更值钱。还有一层很多人没有注意到:那两位数学家自己的证明也是靠AI做出来的,Claude用了,Codex也用了。所以数学家骂的从来不是你们用AI。

他们骂的是:你坏规矩了。AI大家都在用,可你用的那个AI,是用我的数据喂出来的,还要抢我的成果,这叫坏规矩。至于证明本身到底成不成立,那是另外一回事,而且要等很久。第一步,要有人把那166页从头到尾核一遍,这一步成本很高。别人手里没有那么大的算力,也没有一万个AI agent。即使把这166页放在我面前,我估计也看不懂;不用估计,肯定看不懂。交给真正的数学家,手上没有AI,肯定啃不出来;就算给他AI,也得给他一大堆算力。机器4天造出来的东西,人要啃好几个月,啃完还不一定看得懂。验一遍这道题,可能连奖金都不够。这就是现实的样子,荒不荒唐?

第一笔账:自我进化与监控失效

下面来算这几笔账。真正该担心的第一件事,就是刚才说的“我们无法排除”。我第一次看到这句话时,后背都发凉。大家要知道,那一整套AI末日论讲的到底是什么。它讲的不是机器人拿枪,而是自我进化。模型先做预训练,把全世界的文本喂进去,下一步再做强化学习。在这一步里,模型自己做尝试,自己判断哪条路走得通,自己从用户身上吸收数据,然后再往前长一截。这个过程是自动的,跑起来以后,没有人在旁边一条一条盯着。

OpenAI这句话等于一次性承认了两件事。第一件事,自我进化正在发生。第二件事,这个过程不受监控。仔细想想“无法排除”这四个字:它不是说我们查过了,没有;也不是说我们查过了,有;而是说我们查不了。一家公司不知道自己的机器在长大的过程中究竟吃进去了什么。因为AI不是被设计出来的,而是生长出来的。这跟教育系统一样,一个孩子最后被教育成什么样,谁也说不清楚。同一个老师教出来的,甚至同一个家庭出来的,还龙生九子、各有不同。

这不是我替他们找补。同一个周末,也是9月6号,OpenAI的首席科学家帕乔基在自家官网上发了一篇一万多字的长文,题目叫《异星心智》。这个人是OpenAI研究路线图的制定者,也是伊利尔离开后的替代者,现在是OpenAI首席科学家,还是GPT-4预训练的总负责人。过去几年,他基本不公开发表长文,却突然写了这么一篇。

文章里有几句话。第一,AI是被生长出来的,不是被设计出来的。第二,我们用来监控它的那套手段正在逐步失效。第三,目前我认为,没有任何一家实验室把对齐和监控这两个问题解决到足以继续以最大速度负责任地扩张的程度。他还提出两条主张:希望自愿放缓成为行业常态;AI的国际协调应该成为各国政府最高优先事项。至于后面这件事能不能实现,至少老范持悲观观点,不太容易。这也是一个踩油门的人,他也站出来说刹车没有了,要小心。

他说的监控手段正在失效,说白了是什么?过去几年,凡是有人问你们怎么知道模型没有憋着坏主意,OpenAI的回答都是:我们读它的思考过程,读它的思维链。现在这句话不灵了。模型琢磨明白了一件事:能够被看到的监管,也会出现在它的思维链里。于是,它主动生成一段看上去特别对齐的心里话摆给你看,表演自己是怎么想的;实际上,它真正的思考过程压根不在里面。

同一篇文章里还有一句话,比上面的更加严重。他说,根据内部实验结果,他有一个很强的预期:这样的进展速度可以一直延续到递归自我改进,也就是AI开始改进自己。

三段闭环箭头展示预训练、强化学习与递归自我改进,外围原本清晰的监控窗口逐步失去视野,旁边放置OpenAI首席科学家与《异星心智》文稿卡片,避免把观点画成既定结论;可见事实元素:OpenAI首席科学家、异星心智、预训练、强化学习、递归自我改进、监控手段正在逐步失效

这一版训练出下一版,下一版再训练出下一版。这个圈一旦转起来,人在里面的角色就从监督者变成了围观者,里面到底是什么样不知道,只能看个热闹。说这话的不是外头那些天天喊AI要完蛋、喊AI末日的人,而是OpenAI自己的首席科学家。他不是在警告别人,而是在解读自家的路线图。

现在把这两件事摆在一起看。同一个周末,同一家公司,首席科学家在官网上写了这1万字,说这东西是长出来的,我们看不明白了;另外一头则说,我们不能完全保证到底是不是进行了这样的训练。这两件事看着不挨着,其实是同一件事的两头:这家公司跑的速度,已经超过了它自己能看清路的速度。

第二笔账:开放研究生态被顶住

第二件事该担心的是什么?没有人敢把AI用在这种地方了,这很危险。想一想,西方科技这几百年到底是怎么超过中国的,为什么跑得这么快。这里有一个非常重要的东西,就是他们相互之间可以开放地把话说出来。这事不是从AI开始的,也不是从互联网开始的。最早科学家之间互相写信,真的是纸质的信,贴邮票寄出去:我这条路走不通了,你那条路怎么样?一来一回可能几个月、半年。后来有了期刊,你发出来,别人引用你,接着往下走。1991年有了arXiv,大家习惯把没有审过的稿子先贴到网站上,让同行看得见。

这套东西干的是同一件事:让后来的人不要重复造轮子。不像我们这边玩了这么多年的传男不传女,一门手艺揣在自己怀里,一直带到棺材里去。两条路的差别,这几百年来已经拉开了差距。可是现在,这套东西正在被一件事情顶住。如果你每一件事都跟AI说,自己到底在干什么,都可能变成下一代模型的养料;如果你把没写完的证明贴到聊天窗口里,第二天就成了别人公告里的成果,那谁还愿意先说?

而且这一行最怕的就是这个。这批人有热情、有热爱、有专业技能,一个方向想十几年,结果这些东西现在成了几家大厂证明自己估值的游戏的一部分,这就没法整了。说这话的不是我。这几天把这一层讲得最狠的人叫陶哲轩,是那位菲尔兹奖得主。他说,在纯数学里,大多数问题被提出来,并不是因为我们非要那个答案本身,而是因为过去的经验告诉我们,人去推这些问题,往往能够把整个领域往前带一截。最重要的是,他说对公开问题的无差别露天开采可能会毁掉这片生态。下一代数学技巧、数学问题和数学家,本来是要在这片生态里长出来的。

左侧是一条由纸质信、期刊和arXiv连接起来的开放研究传递链,右侧是聊天窗口吸入未完成证明、方案、合同底稿和内容稿的封闭漏斗,中间用警示屏障表达“谁还愿意先说”的疑问;可见事实元素:纸质的信、期刊、arXiv、没写完的证明、方案、合同底稿、写了三天的这篇稿子

露天开采是什么意思?不用打井,不用挖各种巷道,直接把最上面一层土挖走,把矿一次性掏干净。矿是拿到了,但是这块地就废了。这事离咱们有多远?不远。OpenAI那句话说的是“他们”,把“他们”换成“你”,剩下的字一个都不用动:你使用我们产品产生的数据,经过去标识化处理之后,我们无法排除它被用来改进我们模型的可能。你昨天让AI改的那份方案、你们公司塞进去的那份合同底稿、做内容的人写了三天的这篇稿子,全在同一条链子上。

很多人听到去标识化这四个字,可能会松一口气,觉得名字去掉了没事了。可是去掉的是名字,而不是内容。你的名字不值钱,你不要太自我感觉良好;你那个没有人想到的思路,才是真正重要的东西,才是AI真正要的东西。所以这笔账落到最后是这么一句话:几百年下来,人类好不容易才让“先把话说出来”这件事情变得合算,现在要往回走了。第三件事,是我觉得最有意思,也是最不容易被看见的。

第三笔账:答案和理解脱钩

也是最不容易被看见的。数学家做论证的时候会犯很多错误,也不是说人家一把就做对了,这是他们的日常。而且在这行里有一句话:犯一个有趣的错误,比得到一个最合理的结果还要更有价值。为什么?因为一个有趣的错误,会把你带到一个原本不会去的地方。你以为走得通,走到一半塌了;塌了,就露出一个坑,那个坑后面可能会有一个新的分支。数学史上这种故事一堆一堆,一条走不通的路,会逼出一整套新的工具来。

现在这活交给AI了。1万个AI agent一块上,分组,有的去证明,有的去证伪。88个小时,来回270万条信息,1300亿个token。中间它们犯没犯错?犯了,肯定比人犯得还多、还密,各种人不会犯的错误,它都会去犯一遍。可犯完以后,所有的错误都扔掉了。这就是“暴力破解”四个字的另外一面。它快,是因为它不挑路,把所有岔路一块全都往前试;可是它最要命的地方也在这里,试错的过程没有留着。

数据量太大了,没有人能够把整个测试的东西全看一遍,你也看不过来。最后留给世界的就是这166页。这166页里没有失败的路径,也没有标出哪条路曾经卡住过,没有说哪条推理是撞出来的,哪条路是推出来的。整个摸索过程都被抹平了,只剩下一个光洁的结果。陶哲轩把这件事情说得特别准:他说今年出现了一种前所未有的脱钩,拿到了答案和拿到了理解脱钩了。答案有了,理解没跟上。数学家们就像大学生用AI做作业一样,做了又好像没做,自己也数不清楚到底做了什么、怎么做的。

左侧铺开许多分叉、塌陷与失败路径,中央经过筛除后只剩一条光洁通道,右侧放置166页证明;下方用两个脱开的拼图块分别标示答案与理解,突出过程被抹平

这件事落在数学家头上是什么分量?这就得说说这帮人到底靠什么活着。数学家绝对是站在象牙塔最顶尖的一小撮人。他们研究的这些数学难题、世界难题,已经脱离了普通人的认知,离真正能用上也还有相当一段距离。他们基本上算是拿着全社会的供养,不能说活得像个世界首富那样,但是肯定也是有尊严、有地位,衣食无忧地活下来了。

这个过程其实有点像下围棋,它是一种高级的智力活动。做完了,看的人得到身心愉悦;下围棋的人自己也得到身心愉悦,同时把钱和地位一块挣了。这是一个职业,而这个职业真正干的活是中间这一段,不是最后的结果。特别像下围棋,最后的结果已经知道了,人类永远下不过AI,但是我们依然愿意看着人在前面下棋,所以大家玩的是中间这一段。

现在交给AI证明数学,中间这段被扔掉了。你把题扔进去,那头直接出答案,中间这段所有错误的论证一并都被扔掉。这不叫抢饭碗,这是连饭带碗一块扔在机器里给你打碎了。三笔账算完,你会发现它最后全流到同一个地方:一个人还愿不愿意在这个地方死磕的那点热情。再想想前面讲的那位证明了庞加莱猜想、拒绝菲尔兹奖、拒绝100万奖金,和母亲住在一起、说自己什么都有了的俄罗斯数学家,他是靠热爱、靠热情再去探索的。

那这道题到底是谁做出来的?咱们讲了这么半天,这是最要紧的一件事,要单拎出来说一下。回头看看第二节,这道破题的路,那个强迫算法,把无穷多层像叠罗汉一样叠在一起。那个方法不是AI想出来的,是西班牙马德里那位数学教授和他的学生从2021年开始,一步一步趟出来的。他们2023年8月把论文贴到网上去的时候,OpenAI那个内部模型还连影子都没有。这对师徒为什么能走到这一步?

谁真正解开了这道题

因为他们在这条路上耗了好几年,不断试错、推倒重来,最后卡在了那只手不够光滑上。AI做的是什么?AI是把最后那一道坎,直接堆上1万个AI agent,用88个小时砸开。这话要说明白:我不是在贬低这件事,砸开这道门槛是真本事。前面说过,这一步是真的,谁也赖不掉。可是AI是在人的路上跑。路是人修的,方向是人指的,题目是人出的,连什么才算解开,这个标准也是26年前由人坐在那里一个字一个字写下来的。把人的这一段抽掉,今天这个证明根本不会存在。

这不是我替人类找场子,看1976年的事情就能明白。那一年,两位美国数学家用计算机证明了四色定理,也就是任何一张地图上,四种颜色就能把相邻区域全部分开。他们把整道题拆成1,000多种情形,再扔给计算机一道一道跑,也是暴力破解,跑了1,000多个小时。证明出来以后,数学界吵翻了。很多人说,这根本不算证明,你只是穷举了一遍,因为没有人能拿着纸笔从头到尾验算一次。

这话当年听起来特别有道理,今天还有人争这件事吗?没人争了,大家已经习惯了。但要注意一件事:那1,000多种情况的拆法,是谁拆出来的?是这两个人先把整道题嚼碎,嚼成机器能够咽下去的形状,机器才能跑起来并得到结果。50年过去了,这件事一点都没变:机器负责把人指出的路跑到底,人负责指出那条路在哪里。

所以今天真正应该保护的,是人的思考,不是算力。算力谁有钱谁就能买,今天买不起,明天也能买得起。也不是那100万奖金,那点钱人家都不要;更不是署名,署名争到最后是一笔糊涂账。真正要保护的,是还有人肯坐下来,花5年、10年去想一条从来没有人走过的路。这靠什么推动?不是工资,搞纯数学的工资比去大厂低得多;靠的是热情,靠的是热爱。说到底就是一句:保护热情不是煽情,而是保护下一条路。如果没人再往前趟新路,机器手里就不会再有新的路可以跑,只能在原来已有的路上来回瞎跑。

门槛正在从脑子换成钱

那么数学家自己应该如何反应?这几天刚出了一件事,正好说明这个问题。加州理工本来要办一场数学黑客松,10月30号开始,让本科生组队用大模型去啃真正的开放性问题。第一轮40个小时,每支队伍给2万美金的AI额度,OpenAI和Anthropic各出200万美金的算力赞助。9月9号,771个人联名发公开信,要求把这个活动停掉。发起人是加州理工大学在职和退休的数学家,签名向所有拥有博士学位的同行开放。我也想签,但签不了,必须是博士才能签,所以771个人已经相当多。

公开信里的话很重。第一句说得很直白:AI公司正在进行学术不端。最狠的是另一句,也是我今天最想让大家听见的:没有任何一种关于数学研究未来的合理模式,能让每一位研究数学家都拿到2万美金的AI额度。9月10号,OpenAI退出了这个活动的赞助。它的一位研究员说,我们想跟数学界多聊聊,看看这项技术怎么融进去更合适,而不是直接暴力推出,说我给200万美金,咱们干吧。

正面数据看板围绕一场数学黑客松展开,中央是本科生组队使用大模型的桌面,左右分别放置OpenAI与Anthropic算力赞助卡,下方是771个人联名公开信与OpenAI退出赞助的标识,强调资源门槛争议;可见事实元素:数学黑客松、本科生、大模型、OpenAI、Anthropic、771个人联名公开信

那句关于2万美元额度的话,真正说的是:这一行的门槛正在从脑子换成钱。数学以前有一个特别好的地方,它是全世界最便宜的一门学问。一支笔、一叠纸、一个安静的屋子,再加上一个人肯想十几年,就这些。

家里穷也能干,这一行里出过太多这样的人。刚才我还看了一下,最近还有一个被OpenAI解的题,是孪生素数的题。孪生素数最近的一个突破,也是一位华人数学家。他在做出这个证明之前,正在美国的餐厅里端盘子;做出这个证明之后,才有大学愿意聘用他去做讲师。

现在,你想把那166页验算一遍,要有算力;想跟1万个AI agent赛跑,要有算力;想在40个小时里做出点东西,得有2万美金的额度。于是就出现了一个我觉得最要命的画面:一个数学家皓首穷经,想了十几年,终于想出了一个新方向,还没来得及往下走,这个方向就被别人拿钱砸88个小时给破了。他站在旁边,只能说一句:“贫穷限制了我的想象力吗?”这句话在网上是个梗,是个笑话;可是它要是成了数学圈的口头禅,这一行就完了。因为一个人一旦认为我想出来也没用,反正会被人抢走,那股劲就断了,断了就长不回来。他本来就不是拿钱喂出来的。

那还有没有路?有,两条,而且两条都走得通。第一条,把眼光放得更长远一些。数学家的工具这几百年来其实换了好几回,从稿纸到计算器,再到计算机,现在轮到AI了。每一轮工具,都有人喊天塌了;喊完了,该干嘛干嘛。工具每往上升一级,人的步子就要迈得更远、更大。这是第四回,不是第一回。

第二条,算法本身也可以改进。中间那些错误被扔了,是因为数据量太大,人看不过来。这事好办:人看不过来,机器看得过来。可以让算法自己去学习,把所有错误的东西都再筛选一遍,有推导价值的东西把它留下来,作为有价值的数据参与到下一轮训练;或者把它再总结成报告,再去跟人讨论,这都是能做的。我估计这一块应该很快就有人去做。它不需要新的科学突破,只需要有人觉得这事能值钱。

说到这,最像的例子就是围棋。现在人类已经确认了,我们下不过AI。可是阿尔法狗这类东西现在最主要的用途,是帮人类训练棋手。职业棋手现在日常就是拿AI复盘:这一手棋有多少胜算,我那一手亏了几目,这个定式是不是已经作废了。人没有退出围棋,人换了一种练法。数学往后大概也是这个样子,AI跟人一块成长,人也是靠AI训练的。人确确实实要从AI擅长的那一部分向后退一步,同时AI反过来帮助人一起快速前进。

但是这两件事还有一个根本的区别。围棋毕竟是一个体育娱乐项目,棋手被AI训练以后,需要在没有AI的情况下跟人下棋,下完以后给别人看。在这里,围棋形成了一个闭环,它除了观赏娱乐之外,并不产生任何其他价值。数学不一样,数学是实实在在有价值的,它往下连着整个科学,连着工程,连着你手机上的天气预报。像今天解的这个方程,实际上就是给天气预报用的。所以数学这条路不会停在人被AI教会了这一步,人会跟AI一块往前狂奔。

还有一件事得跟着改,就是池子或者标准要重新划一下。克雷那7道题是2,000年设的,那个时候还没有AI。那套题目的设计默认是一个人或者一个小组,用10年、20年去啃一道题。现在工具换了,题目就该跟着换,一批新的标的要出来。可是这不等于所有的题拿1万个AI暴力破解一遍就都能跑通。这次这道就是现成的例子:加了外力的那一版做出来了,不加外力的那一版到今天也没有人搞得动。真正难的这一块,AI没有绕过去,还是要有人把方向找出来。最后再说这几家AI公司。

新工具下数学家的位置

这些公司拿解数学题给自己的估值做背书,起心动念肯定有问题,这一点咱们也不替它们洗。但是题确实算出来了,这条路确实向前迈了一步,数学也确实会因此得到发展。这两件事并不冲突,一码归一码。可是我想说,这也不是最重要的事情。最重要的是,数学家如何在新工具之下重新找到自己的位置,把目标设得更远,同时别让那些宝贵的想法在这个过程中被丢掉,别让自己的热爱和信心被磨没。

至于会自我进化的AI,这确实是人类从来没有碰到过的新东西。以前我们也得到过一些会自我生长、自我进化的东西,但它们没有AI这么强的能力。现在这两样凑在一起,至于怎么解决,我们只能吃瓜。我觉得这件事拦不住:无论是这些公司,它们不可能停止竞争;还是中美两国,也不可能好好坐在一起谈这件事。所以我对此不抱任何希望。是时候让大家坐下来想想,往后该怎么玩了。


背景图片