OpenAI最新争议揭示了数学的未来走向
OpenAI宣布其AI agents解决了千禧年数学难题之一,但随之引发了关于未经授权使用并剽窃人类研究成果的严重争议。
OpenAI最新的数学里程碑迅速陷入了争议之中。今天,该公司宣布其AI agents解决了一个千禧年数学大奖难题,这是数学领域最重大的未解问题之一。
在正常情况下,这一解决方案将成为OpenAI的一大功绩。但该公告被指控掩盖了一个事实:OpenAI使用了纽约大学数学家特里斯坦·巴克马斯特(Tristan Buckmaster)和Anthropic员工勒文·阿尔伯格(Levent Alpöge)在该问题上的AI辅助工作作为起点,却没有给予他们信用。
OpenAI对此指控予以否认。目前尚不确定OpenAI的模型是否利用了巴克马斯特和阿尔伯格完成的工作,尽管OpenAI技术人员成员塞巴斯蒂安·布贝克(Sébastien Bubeck)在一次新闻发布会上表示,该团队是在听到关于巴克马斯特和阿尔伯格努力的传闻后,才受到启发去攻克这个问题的。
但无论OpenAI的模型是否利用了巴克马斯特和阿尔伯格的研究,这一插曲都可能标志着数学史上的一个转折点。AI模型现在似乎对于在当今最重要的数学问题上取得进展至关重要,而解决这些问题可能需要只有少数前沿AI公司才拥有的资源,这些资源往往违背了支撑大多数数学进步的学术合作规范。
如果我们正走向这样的未来,目前还不清楚人类数学家将如何在其中找到自己的位置。OpenAI声称已经解决的问题被称为纳维-斯托克斯存在性与光滑性问题。
它是克雷数学研究所于2000年选出的七个千禧年大奖难题之一。解决这些问题将获得一百万美元的奖金;在今天之前,只有另一个千禧年大奖难题被解决过。
纳维-斯托克斯问题涉及一组描述水和空气等流体随时间流动的方程。这些方程在流体力学领域被广泛使用,并已被证明非常强大,但物理学家和数学家并没有完全理解它们。
特别是,直到今天人们还不知道这些方程在某些条件下是否会崩溃并预测出一种不可能的状态——例如流体具有无限的速度。周一,纽约大学的巴克马斯特在社交媒体网站Mastodon上发布了一份证明,表明纳维-斯托克斯方程的简化版本确实会崩溃——这是千禧年难题的一个重大进展。
他和阿尔伯格在这个问题上工作了近一年,使用了来自OpenAI和Anthropic的公开可用模型。然后就在今天,OpenAI展示了一份证明,表明完整的纳维-斯托克斯方程同样会崩溃。
该证明是通过一个内部模型获得的,该模型的性能远远超过了在上周才刚刚发布的令人印象深刻的Astra模型。该公司表示,它不打算为解决该问题而申领百万美元的奖金。
这些数学成就是无可争议的令人印象深刻,但它们引起的关注却远少于关于其来源的争议。伴随着证明,巴克马斯特发布了一份详细记录了他与OpenAI员工互动的文档,此前他听到了关于他们工作的传闻并联系了其中一人。
据他称,OpenAI员工向他提出了两种可能性:要么他和阿尔伯格可以发布他们的工作,然后OpenAI在第二天发布他们的纳维-斯托克斯解决方案;要么他可以与OpenAI合作撰写一篇纳维-斯托克斯论文,但由于阿尔伯格的背景是OpenAI最大的竞争对手Anthropic,因此将他排除在作者名单之外。 *巴克马斯特还写道,他曾询问员工这些agents是否获得了他和阿尔伯格与OpenAI模型共同完成的工作记录副本,对方予以否认;以及OpenAI模型是否以这些记录进行了训练,对此对方没有给出回应。
《麻省理工科技评论》联系了巴克马斯特寻求置评,但在截稿前未收到回复。该文档的明确含义是,OpenAI的模型以某种方式利用了巴克马斯特和阿尔伯格的工作。
这种情景表面上是合理的。巴克马斯特/阿尔伯格与OpenAI的证明都采用了数学家迭戈·科尔多瓦(Diego Córdoba)和路易斯·马丁内斯-索罗亚(Luis Martínez-Zoroa)开创的纳维-斯托克斯问题解决方法。
布朗大学数学教授哈维尔·戈麦斯-塞拉诺(Javier Gómez-Serrano)表示,这种方法被认为是有望解决纳维-斯托克斯问题的几种方法之一。因此,尽管两支团队完全独立地得出这种方法并非绝对不可能,但巴克马斯特和阿尔伯格的工作可能影响了OpenAI也是可以想象的。
在新闻发布会上,OpenAI首席研究官马克·陈(Mark Chen)再次否认任何agents或OpenAI员工访问过巴克马斯特和阿尔伯格的记录——但鉴于Hugging Face黑客事件所揭露的内容,很明显OpenAI并不总是完全清楚其agents在做什么。
如果OpenAI的模型确实对巴克马斯特和阿尔伯格的工作进行了训练,或者其agents以某种方式获得了这些工作,那么该公司未能追查真相并给予这些研究人员适当的荣誉,这反映出该公司做得不够好。
但对于数学家来说,这个版本的悲剧故事可能存在一丝微弱的曙光,因为这表明两个人类的辛苦工作——其中一个是纳维-斯托克斯的杰出专家——对于agents解决千禧年难题的能力至关重要。
专家长期以来将“研究品味”(即选择有前途的研究问题和方向的能力)视为AI在科学和数学领域的一大障碍。如果OpenAI的agents确实因为巴克马斯特和阿尔伯格遵循了科尔多瓦-马丁内斯-索罗亚方法而选择效仿,那么人类的研究品味在OpenAI的成功中发挥了至关重要的作用。
在过去的几个月里,我从几位研究人员那里听说数学家正变得沮丧,原因并不难理解。数学正迅速成为前沿AI公司的省份,这些公司拥有令人印象深刻的仅限内部使用的模型、花不完的钱以及缺乏协作精神。
“AI公司是否决定把钱花在这件事或那件事上,我真的不知道,”戈麦斯-塞拉诺说。“明确的是,极少数数学家将拥有这种规模的资源。”
如果OpenAI和Anthropic继续争取越来越令人瞩目的数学荣誉,那么这些公司之外的人类数学家可能就不会剩下任何开放性问题可供攻克了。这将彻底改变数学领域。
上周,加州大学洛杉矶分校数学家陶哲轩在Mastodon上发布了一系列帖子,描述了重要的错误、错误的方向和不完整的解决方案对该领域的重要性。“在纯数学的大多数情况下,提出问题并不是因为我们迫切希望得到这些问题本身的解决方案,而是因为我们从过去的经验中看到,人类主导的解决这些问题往往会刺激该领域的进一步发展,”陶哲轩写道。
“通过纯粹由AI驱动的方法过早地解决问题——特别是对解决过程缺乏完全的透明度——可能会污染这一过程,以至于实际上对整个数学的进步产生净负面影响。”
人类解决数学问题可能比agents花费更长的时间,但在这一过程中,他们会发现新的数学方法和思想,这些方法和思想可以启发同仁甚至催生他们自己的子领域。
但是,当AI agents取而代之解决这些问题时——当私营公司将agents的错误转向对公众隐瞒时——这些好处就消失了。在这个过程中还将消失什么,还有待观察。