数学家讨厌AI,却又离不开它
数学家们一方面批评人工智能公司在未经充分署名的前提下使用他们的研究成果,另一方面又因其实用性而不得不依赖AI工具。
要点
- 数学家特里斯坦·巴克马斯特认为OpenAI使用了他的研究成果来解决纳维-斯托克斯问题。
- 巴克马斯特曾使用OpenAI的Codex和Anthropic的Claude来研究该问题。
- OpenAI进行调查后表示巴克马斯特的提示词不可能影响其训练系统。
- 数学家安德烈亚斯·托姆发现OpenAI的Astra模型在其研究中使用了他的技术。
- 25位菲尔兹奖得主签署公开信称AI公司与数学家严重错位。
- 超过4000人签署了旨在防止AI吞噬数学领域的《莱顿宣言》。
数学家特里斯坦·巴克马斯特(Tristan Buckmaster)认为,OpenAI使用了他的研究成果,以便抢先一步解决一个悬赏100万美元的数学难题。但这还不足以让他停下使用该公司模型的脚步,而且并不是只有他一个人有这种感受。“即使你完全不同意这一切,你也只能深陷其中。由于AI如此有用,你很难完全阻止自己去使用它,”巴克马斯特对《连线》杂志说道。“这些公司拥有垄断地位,并没有太多的选择,”他补充道。
自从这位纽约大学教授公开指责OpenAI复制了他的研究方法以来的一周半时间里,巴克马斯特一直在使用该公司的编码代理Codex来整理他的研究论文。当他有时间做数学研究时(他说这很罕见,因为事件的余波将他推到了聚光灯下),该工具一直在帮助他理解OpenAI的代理可能采取的逻辑步骤,从而从他早期的研究推导到最终的证明。
巴克马斯特曾使用Codex以及Anthropic公司的竞争产品Claude,与Anthropic的研究员莱文特·阿尔珀格(Levent Alpöge)一起研究被称为纳维-斯托克斯存在性与光滑性(Navier-Stokes existence and smoothness)的问题。巴克马斯特表示,OpenAI部署了数万个代理来寻求解决方案,但前提是它得知该方程已经接近被解开。
当巴克马斯特公开他的指控时,它引发了一场关于人工智能以及它是否会使人类数学家过时的巨大风暴。这也促使OpenAI展开调查,并修改了关于解决纳维-斯托克斯问题的公告,称其“确认在2026年9月8日发布公告和论文之前的两个月内,巴克马斯特的Codex提示词不可能以任何方式影响系统,包括通过训练”。该公司在一封电子邮件中引导《连线》杂志查看其公告。
巴克马斯特表示,证明AI正在推动数学的边界“比结果本身更重要”。但是,在没有充分致谢支撑人类工作的情况下——特别是在重大首次公开募股(IPO)之前——就批量产出长期数学难题的解决方案是不负责任的,而且是“幼稚的”,他说。
其他数学家也提出了类似的担忧。德国数学家安德烈亚斯·托姆(Andreas Thom)花了过去二十年时间发展几何群论中的技术,地球上只有少数人理解这些技术。因此,当OpenAI在8月份表示其Astra模型已经使用这些技术证明了他一直在研究的一个长期问题时,“我感到很震惊,”托姆说。“当然,我在想,他们是怎么了解到这一点的?”
因此他说他询问了OpenAI的研究人员马克·塞尔克(Mark Sellke)和塞巴斯蒂安·布贝克(Sébastien Bubeck)。在8月份的一封电子邮件中,他指出该公司声称该问题在过去十年中“没有取得进展”的说法,忽略了他在2019年发表的一篇论文以及其他数学家的工作。
该公司修改了其新闻稿。他和一位同事在得出结果前的几个月里一直在使用ChatGPT来辅助他们解决该问题,但当他询问他们的互动是否被输入到训练数据中时,托姆说塞尔克回答说:“这并没有发生。”
“我把它放在了一边,”托姆回忆说。“我对这些政治事情不太感兴趣;我想做数学研究。”
虽然托姆看到了OpenAI关于巴克马斯特的提示词不可能影响系统的声明,但他表示他不相信这一点,并承认他可能永远不会知道自己的工作是否真的为该结果提供了养分。
“AI彻底打破了你可以追溯谁贡献了什么的整个想法,”他说。“这可能已经结束了。”
这与通常开展科学研究的方式发生了巨大变化,学者们会将他们的研究成果提交给同行评审,并在致谢的基础上借鉴彼此的工作。除了颠覆署名权之外,人类仍然不完全理解OpenAI的代理得出纳维-斯托克斯结果所采取的每一步这一事实,也给数学家带来了生存问题,他们发现自己的领域超出了他们的理解范围。
“如果我想对数学做出贡献,在这些万亿美元的公司参与其中的今天,我作为一个普通人该怎么做?”康奈尔大学数学家亚历克斯·汤森(Alex Townsend)说,他是即将出版的一本关于该领域演变的书的合著者。
自8月以来,汤森看到他的许多同事开始询问他们需要了解关于该技术的什么信息,以及他们如何建立订阅以访问更高功率的模型。
“我感到既兴奋又紧张,”汤森说。“兴奋是因为我能实现没有它就无法实现的事情,紧张是因为我在反思:‘好吧,我在这里的目的是什么?’”
托姆接受了他的研究领域正在发生变化,并继续使用ChatGPT——通过更新的隐私设置来阻止他的工作被用于训练数据——来加快论文的写作,因为它是“极其高效的”。(OpenAI通过大学和企业级别提供的服务默认不会使用用户数据来训练模型。)
“如果一个人类主动这样做了,那我将会非常非常生气,”他在谈到有人在没有署名的情况下使用他的工作时说。但是,如果信息是通过后门被拉入模型中的,是由一个没有人完全理解的算法完成的,“我大概还能接受,”他说。
有些数学家的原谅态度则较少。25位菲尔兹奖得主在一封公开信中写道,人工智能公司和数学家“严重错位”。
超过4000人签署了《莱顿宣言》(Leiden Declaration),其中包含一系列关于数学家、资助者和政治家如何确保AI不会吞噬该领域的建议。
巴克马斯特担心使用AI来“清理一下你的语法,突然之间你多年的工作[就可能]被吞进用户数据中,并卖给另一个数学家或研究生。这就是我认为大多数数学家倾向于担心的事情,我认为这是一个真正的问题。”
由于地平线上没有监管,且AI在这一领域进一步根深蒂固,一些数学家希望找到一种方法来至少踩下刹车。其中包括2000多名与加州理工学院(Caltech)有联系的人,他们呼吁该校AI数学黑客马拉松的组织者暂停该活动。
该黑客马拉松由Anthropic和OpenAI赞助,不过后者此后已经退出。
但任何试图放慢脚步的尝试可能都是徒劳的,尤其是在长期来看。
“我认为这真的不可持续,因为AI带来的效率提升,”托姆说。他补充说,任何数学家——尤其是早期职业研究人员——如果不使用AI来加速他们的工作,都面临着被“孤立”的风险。
他和巴克马斯特都认为,学术界需要开始思考这项技术对年轻数学家意味着什么,以及如何平稳过渡。