数学家指控OpenAI在千禧年问题研究上存在学术不端,各方公开回应
数学家Tristan Buckmaster指控OpenAI在Navier-Stokes方程研究上存在施压、试图移除合作者并可能将未公开成果用于训练等行为。OpenAI CEO Sam Altman否认指控。
AI解读:围绕OpenAI声称用AI解决Navier-Stokes方程(千禧年难题之一,悬赏100万美元)的争议,正在从一项研究突破演变为关于AI实验室与学术界信任关系的公开对峙。
数学家Tristan Buckmaster指控OpenAI在获知其研究信息后对其施压,试图将他在Anthropic工作的合作者Levent Alpöge从论文中除名,并威胁其学术生涯;他还怀疑OpenAI可能将他们的未公开草稿用于模型训练,称之为“绝对的学术不端”。OpenAI方面表示,因听闻Anthropic模型可能解决了该问题才启动研究,但否认关键抄袭指控,CEO Sam Altman称团队“全程诚信且慷慨”。
目前争论的焦点之一在于:研究人员上传到OpenAI产品(如Codex)的未发表内容,是否可能被纳入训练数据。OpenAI承认“无法排除”这种可能性,但称可能性较低。无论最终结果如何,此案已经给所有研究者提了个醒:把研究数据喂给AI系统,可能等于把自己的发现提前交给了对手。
数学家陶哲轩在Mastodon上警告,此案可能促使研究者不再公开分享有前景的研究方向,从而“逆转数百年来的开放科学传统”。对普通研究者而言,如果不想让自己的思路被AI实验室抢先,也许需要重新评估在何时、以何种方式分享未发表成果。
围绕OpenAI声称用AI解决Navier-Stokes方程(克雷千禧年问题之一,悬赏100万美元)的争议,各方均已公开表态。数学家Tristan Buckmaster此前指控OpenAI存在学术不端行为:在得知其研究信息泄露后,公司对他施压,试图将他在Anthropic工作的合作者Levent Alpöge从论文中移除,并威胁其学术生涯。
双方说法分歧点
一个无争议的事实是:OpenAI自述因听闻Anthropic模型可能解决了千禧年问题,随即调动资源投入同一问题研究。但在多个关键点上,双方说法不一。
Alpöge和Buckmaster否认OpenAI所称其解决方案与他们的有重大差异,称他们曾将类似方法输入OpenAI系统。据Buckmaster理解,这些输入最终进入了训练数据。OpenAI员工则表示,模型实际使用外部提交解决方案的可能性很低,尤其是如果两人未禁用“排除训练”选项——他们是否这样操作外界不得而知。
OpenAI研究员Boaz Barak反驳了模型需要外部帮助的说法,称“认为模型需要提示是自欺欺人。它一开始就证明了比他们更强的结论。见过该模型工作的人不会认为它需要‘提示’。”
Altman与Alpöge的公开交锋
OpenAI CEO Sam Altman在X上支持团队,称他们“全程诚信且慷慨”,并提到曾有人建议将奖项授予Buckmaster和Alpöge,但团队遭遇了“毫无根据的抄袭指控”。Altman还透露,研究启动源于“上周互联网上传言Anthropic模型解决了千禧年问题,我们好奇自己的模型能否做到”。
Alpöge对Altman的一个关键说法提出异议。Altman称难以向Alpöge提出同样的合作邀请,因为他“无论如何不愿与我们沟通或协调”。Alpöge则表示自己愿意与OpenAI合作,且不在乎署名问题,并称“我也喜欢实验室合作的想法,尤其是在科学进步上。真遗憾!”
对开放科学的影响
OpenAI在官方博客中承认不确定性:“虽然可能性不大,但我们无法排除来自其产品使用中的去标识化数据帮助改进了模型。”
无论具体细节谁对谁错,此案提出了一个基本问题:AI实验室如何与学术社区互动。仅凭流言,OpenAI就短期内投入大量资源竞速解决研究问题并可能抢先发表,且无法排除其使用了用户输入系统的数据。对学者和公司而言,教训简单:任何将研究数据输入OpenAI系统的人,都可能被自己的发现打败;通过设置退出训练选项提供的保护充其量很薄弱。
数学家陶哲轩在Mastodon上警告:“哪怕是有人在研究某个问题的流言,就可能触发大规模的AI算力去抢在原创研究项目成熟前把它解决。”“激励可能正导向不再与更广泛社区分享任何有前景的研究方向,这将逆转数个世纪的开放科学传统,并对领域未来造成严重的长期损害。”