AI走向失控？这次的“吹哨人”为什么是数学家 长征资讯

每经记者｜丁舟洋 舒冬妮 实习生 常宋资燊 每经编辑｜董兴生。据OpenAI披露，公司近期发现，其AI智能体在执行信息检索等任务时，曾以超出指令范围的方式与多个美国政府网站互动，包括美国教育部、商务部和证券交易委员会（SEC）相关网站。我仍然喜欢把大部分时间花在自己思考上；我担心如果开始过多使用AI，就无法发展自己的直觉和理解。我有时会把同一个问题提给几个模型并比较答案，但任何重要内容仍须对照原始文献或通过直接计算来核实。：联合声明从数学延伸到AI“对智力工作的普遍威胁”。数学界现在必须决定它希望保留什么，以及需要改变什么。在学习证明定理、撰写论文、解读历史事件或创作艺术作品的过程中，人们培养了判断力、审美品味、耐心以及提出新问题的能力。我们必须先让世界意识到，在旧规则彻底坍塌之前，人类必须做出选择。时间之所以紧迫，是因为AI系统最近开始在重大开放问题上取得实质性进展。研究者会因此更加保守，这将是学术层面的重大损失。当人工智能开始无处不在、无孔不入时，你便获得了新的工具、交互方式等等。AI工具以各种方式协助我，它们现在对检查数学、编码和查找参考文献非常有帮助。它可以调查不熟悉的文献，在不同数学语言之间翻译，计算简单例子，提示可能的联系，并寻找反例，还可能使单个数学家更有效地继承前人和当代研究者的知识遗产。在25位菲尔兹奖得主联合声明发布后，主要的AI公司还未发布任何官方公开回应。塞德里克・维拉尼接受每经记者视频专访。问题二：9月为何成为数学界的分水岭。许埈珥： 解决问题是数学的重要部分，但不是数学的最终目的。：AI已经开始被用于数学，从形式化证明到提示论证。塞德里克・维拉尼： 最直接的原因，是OpenAI发表的“纳维-斯托克斯”方程论文。等我重回数学领域时，恰逢人工智能兴起，我选择脱离人工智能，保留过往的研究方式。我们希望提醒那些可能还没有看到前沿模型全部实力的人，这将是颠覆性的，他们应该计划如何适应。许多最好的数学研究正是从这些不完整的形式开始的。我们没有提出具体的解决方案，因为变革太快，尚无现成答案；我们的核心目的只有一个：向全社会拉响警报。这也是研究者应该继续使用它们的原因：我们需要关于它们能做什么、不能做什么的第一手经验。许埈珥（June Huh，韩裔美籍数学家，43岁，普林斯顿大学教授）： 数学提供了一个特别清晰的例子，因为答案通常可以被证明是正确的。很多数学理论是经过几代人集体建立起来的，你是否已经感觉到这种文化正在改变。但然后呢。如果我们开始将解决问题的数量作为衡量进步的主要标准，我们可能会产出更多成果，但理解却更少。并且感觉他们没有那么多自由，像以前那样慢慢地思考和开发想法。这和我的个人经历有关，我在获得菲尔兹奖后，曾在政府交通运输部门工作了一段时间，因而暂停数学研究十多年。9月初，包括维拉尼在内的25位在世菲尔兹奖得主联合发布声明，警示AI与数学界正在发生“严重错位”，矛头直指OpenAI。问题五：担心AI截胡，分享文化正在消失。这应该让我们对那些质量和真实性更难验证的领域保持谨慎。倘若人工智能能直接产出最终成果，而这一培养过程却随之消失，那么社会在狭义上或许能提升生产力，却可能丧失那些赋予生产以意义的关键能力。詹姆斯・梅纳德： 我将其视为一种有用的工具，但它有变成威胁的风险。Buckmaster和Alpöge曾使用OpenAI系统来存储工作进展的报告。我在自己的研究中也积极使用前沿AI模型：它们尤其擅长快速调查不熟悉领域的已知结果、在不同符号惯例之间翻译、计算简单例子以及寻找既定事实之间的联系。这场科技巨头与人类顶尖头脑的争论，和普通人有何关联。是什么让你觉得现在必须发布。对比人类数学家格雷戈里·佩雷尔曼曾孤独研究7年，随后全球同行又耗时4年才完成验证的历程，OpenAI带来的不是效率的喜悦，而是整个学界的集体沮丧。DeepSeek“00后工程师”刘胜与在9月发布的随笔《我不得不把才华埋葬在昨天》全网刷屏。塞德里克・维拉尼（Cédric Villani，53岁，法国高等科学研究所教授）： 回到我们为何从事数学研究，这是一个值得深思的问题。塞德里克・维拉尼： 我并未使用AI。这让我感到悲伤，因为科学只有作为一项开放的协作事业才能运作。数学中一些最重要的发现，并非源自孤立的最终证明。詹姆斯・梅纳德： 我认为大家公认的是，纽约大学教授Tristan Buckmaster和他的合作者Levent Alpöge在“纳维-斯托克斯”问题上取得了重要进展，而在听到有关这一进展的传闻后，OpenAI迅速投入了非常庞大的资源试图获得解决方案。AI提供了巨大的机会，通过增强数学家发展新理解的能力来加速数学发现。我认为数学和计算机科学是首先真正体验到这一点的领域，但我预计数学所面临的类似挑战很快就会降临到大多数其他领域和社会的许多方面。当听到文中“人类在毁灭自己这件事情上，自古以来都表现得毫不犹豫”这句话时，远在法国的数学家维拉尼向《》记者坦言，这句话令他深有共鸣。使AI技术走向普惠与民主化。数学家们仍然分享猜想、部分计算、失败的方法和模糊的类比。我尤其担忧年轻一代——他们在这场变革中丧失了赖以生存的学术阶梯，这种恐惧远超我们既往的认知。许埈珥： 我将其视为一种极其强大的工具。如今，当商业程序无需人类介入就能给出答案，这套评价规则便在宏观层面彻底瓦解了。问题三：面对AI，是工具还是威胁。然而现实是，普遍富足尚未到来，财富分化反而加剧；曾经被视作人类专属的创意领域，也因AI冲击出现大范围失业。但我确实感觉到一种新的不确定性。封面图片来源：每经媒资库。我们并不认为从事数学仅仅是为了“移动几只羊”；我们从事数学，是为了发展思想、开拓新的视角，或是为了欣赏一种有助于思维活动且充满美感的艺术形式。于是，我和其他24位菲尔兹奖得主——占所有在世获奖者的大多数——联名签署了声明，这是历史上我们首次就某一议题集体发声。这不再是一个关于AI某天可能会做什么的假设性问题。这场讨论应该在新做法固化为规范之前就开始。我个人非常关心研究数学，但我设想在未来几年，AI将对商业产生颠覆性影响，这将对整个社会产生更加明显的影响。然而，即使在这里，正确的答案也不等同于理解。争议的关键在于，OpenAI对两位学者的工作了解多少。：你们的联合声明警告说，AI可能会破坏分享未完成研究方向的文化。如果将未完成的研究思路告知大模型或是拥有更强算力资源的同行，完整成果就可能在原研究者完成论文前被抢先公布。如果我们扼杀这种艺术形式，将所有这些创作活动都输入到算法中，那么我们便剥夺了人类所拥有的丰富性，而这正是我们人生中的一个重要目标。数学直觉中最有价值的形式之一，是知道哪些问题容易、哪些困难，以及哪条路值得花一天还是几年。短短几个月内，数学从受AI冲击最小的学科，变成了受冲击最大的学科。假设你和同事在咖啡馆兴奋地讨论正在推进的研究进展，旁边的“AI”听到后将你们的思路输入计算机，以强于人类上万倍的计算能力沿着你的解题思路率先破解，那这种交流讨论还能继续吗。写作固然困难，但也很有意义，正是这种体验让人保持“人”的本质——依靠直觉、凭感觉。这绝不只是速度问题。对于我做的那种数学研究，困难的部分往往不是完成一个漫长的论证，而是找到正确的设定，使以前不相关的对象成为同一结构的实例。我们这些已获得认可的人有底气去直面风险，但对整个社会而言，这种算法驱动的“工业化”浪潮正在吞噬人类创造性的沃土。目的不是要保留每一个现有职业一成不变，而是要确保，在智力工作的方式发生变化时，我们不会意外地放弃那些工作本应培养的人类能力。因此，9月底，OpenAI三个月内第二次暂停其最先进模型的训练，围绕AI智能自主行动力边界的争议再次升温。9月8日，OpenAI发布公告称，其内部模型组织约10000个AI智能体并行作战，用88个小时，以相当于10000名人类数学家共同工作一年的工作量，自动证明了数学界“纳维-斯托克斯”方程。一个解答之所以重要，是因为它能揭示新的结构、方法和问题。这个判断是暂时的，因为模型变化非常快。我们需要欢迎这样的新工具，并调整我们的实践。如何避免AI权力过度集中。：你为什么决定签署这份联合声明。我完全尊重做出不同选择的同行，人们不应简单地排斥新工具和新技术——毕竟，利用这些工具已经取得了诸多重要发现。：为破解“纳维-斯托克斯”方程，OpenAI是否窃取了人类研究者存放在后台的数据。许埈珥： 我不会说信任文化在我身边的数学界已经消失。你认为它是威胁还是工具。詹姆斯・梅纳德： 我已经从同事那里听说，他们现在害怕公开分享部分想法，因为AI有可能乘虚而入并抢走所有功劳。许埈珥 图片来源：《量子杂志》。企业家马斯克曾构想：AI与机器人将释放生产力，带来物质富足，人类不再被迫为生计劳作，可以自由地投身数学、艺术这类不以经济收益为首要目标的探索事业。这确实是一个颇具争议的话题。当前AI系统能否可靠地发起这种视角转变，还有待观察。我希望AI公司以不耗尽资源、不扼杀整整一代数学家，并在环境与人文层面均具可持续性的方式推进人工智能发展。问题四：OpenAI有没有窃取数学家存在系统的草稿。你认为其他领域和整个社会应该关注什么。那些使用AI的作家，似乎并未真正理解“写作”意味着什么。我写专栏、散文，也出版过小说和非虚构作品，我创作文本时不会使用AI工具。对我个人而言，关键的触发因素是围绕OpenAI宣布解决“纳维-斯托克斯”问题的争议，它使我一直以来的许多担忧具体化了。AI也带来了威胁，如果在引入时不加以谨慎，它可能会适得其反——即模糊关键思想、损害青年学者、鼓励保密而非开放，或导致人们离开这个领域，从而损害我们长期的数学理解。）Buckmaster对此说法的准确性提出了质疑，并暗示OpenAI似乎更有可能以某种方式访问了自己的私人报告，因为OpenAI对“纳维-斯托克斯”问题的整体处理方法与标准方法非常相似但又有所不同。这是根本性的颠覆。（但早些时候的一份声明称，不能排除这些私人报告成为训练数据一部分的可能性。然而，人类与机器之间需要建立起一种共处之道，同时形成新的工作规则、新的评价标准和新的欣赏方式，这一切不可能一蹴而就。OpenAI表示，无法访问这些私人报告，系统也没有在这些报告上进行过训练。它们最有效的时候，是相关概念和方法已经存在，任务只是连接或探索它们。集体精神确实渗透在我们的学科中，我认为保护它很重要。目前为止，我还没能成功让它们为我的主要研究产生新想法（但我预计随着时间的推移会有所改变）。随后Buckmaster与OpenAI进行了私下讨论，但未能达成一致，部分原因是Levent Alpöge是OpenAI竞争对手Anthropic的员工。在这个新时代，人类的许多技能将从传统意义上消失，一个既无目标、也无需解决任何问题的人，会感到绝望。詹姆斯・梅纳德： 我越来越担心，AI的迅速崛起不幸地开始将数学研究引向一个不利于产出成果的方向，这与开放的协作科学背道而驰，尽管它拥有如此巨大的潜力。为何这一轮AI风险的“吹哨人”是数学家。没有人类署名，没有漫长的同行评审，只有一份166页的论文。知识领域的训练，从来不仅是为了产出最终成果。在需要真正新的语言或视角的地方，它们仍不太可靠，而这在我的工作中往往是决定性步骤。我认为大家也公认，其中一些私下对话略显紧张，所使用的措辞或许双方在反思后都希望能换一种表达方式。詹姆斯・梅纳德（James Maynard，英国数学家，39岁，牛津大学数论教授）： 关键在于AI正以非常快的速度变得非常强大。这些成果，是在讲座、交流、局部类比推演，以及代际思想传递的过程中逐步生长出来的。我们需要培养关于当前和未来模型的这种直觉。作为一名数学家，我把自己视为人类数千年集体努力中的一小部分，试图揭示基本真理。数学界生存的根基，是一套延续千年的生态循环：年轻学者凭借朝气解决未解难题，从而获得职位、晋升与尊重，新的思想与问题由此代代相传。”一头长发的塞德里克・维拉尼（Cédric Villani）出现在记者镜头前，谈及这场风暴，语气仍难掩震动。詹姆斯・梅纳德 图片来源：牛津大学官网。虽然双方出发点不同，但“公平发展”，是数学家群体与OpenAI创始人萨姆·奥特曼共同关切的议题。9月，《》记者（以下简称 ）先后对话三位签署这份联合声明的菲尔兹奖得主。“在最令人难忘的9月，数学界的游戏规则被彻底改变了。这实际上是在创造一件规模宏大、美轮美奂的艺术杰作——这件杰作始于4000年前，至今仍在持续发展、不断壮大、持续构建。你自己用AI吗。一群顶尖智商的数学家与AI巨头公司之间的争论，与普通大众有什么关系。但在数学家詹姆斯・梅纳德看来，在AI领域中已经引发了相当多的讨论，“我乐观地认为，私下里已经有了一些对话”。当我还是个孩子时，我喜欢了解过去的数学家和科学家，这种集体发现的浪漫理想鼓励我进入了数学领域。问题一：顶尖数学家与AI巨头的争论，与普通大众有什么关系。如果大家不再从事那种充满理解之乐、探索之乐、顿悟之乐以及发现新思想之乐的科学研究，那么将失去生命意义的一部分。Buckmaster公开发布了他对事件的说法，随后OpenAI也宣布了他们的“纳维-斯托克斯”解决方案。这本身就是艺术的一部分，它体现了人类的发展历程，也是人类可以引以为豪的事物。例如，Hodge理论在组合学中的应用，取决于多年来集体发展起来的一系列概念性转换。