AI替人解出了难题,陶哲轩为什么管这批证明叫“有毒废料”?
陶哲轩嫌弃的不是AI解出了题,而是厂商把数学难题当跑分题刷完就走,留下一堆难读、待核验的材料让数学界去收拾。
机器替人类解出数学难题本来是件喜事,陶哲轩却管批量产出的难消化证明叫“有毒废料”(toxic waste)。他不满意的地方很实在:模型厂商把数学难题当成竞赛题目来刷,交出结果就算赢了比赛,但阅读、核验和整理这些材料的账单,最后全落在了数学界头上。
10月23日《观察家报》(The Observer)刊发了这篇访谈,第二天晚上转帖就进了 Reddit 的 r/OpenAI 和 r/singularity 两个社区热门,光 r/OpenAI 一处就盖起了 392 条回复。两边吵得不可开交,其实争的是同一件事:当机器交卷的速度远远超过人类消化的速度,多出来的核验和理解成本该算谁的?
嫌弃“废料”的人,自己也在用AI干活
讨论里有一种省事的读法,把陶哲轩的批评理解成学者怕失业、怕丢掉行业地位。这种猜测绕开了他真正提出的问题,也对不上他平时的做法。
就在访谈刊发的同一天,陶哲轩更新了自己的“AI观点”网页。页面开头明明白白写着,这份总结是由 Claude 整理起草、再由他本人审阅纠正的。一个连整理个人观点都让大模型打下手的人,显然没打算把新工具拒之门外。他在访谈里也认可这批机器做出的结果本身有价值,真正在意的是有没有人理解这些证明,以及拿到了结果之后下一步还能做什么。
在他那份网页里,核验、人的理解和解释被摆在很重的位置。道理不复杂:一个工具就算不完全可靠,只要产出的结果能被验证,它就依然好用;反过来,如果使用者自己不懂里面的内容,就没法独立检查机器给的答案对不对。所以他一边支持用形式化证明工具去核验数学输出,一边希望拿 AI 来增强人的理解。
吵翻天的两派,算的是两本账
顺着这个前提看社区里的争论,就能明白为什么两边各说各话。
看重效率的一派觉得,只要能正确解题,人类的知识边界就往前推了一步,没必要因为证明写得不够漂亮就拦着。有人拿当年电脑下棋赢过人类棋手打比方,觉得学界迟早得适应机器的路数。这话有一半站得住脚:人类确实没理由垄断出题和解题的资格,也不必强求每一份结果都优雅好看。
问题在于,把“好不好读”全当成审美洁癖,就漏掉了后面接着干活的人。
看重理解与核验的一派担心的恰恰是后续怎么接手。数学研究是一环扣一环的,论文之间有严密的依赖关系;如果一批结果没人真正消化,后面的工作就等于叠在一堆没人彻底摸透的前提上。评论区里写代码的人一眼就认出了这种处境——以前我在外包公司写后端的时候,最怕的也不是功能写不出来,而是接手一坨能跑但没人看得懂的代码。后面查错、改需求、往上叠新功能的人,还得弄清当初为什么要这么写。在 r/OpenAI 的讨论里,有人改写了那句老玩笑来调侃这种场面:抱歉写了这么长的证明,实在没时间写个短点的了。
还有一波在 r/singularity 讨论的人把希望寄托在下一次升级上,觉得模型很快就能学会写出更容易读懂的证明。反对的人则觉得,把题解出来和把道理讲明白本来就是两件不同的活,整理本身未必轻松。模型以后能不能自己把证明写明白,现在还只是网友的预测;眼下摆在桌面上的事实是,机器已经能成批交卷,而替它善后的整理工作还没有自动完成。
交卷只是第一步,能接手才算完事
这场数学圈的热闹值得普通 AI 用户看一眼,是因为生成速度跑赢消化速度的尴尬,也会出现在写报告、读材料和改代码的时候。
拿到一个正确的结果、拿到一个能检查的结果、拿到一个能解释清楚并接着往下用的结果,完全是三笔不同的收获。理解需要时间,机器很快把卷子交上来,后面仍要核对真伪、理清脉络。把交卷当成完工,就漏算了接手者的工作。
为机器解出难题鼓掌不亏,但把整理和解释也算进必须交付的工作里,这笔账才算得平。对于平时拿 AI 结果接着做事的人来说,不管是让它写代码、搭方案还是理材料,光要一个能跑通的答案远远不够;让它顺手交出一份你自己能检查、出了错能接手的解释,才不会把自己变成替机器收拾废料的人。
出处(4)
- Terence Tao: AI race turns beautiful mathematics into toxic waste · The Observer
- Reddit r/OpenAI讨论原帖 · Reddit
- Reddit r/singularity讨论原帖 · Reddit
- Terence Tao on AI — a living summary · Terence Tao
内容有误?告诉我们,核实后会更正,并在这里写明改了什么。
评论
还没有人评论,来写第一条。
发表评论