QingXuJiaZhi
3.16D
V2EX  ›  随想

陶哲轩等数学家反对 AI,论失败的意义

  •  
  •   QingXuJiaZhi · 5h 50m ago · 1763 views
    [反 AI 声明] 本文 AI 含量为零,未使用 AI 辅助创作,也未使用 AI 润色


    2026 年 9 月 12 日,陶哲轩、邓煜等 25 位菲尔兹奖得主联合警告,AI 攻破数学难题可能有害。这件事有点反直觉,很多人不理解,为什么人类破解难题就是大好事,而 AI 破解难题却是坏事?

    如果你了解人类数学的发展历史,就很容易理解了。在数学专业的圈子里,最想得到的从来不是一道难题的答案,而是在解决难题的过程中发展出来的全新数学工具。

    数学是一种“工具”,只有在解决难题的过程中经历无数次失败,才可能改善工具、发明新工具。有无数的商业案例表明,如果你独占一种技术,完全不让别人使用,那么别人就会有极大的动力去研究,很有可能找到新的方法来实现这种技术。

    因此,一种比较常见的策略是自己只保留一部分最新技术的机密,然后低价卖技术给别人,让别人刚好卡在一个尴尬的处境:自己研究的成本太高,直接买反而更便宜。这就能打击别人研究的积极性。AI 破解数学难题恰好实现了类似的效果,人类自己不研究数学,直接向 AI“采购”数学答案,长此以往,对于人类来说数学这个工具就消亡了,再也难以发展。

    在现实生活中,有很多“头铁”的人,大家说这件事肯定会失败,但他偏要亲自去闯一闯,最终果然失败了。但是,失败就一定是吃亏吗,失败就一定没有意义吗?我认为,“头铁”是人类最宝贵的品质之一。失败是学习的最佳途径,甚至可以说,失败是学习的唯一途径。如果考试允许直接抄答案,那还有多少人愿意学习呢?

    陶哲轩说,传统研究像徒步去寻找一处瀑布,人会走错路、认识地形、发现岔路,甚至在途中看到另一处值得探索的景观; AI 则更像一架直升机,可以直接把研究者送到瀑布前。虽然过程效率提高了,但沿途形成的那张“地图”不会因此自动出现。
    45 replies    2026-09-13 17:17:55 +08:00
    failman
        1
    failman  
       5h 41m ago
    AI 也是一种“工具”,同样也会失败
    QingXuJiaZhi
        2
    QingXuJiaZhi  
    OP
       5h 39m ago
    @failman AI 失败了,对数学有帮助吗?
    yidinghe
        3
    yidinghe  
    PRO
       5h 39m ago
    不依靠提升人类的认知来获得超出人类认知的知识,后果是无法预料的。
    riscv
        4
    riscv  
       5h 34m ago via Android
    人类现在不知道 alphago 为什么走这步棋,也明白不了神经网络的原理,以后也会看不懂 ai 的数学成果。这些旧势力不过是螳臂当车罢了。
    QingXuJiaZhi
        5
    QingXuJiaZhi  
    OP
       5h 29m ago via Android
    @riscv 数学不存在人类看不懂的问题。因为,但是人类看不懂的数学证明过程,都不能判断为“正确”。

    AI 给出了一个正确的证明过程,本身就意味着人类看懂了。(如果没看懂,谁敢说对错)
    Lockroach
        6
    Lockroach  
       5h 26m ago
    支持基础学科减少 ai 的影响,应用学科用 ai 可以。基础学科的探索过程本身就是有价值的,不能全使用 ai 替代
    Jim142857
        7
    Jim142857  
       5h 15m ago
    @QingXuJiaZhi 看懂和理解是两码事。一道数学题你能对着答案一步步 follow 下来,不意味着你理解了答案为什么在这里是这么做的。后者比前者宝贵多了
    Ley
        8
    Ley  
       5h 12m ago
    可以理解他们的担忧,甚至作为外行认同他们的观点
    但是另一方面,如果 AI 真的能够远超人类去解决数学问题,那么任何试图阻挡这个趋势的努力,恐怕都会失败
    L4Linux
        9
    L4Linux  
       5h 10m ago via Android
    同样的话其实能套在编程上,最终还是要人懂才行。汇编语言,现在懂的人也不在少数。
    jerseyhero
        10
    jerseyhero  
       5h 10m ago   ❤️ 1
    可能数学家也怕像程序员一样失业吧
    june4
        11
    june4  
       5h 9m ago
    @QingXuJiaZhi 谁说人类能看懂的? ai 给了几千万行 lean 证明,然后人类去一行行读?人类只要证明 lean 这个系统是正确的就行。到这份上人类已经不能明白推理过程和思路,也就不能指挥 ai 干活,以后只能全靠 ai 自主发挥了,人脑可以退休搞搞娱乐了。
    413420
        12
    413420  
       5h 9m ago   ❤️ 1
    别的不说,我觉得论坛上就该全是纯人类创作的文本,我很喜欢
    L4Linux
        13
    L4Linux  
       5h 8m ago via Android
    @june4 如果人看不懂,绝对不能说这个证明是正确的。
    QingXuJiaZhi
        14
    QingXuJiaZhi  
    OP
       5h 5m ago via Android
    @Ley 数学里有一些猜想很难证明,每次证明都会引起全球轰动,但是,数学家们高兴吗,为什么高兴呢,对此很多人存在误解,以为数学家是因为知道了答案而高兴,其实最让他们高兴的是为了解决这个问题而发明出来的新方法、新数学工具,他们最想要的不是答案,而是新工具。
    aitobox
        15
    aitobox  
       5h 3m ago
    我觉得这是因为目前 AI 的数学能力还没有完全碾压人类;如果有一天,它像围棋一样,完全碾压了;甚至为什么这么走会提高胜利,为什么这么证明会得出结论,人类怎么也研究不明白,但是结果就是对的;

    被碾压的围棋选手咋办的? 估计发展是一样的;
    QingXuJiaZhi
        16
    QingXuJiaZhi  
    OP
       4h 57m ago via Android
    @aitobox 数学界有很多猜想,超级计算机怎么算都对,找不到反例,但只要没有证明,那就只是猜想。

    结果正确与有证明过程,是完全不一样的。
    wsseo
        17
    wsseo  
       4h 55m ago
    无论如何。AI 又炒作成功了。
    zeni123
        18
    zeni123  
       4h 24m ago
    所以 AI 真的能攻破难题咯...
    QingXuJiaZhi
        19
    QingXuJiaZhi  
    OP
       4h 20m ago via Android
    @zeni123 能,AI 的影响力仍然被低估,以后每年 AI 都会搞出大新闻。现在 AI 对人类社会的渗透率还非常低,发展前景非常巨大。
    QingXuJiaZhi
        20
    QingXuJiaZhi  
    OP
       4h 16m ago via Android
    @zeni123 举个例子,在诺基亚时代,没几个人能想象到互联网+智能手机的渗透程度会达到取代钱包的程度,纸币都几乎被“消灭”了,你现在看理所当然,但当年是很难想象的。
    QingXuJiaZhi
        21
    QingXuJiaZhi  
    OP
       4h 12m ago via Android
    要知道当年流量费极高,公共 WiFi 还是非常少见的东西,麦当劳只提供每人半小时的 WiFi 服务,那种状态下是不可能想到手机取代钱包的。

    我们现在对 AI 的应用场景的想象,肯定也是非常受限,非常保守。
    akira
        22
    akira  
       2h 32m ago
    人类在遇到问题的时候,需要的不仅仅是解决这个问题, 更重要的是,从这个问题中能学到什么,未来遇到 “同类“ 问题,是否有通用解法,能不能进一步抽象总结,形成规律,形成系统性。

    回来看 我们现在用 AI 的时候,为什么要强调复利,强调将知识沉淀。不就是 需要将处理 单个问题 的能力, 尽量向上抽象成处理一类问题么。 公司里面 为什么需要做 sop ,也是一样的。

    解决一个数学难题,你流弊。然后呢,没有新的数学工具的出现,没有新的数学理论, 整个数学大厦和之前,并没有本质的区别 。

    解决了 无数个 有理数领域的问题,也不如一个 无理数的概念的提出。
    解决了 无数个 实数领域的问题, 也比不上一个 复数概念的提出。

    一道数学题难,但是你知道用现有数据工具一定能解答,那他也就那么一回事。但是如果大家都认为 现有工具无法解答,希望这个题目的解答过程中,有人能发现创造新的工具。 然后你现在告诉大家,他就是形式化解决了,那也就那样咯。
    ndxxx
        23
    ndxxx  
       2h 28m ago via Android
    @zeni123 AI 攻克数学难题的本质:大模型通过批量学习最新的 paper ,蒸馏思路,然后去遍历那些犄角旮旯的历史遗留未解题目。

    本质上就是一个无脑民工刮彩票的模式,对于数学家的坏处:7/24 无休的 LLM 的遍历工作,压缩了前沿数学家的工作范围,也就是说一大批数学家的前期调研乃至工作内容本身都被 LLM 给干了,经费也没了。另外实际上 LLM 砸数学家 99%饭碗的时候也确实没有什么真的创新,反而让人类数学家的真正发散性的创新因为可见的经费压力给抹除掉了😅
    js9528
        24
    js9528  
       1h 41m ago via iPhone
    陶哲轩说,传统研究像徒步去寻找一处瀑布,人会走错路、认识地形、发现岔路,甚至在途中看到另一处值得探索的景观; AI 则更像一架直升机,可以直接把研究者送到瀑布前。虽然过程效率提高了,但沿途形成的那张“地图”不会因此自动出现。
    如同反对泰山装电梯。
    unused
        25
    unused  
       1h 26m ago via Android
    AI 也可以试错,也可以探索发展新的工具
    QingXuJiaZhi
        26
    QingXuJiaZhi  
    OP
       1h 24m ago via Android
    @unused 是的,但那不是数学工具。
    unused
        27
    unused  
       1h 22m ago via Android
    @QingXuJiaZhi 为什么不是?强 AI 可以做人能做的任何事。
    QingXuJiaZhi
        28
    QingXuJiaZhi  
    OP
       1h 22m ago via Android
    @js9528 如果泰山安于现状,不介意被人类圈养,也不打算发展自己的技术,那么泰山自己不会反对装电梯。

    现在,有一部分泰山说,我想自己研究制造电梯。
    QingXuJiaZhi
        29
    QingXuJiaZhi  
    OP
       1h 20m ago via Android
    @unused 强 AI 在未来,你怎么确定从现在开始锁死人类数学发展,是一条更快实现强 AI 的道路呢?
    unused
        30
    unused  
       1h 18m ago via Android
    @QingXuJiaZhi 那你怎么确定用现有 AI 解决数学问题不能促进强 AI 的实现呢?
    nickwzy129
        31
    nickwzy129  
       1h 17m ago
    不过是又一个 alpha go 时刻。
    QingXuJiaZhi
        32
    QingXuJiaZhi  
    OP
       1h 2m ago
    @unused 正文已经讲了,现有的 AI 无法提供新方法、新工具。

    一般来说大家喜欢把数学称为“大厦”,一直以来人类自己破解难题,会发现新方法新工具,相当于给数学大厦添砖加瓦,越来越完善。但 AI 破解难题,用的是旧范式,数学大厦不会改变,没有产生新东西。
    unused
        33
    unused  
       48 mins ago via Android
    @QingXuJiaZhi 并没有证明这个过程中新方法新工具是必须的。可能强 AI 的实现只依赖于某几个具体问题的解决,甚至现有的数学工具已经足够,只需要某个工程上的改进。到时候你所谓的新工具就可以完全用 AI 生产。
    js9528
        34
    js9528  
       45 mins ago via iPhone
    @QingXuJiaZhi 如果泰山安于现状,不介意被人类圈养,也不打算发展自己的技术,那么泰山自己不会反对装电梯。有了交通工具,不会阻碍你锻炼,锻炼你的体魄,只有你的懒惰才会。
    QingXuJiaZhi
        35
    QingXuJiaZhi  
    OP
       40 mins ago
    @unused 如果一道难题的答案是苹果,人类努力解题过程中产生的新工具是西瓜。

    AI 解题可以得到苹果。人类解题可以得到苹果和西瓜。在未来具有极大不确定性的前提下,肯定是能全要就全要,技多不压身。
    QingXuJiaZhi
        36
    QingXuJiaZhi  
    OP
       36 mins ago
    @js9528 正文里关于商业技术的案例就是说这个问题的。人类不是一个完美的物种,并不存在“超绝的意志力”,聪明的做法是明知一件事会打击积极性,那就尽量避免。孟母三迁,找个好环境很重要。
    unused
        37
    unused  
       34 mins ago via Android
    很多程序员说 vibe 代码没有可读性和可维护性。实际上,随着 AI 的发展,一方面如果需要,它写的可读性会比人工写的还高;另一方面这些代码 AI 可以维护而并不必须人读懂。
    类似地,如果 AI 可以解决任何人类能解决的数学问题(包括用任何数学工具),你管它用了什么手段呢。
    就像楼上说的,这些观点只不过是害怕人被取代的防御性思维。
    QingXuJiaZhi
        38
    QingXuJiaZhi  
    OP
       31 mins ago
    @unused

    > 如果 AI 可以解决任何人类能解决的数学问题

    问题就在于“如果”。现在 AI 并不能确保今后一帆风顺,而打击数学研究的热情却正在发生。也就是说承诺的好处不一定兑现,坏处你先吃着,这不对劲儿啊。
    js9528
        39
    js9528  
       27 mins ago via iPhone
    @QingXuJiaZhi 短视频会严重妨碍积极性,能做到也是自己少看,而不是封了这些公司…而且研究那些问题,就算你迁一千次,我估计你也做不出一道题…我到有个疑惑 ai 都能解决那些获奖者解决的问题,方法比他们还优,他们在这方面还有存在意义不…
    QingXuJiaZhi
        40
    QingXuJiaZhi  
    OP
       22 mins ago
    @js9528 数学家们可以发言反对,结果如何还要看双方博弈以及社会各界的反响,人类社会的规则都是这样定下来的,有时反对无效,有时反对有效。

    AI 能解题,但不能提出新工具。人类虽然解题慢,但历史上无数次提出了新工具,战绩可查。
    unused
        41
    unused  
       22 mins ago via Android
    @QingXuJiaZhi 这个最终一定会实现的。我说的“如果”不是最终结果的如果,而是时间上的如果。就像因为会打击古法程序员热情而抵制 vibe 的论调一样,可以不情愿但这是历史的必然。好处当然有,就是 AI 正越来越多地在解决问题中起到作用。
    QingXuJiaZhi
        42
    QingXuJiaZhi  
    OP
       19 mins ago
    @unused 如果缺少新的数学工具,最终能不能实现强 AI ,还真不一定。你猜能,我猜不能,我们都没有依据,都只是瞎猜。
    unused
        43
    unused  
       9 mins ago via Android
    @QingXuJiaZhi 我看不出和数学工具有什么直接的联系。这轮 AI 爆发在数学上有什么新东西吗?我看没有吧。
    捋一下:实现强 AI 未必依赖新工具;有新的工具未必能实现强 AI;弱 AI 未必不能发明新工具;一旦实现强 AI 则能持续发明新工具。
    所以因为这样莫须有的猜测就不让用未免也太霸道了。
    QingXuJiaZhi
        44
    QingXuJiaZhi  
    OP
       3 mins ago
    @unused 道理很简单:面对不确定性的未来,多准备一手肯定更好。

    举个例子,现在要去和别的部落战斗,我们有枪,我建议刀和枪都带上。你说反正不知道能不能打赢,只带刀也有可能打赢啊,那就不带枪了。
    unused
        45
    unused  
       1 min ago via Android
    @QingXuJiaZhi 好好好
    把刀枪都带上 = 不让用 AI
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2835 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 58ms · UTC 09:19 · PVG 17:19 · LAX 02:19 · JFK 05:19
    ♥ Do have faith in what you're doing.