{"id":"mb-20261023-f5fbdd","kind":"deep","title":"当 AI 开始用数学证明代码：Anthropic 与 Theorem 如何改写软件零缺陷的工业账本","summary":"过去几十年来，要用形式化验证在数学上证明软件绝对不死机，往往需要顶尖专家耗费数十人年。Anthropic 联合 Theorem 借助 Claude 为 123 个开源库编写了一亿八千万行形式化证明，在 RISC-V 汇编层面锁死安全边界，并将不可行的人力成本转化为可扩展的自动化算力。","body":"要怎么保证一段程序在任何情况下绝对不死机？\n\n跑几万亿次测试够不够？\n\n不够。\n\n谷歌给全球上百个核心开源软件做自动化测试，每天灌入天文数字的随机畸形数据。\n\n跑了整整好几年，代码里依然不断被揪出内存破坏和崩溃漏洞。\n\n因为测试跑得再多，也只能说明你试过的输入没出事。\n\n它永远回答不了一个问题：万一某个极端情况你没测到呢？\n\n在计算机科学里，能彻底解决这个问题的，只有形式化验证。\n\n它不用随机数据去撞大运。\n\n它把代码当成数学题，用严格的符号逻辑，一步步推导出程序在任何合法输入下都不可能崩溃。\n\n听起来很完美。\n\n但在过去几十年里，它几乎只活在航天飞机、核电站控制和绝密军工里。\n\n原因只有一个：太贵了，贵到人类根本写不起。\n\n世界上最著名的一个高安全微内核叫 seL4，核心代码也就一万行 C 语言。\n\n为了给这一万行代码写出完整的数学证明，顶尖计算机科学家团队硬生生耗费了整整二十个人年。\n\n二十年顶尖专家的工时，才换来一万行代码的安全保证。\n\n现实里的开源基础库动不动几十万行，没人耗得起这种成本。\n\n绝大多数工程师只能接受现实：只要代码还在跑，里面就一定有漏洞。\n\n但事情最近起了变化。\n\nAnthropic 联手专门做形式化验证的机构 Theorem，把这道世纪难题扔给了 Claude。\n\n在几个星期的时间里，Claude 写出了大约一亿八千万行形式化证明代码。\n\n它一口气覆盖了 123 个主流开源代码库，拿下 239 个关键入口。\n\n在 RISC-V 汇编和 Linux 进程这个最底层的执行级别上，直接给出了严密的数学保证：\n\n只要输入数据在 64 MB 以内，这些程序在单线程静态运行中，绝对不会发生任何内存越界、断言失败或者意外崩溃。\n\n一亿八千万行？\n\n写过代码的人听到这里，第一反应肯定是怀疑。\n\n大语言模型经常胡说八道，它写出来的一亿多行证明，谁敢信？\n\n谁又能一行一行去肉眼审查？\n\n这恰恰是整个机制最巧妙的地方。\n\n根本不需要人类去审查。\n\nClaude 写的是专门用于数学验证的 Rocq 形式化证明语言。\n\n在形式化证明的世界里，有一个铁面无私的独立裁判：证明内核。\n\n这个内核的代码非常精简，只认最纯粹的逻辑推理公理。\n\nAI 可以在前面天马行空地写推导，但所有的证明最终都要送进这个内核编译。\n\n只要推导里有一丝逻辑跳跃、断层或者幻觉，内核立刻报错拦截。\n\n只要内核顺利通过编译，在数学上这就叫已证明定理，铁证如山。\n\n也就是说，AI 依然可能产生幻觉，但数学验证器拥有绝对的否决权。\n\n更绝的是写证明的过程。\n\n数学证明不是做选择题。\n\n如果程序本身就带着漏洞，逻辑链条在数学上是无论如何都闭合不上的。\n\nClaude 在推导过程中，经常遇到怎么写都证明不了的死胡同。\n\n退回去一查，证明思路并没有错，是被测的开源代码里真有潜伏很深的缺陷。\n\n靠着这种数学推导的倒逼，Claude 在这批被全世界测过无数遍的开源库里，硬生生挖出了几百个隐藏极深的深层缺陷。\n\n它把发现的漏洞标了出来，顺手打了补丁，然后接着把剩下的数学证明推导完毕。\n\n那这是不是意味着，以后所有软件都可以一劳永逸了？\n\n现实的工程限制依然摆在眼前。\n\n最直接的门槛是算力消耗。\n\n机器推导数学证明极其耗费资源，某些复杂一点的底层程序，光验证一个入口就吃掉了一亿多个标记。\n\n另一个限制是应用场景。\n\n这次的数学证明是在明确边界下成立的：RISC-V 架构、Linux 静态二进制、单线程，外加 64 MB 的输入大小。\n\n真要面对现实生产环境里错综复杂的多线程并发和网络环境，状态空间会以天文数字膨胀。\n\n但它彻底改写了一笔算了几十年的经济账。\n\n以前给一万行代码做证明，要搭进去二十个人年，把形式化验证变成了只有航天和密码学才用得起的奢侈品。\n\n现在的模式是：人类定义好安全规约，大模型在几周内批量生成上亿行数学逻辑，再由一个极小的验证器一秒敲定。\n\n天价的顶尖人力，变成了可预测、可扩展的算力开销。\n\n当写数学证明的边际成本不断被压低，我们用了几十年的软件开发规则，正在从靠测试碰运气，慢慢走向拿数学做保证。","topic":"当 AI 开始用数学证明代码：Anthropic 与 Theorem 如何改写软件零缺陷的工业账本","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-23 20:24:09","legal_anchor_count":0,"transcript_citation_count":0,"seo_title":"当 AI 开始用数学证明代码：Anthropic 与 Theorem 如何改写软件零缺陷的工业账本","description":"过去几十年来，要用形式化验证在数学上证明软件绝对不死机，往往需要顶尖专家耗费数十人年。Anthropic 联合 Theorem 借助 Claude 为 123 个开源库编写了一亿八千万行形式化证明，在 RISC-V 汇编层面锁死安全边界，并将不可行的人力成本转化为可扩展的自动化算力。","domain":"software","domain_label":"软件与工程","domain_label_en":"Software & Engineering","domain_url":"https://mubeitech.com/deep?domain=software","canonical_url":"https://mubeitech.com/deep/mb-20261023-f5fbdd","markdown_url":"https://mubeitech.com/deep/mb-20261023-f5fbdd/markdown","json_url":"https://mubeitech.com/api/interpretations/mb-20261023-f5fbdd","published_at":"2026-10-23T20:24:09Z"}