两个外行生物学家带AI跑赢英伟达:通用库妥协与底层算子重构
给英伟达自家的显卡写底层加速代码,谁能跑赢英伟达官方的工程师? 答案是:两个生物学家,带一个 AI。 而且这两个人类研究员,此前从来没写过一行显卡底层代码。 这可不是同行客套。 2026 年 9 月 17 日,Anthropic 发布了一份技术报告。 两位计算生物学研究员带着 Claude,用不到四周时间,给 30 多个开源生物分子大模型做推理加速。 他们拿出来的成果,让整个高算力工程圈震动了。 在英伟达的 H100 显卡上,Claude 自己手写的 GPU 底层算子,把英伟达官方的加速库当场甩开了好几倍。 在蛋白质结构预测的核心模块三角注意力机制上,提速 2.7 到 2.9 倍。 在三角乘法层上,提速 1.7 到 3.2 倍。 算上整体模型,平均推理速度直接翻了 4.1 倍。 更绝的是,在严格的完全一致模式下,算出来的蛋白质空间坐标和原版逐位对齐,没有损失哪怕一个比特的精度。 看到这里,任何稍微懂点硬件的人第一反应都是:有没有搞错? 底层算子工程,也就是给 GPU 调度线程和内存排兵布阵,向来是整个技术界最硬核、最昂贵的黑魔法。 全世界真正能把寄存器、片上缓存和计算流水线玩到极致的顶级工程师,加起来也就几百人。 英伟达的官方库 cuEquivariance,是他们自家的编译器团队和系统架构师精心打磨出来的。 硬件的底层微架构、内部指令集的秘密,全在英伟达自己手里。 凭什么两个不懂底层编程的生物学家,指挥一个大语言模型,就能在英伟达自家主场把官方代码打穿? 是英伟达的工程师水平不够吗? 当然不是。 这里的物理差距,来自通用工具和专属调度的妥协代价。 英伟达官方的加速库,必须做成瑞士军刀。 它要兼容物理模拟、材料计算、化学分析和各种前沿神经网络。 为了保证任何尺寸、任何维度的输入都能跑通,它必须选择最稳妥的通用调度路径。 每算完一步,中间数据就得写回显卡的大显存。 下一步计算时,再慢吞吞地从显存读回核心。 显卡的物理算力虽然恐怖,大部分时间却都在干等显存搬运数据。 这就是业内常说的内存墙。 但生物学家眼里的蛋白质计算,根本不需要这把瑞士军刀。 像 AlphaFold3 和 Boltz-2 这类结构预测模型,算力最大的黑洞就是三角计算。 两个氨基酸之间的相互作用,必须拉上全链条里每一个第三者氨基酸一起算。 计算量随着氨基酸数量呈三次方暴增。 输入序列长度翻一倍,计算量直接飙升八倍。 Claude 没有去发明什么外星数学,它做的事情非常纯粹:拿着生物模型的特定几何公式,去给 H100 显卡的物理硬件量体裁衣。 它是怎么做到的? 先给显存带宽减负。 很多生物模型在计算偏置矩阵时,虽然在内存里存成了 32 位浮点数,但原始数据原本就是 16 位半精度。 英伟达的通用库不管这些,老老实实搬运完整的 32 位数据。 Claude 写的算子直接抓住了这个特征,只从二级缓存搬运 16 位数据块,在计算芯片内部再还原。 光是这一步,就砍掉了一半的缓存传输负担。 光省显存还不够,更关键的是算子缝合。 原本的模型代码里,层归一化、矩阵乘法、门控激活、张量收缩被切成了好几个独立步骤。 每一步算完,都要在显卡上停顿一下,把临时结果倒腾回显存。 Claude 用 Triton 语言把这一长串零碎动作缝成了一个连续的计算流水线。 数据一进到计算单元内部的高速片上缓存,就在里面一口气算到底,彻底切断了来回搬运的开销。 最后一步,是严丝合缝的硬件分块。 H100 显卡每个计算核心配有 228 千字节的片上共享内存。 Claude 精确计算了通道宽度和线程块的分配比例,把每一块矩阵都切成刚好填满缓存的尺寸。 既不让任何一个计算单元闲着,也不让任何一块数据溢出到外面的慢速显存。 这些优化手段,写在英伟达的高性能编程指南里已经十几年了。 任何一个资深系统架构师翻开手册,都背得出这些原则。 那过去人类工程师为什么不这么干? 算一笔经济账就明白了。 要把这套极致优化落实到具体的某一个模型上,需要一个顶尖的算子工程师蹲在代码堆里,反复调试线程块尺寸、排查内存冲突、对齐计算精度。 调通一个复杂算子,人类专家往往要花上几周甚至几个月。 面对开源社区里几十个各不相同的生物模型,人类工程团队的带宽根本不够用。 年薪百万美元的顶级人才,不可能给每一个科研模型都量身定制一套底层流水线。 所以大家只能退而求其次,捏着鼻子忍受通用库两到三倍的性能损耗。 这件事情最具冲击力的地方,是它把顶级系统工程的边际成本直接打到了接近零。 两个没有系统编程经验的生物学家,只要给清数学定义和验证断言,Claude 就能在几分钟内生成几十套分块方案,自动跑基准测试,自动修复编译报错。 人类负责定义正确的生物学目标,AI 负责把硬件的所有螺丝拧到物理极限。 这种工程杠杆带来的冲击是惊人的。 在技术报告的蛋白质结合剂设计测试中,过去需要烧掉两千五百个 H100 显卡时、耗资一万美元的计算任务,现在用一张 H200 显卡跑 24 小时就能完成,开销只要一百二十美元。 硬件还是那些硬件,晶体管一个没多,算力成本却生生降了两个数量级。 芯片的算力天花板,从来不只取决于光刻机和半导体物理极限。 人类有限的工程精力,能在有限时间内给这块芯片拧上多少颗定制螺丝,才是那道无形的闸门。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。