烧光对手显卡？奥特曼给OpenAI员工盘点的三种AI安全终局

怎么防止世界上有人造出一个失控毁灭人类的超级 AI？

硅谷内部私下讨论过的终局方案里，有一个极端的版本： 谁先造出来，谁就动手把全世界所有对手的显卡全烧了。

这还真不是哪个科幻作家在写小说。 上周，科技媒体 The Information 披露了一场 OpenAI 的内部员工大会。 首席执行官山姆·奥特曼（Sam Altman）站在台上，给员工盘点了行业内部推演过的三种安全终局。 烧光所有对手的显卡，正是第三个。 奥特曼补了一句：这是一个糟糕的方案，拿出来讲只是为了推演的完整性。

但你仔细琢磨一下就会发现，事情很有意思。 为什么世界上估值最高的一线 AI 公司，会在全员会上正儿八经把这么一个听起来像终结者剧情的方案摆上台面？

事情得从前两个看起来很正常的方案说起。

第一个方案，叫“国际原子能机构模式”。 国际原子能机构就是常说的 IAEA。 奥特曼本人最推崇这个。 过去两年他坐着私人飞机跑遍几十个国家，到处见首脑，兜售的就是这套监管思路。 逻辑听起来顺理成章： 当年为了防止核扩散，全世界成立一个独立机构，专门去各国检查反应堆、数离心机。 现在造超级智能需要几十万张高端显卡和上千兆瓦的电力，国际机构也去查数据中心。 谁家的训练算力越过了红线，谁就得接受强制安全审计。

听上去很靠谱，对吧？ 但它碰上了一个根本迈不过去的坎：核材料和芯片完全是两码事。 造原子弹需要高浓缩铀，铀 235 的物理提纯极其困难，几千台高速运转的离心机藏都藏不住，卫星一眼就能看出来。 显卡呢？ 显卡是通用计算芯片。 同一个万卡集群，今天跑好莱坞电影特效，明天算生物蛋白质结构，后天就能拿去训自主进攻的网络武器。 你派谁去查？ 哪个大国会把自己的国防机房、核心电网和商业机密，敞开给日内瓦的国际检查员看？ 查不过来，这条路在现实里就成了空中楼阁。

于是就有了第二个方案，行业里有人叫它“德米斯方案”。 德米斯就是谷歌旗下 DeepMind 的掌门人德米斯·哈萨比斯（Demis Hassabis）。 他的设想是照搬欧洲核子研究组织（CERN）的经验。 当年几十个国家谁也单挑不起几十亿美元的研究成本，于是干脆合伙在地下挖了一条 27 公里的隧道，造出大型强子对撞机。 德米斯的意思是： 既然各自关门研发容易失控，那干脆让全球最顶尖的几家实验室直接合并，组成一个跨国科研联合体。 大家在一个池子里堆算力、写算法，一起安全地把超级智能造出来，再把模型能力分给各个国家。

这套设想更浪漫，但也死得更快。 为什么？ 因为强子对撞机造出来只能撞出希格斯玻色子，发几篇物理学论文，它变不成万亿美元的商业利润，也变不成瞬间打穿对手金融系统的武器。 超级智能不一样。 微软投了一百多亿美元，亚马逊和谷歌各自囤了数十万张显卡，背后的商业利益早已大到了没有退路的程度。 谁会把自己估值几千亿的护城河交出来，去听一个国际委员会的集体表决？

前两条温和的路都被堵死了。 第三个方案就不得不浮出水面。

这个方案在圈子里被称为“埃利泽方案”。 埃利泽·尤德考斯基（Eliezer Yudkowsky）是 AI 风险圈子里最出名的学者。 他的逻辑极其冷酷： 超级智能一旦学会自我改进代码，它的演进速度就不是人类能跟得上的。 只要有一家在没有彻底解决对齐问题的前提下抢先放跑了模型，全人类可能瞬间玩完。 在这种生死赌局里，你怎么指望别的国家或竞争对手能守规矩？ 指望不上。 所以他推导出的解法是：谁先跨过终点线，谁就必须立刻执行一次绝对的“关键行动”。 什么是关键行动？ 利用这个超级智能压倒性的技术代差，发起全面的网络突袭，把全世界所有竞争对手的服务器、电网和显卡集群，直接过载烧毁。 物理上把全世界的显卡烧光，就再也没有人能造出失控的竞品。

听起来毛骨悚然。 奥特曼也骂它糟糕。 但在博弈论里，当所有人都在假定“一旦输掉就会灭亡”的时候，先发制人就成了理论上唯一的自保逻辑。 这就是为什么奥特曼会在全员会上把这句话念出来。

现实里的各方力量已经在按最残酷的假设做准备。 白宫早就不信什么日内瓦式的国际清谈。 川普团队正在迅速搭建针对超级智能开发者的国家安全监管框架，让情报和国防部门直接进驻一线大厂，建立自愿与行政监管并行的安全机制。 核心诉求很直白：美国必须赢，算力和供应链必须在本土死死守住。

显卡当然不会真的被一把火融化。 但奥特曼在全员会上摆出来的这三种推演，把所有人都不愿明说的困境摆到了桌面上。 当一件武器的杀伤力大到无法承受第二名存在的时候，和平从来不靠条约，只能靠谁跑得更快。