泄密草案里的 50 人门槛:Anthropic 悄悄递给国会的,到底是 AI 安全还是免死牌照?
一家天天把安全挂在嘴边的 AI 巨头,私下给美国国会写了一份法律草案。 里面白纸黑字写着一个叫停模型的硬门槛: 只有当前沿模型眼看要杀死或者重伤超过 50 个人,或者造成超过 10 亿美元的经济损失,政府才有权强行叫停。 很多人看到这里当场就炸了。 死了 49 个人怎么办? 损失 9 亿 9000 万美元呢? 按这版草案,只要没到 50 条人命,联邦政府连拔电源的资格都没有。
2026 年 10 月,Politico 独家把这份文件捅了出来。 这是 Anthropic 悄悄送到国会山议员和幕僚手里的联邦人工智能安全法案草案。 公众的第一反应全是在骂荒唐: 把人命明码标价,50 个人到底是怎么算出来的? 但如果你把这件事当成大公司高管的狂妄,那就太小看国会山的游戏规则了。 这根本不是算数算糊涂了。 顺着这几十页草案一条条往下拆,整部法案的设计极其缜密。 草案通篇写满安全,保的全是大模型公司自己。
第一道锁,就是这道高得吓人的门槛。 草案白纸黑字限定,政府要介入,光有 50 条人命或者 10 亿美元损失还不行。 这种灾难级后果,必须严格来自三个极窄的源头: 制造或释放生物武器; 发起重大网络攻击; 或者模型脱离开发者控制自主逃逸。 发现玄机了吗? 现实中人们最关心的那些伤害,深度伪造、金融欺诈、算法歧视、侵犯版权、虚假信息,在这张清单里全都不算数。 哪怕一个模型被黑灰产拿去卷走几十万普通人的积蓄,只要没碰生物武器,只要没瞬间弄死 50 个人,任何监管部门都无权叫停它。
第二道锁,也是杀伤力最大的一招:联邦优先权。 Anthropic 为什么放着商业竞争不顾,花大精力去国会山游说立一部联邦法? 因为全美各个州已经开始动真格了。 加利福尼亚州前有闹得沸沸扬扬的 SB 1047,后有要求定期交安全报告的 SB 53;纽约州也在酝酿严格的新法规。 对大模型公司来说,最头疼的就是五十个州各搞一套。 今天加州检察长上门调查,明天纽约法院开出巨额民事赔偿,地方陪审团可不会对科技巨头手下留情。 怎么破局? Anthropic 在草案里塞进了一条极其关键的条款: 联邦法律具有绝对优先权。 只要国会通过了这部法,全美所有州一级的人工智能安全法规、公开披露要求,当场全部作废。 五十个州织成的大网,瞬间被这把联邦大伞一把抹平。
第三道锁,是给联邦行政部门全部缴械。 在现有的美国体制里,联邦贸易委员会能管虚假宣传,司法部能查不正当竞争,证监会能查市场操纵。 但 Anthropic 的草案直接立了一条死规矩: 明确禁止任何其他联邦部门、机构或官员,中止模型的研发、部署和内部使用。 监管的通道被压缩得只剩一条窄缝。 只有在联邦商务部注册的独立评估机构,才能对模型进行定期体检。 就算真发现了 50 人死亡或 10 亿美元损失的迫切风险,评估机构也只有 72 小时向商务部通报。 商务部收到报告,自己甚至都不能下行政命令强行关停。 他们必须跑去华盛顿特区联邦地方法院,向法官申请民事禁令。 法官不点头,谁也别想拔掉服务器的插头。
把这三道锁串起来看,逻辑就全通了。 第一步,把监管干预的门槛拉高到科幻片级别的世界末日,把绝大多数日常商业风险直接踢出门外; 第二步,借联邦优先权的大旗,把五十个州蠢蠢欲动的地方法规一网打尽; 第三步,把行政裁决权从各监管机构手里剥离,锁进商务部和华盛顿特区特定法庭的漫长诉讼程序里。
Anthropic 在 2021 年成立的时候,打的就是与 OpenAI 截然不同的旗号。 达里奥·阿莫代带着几位核心创始人嫌老东家为了商业利益跑得太快、不顾人类安危,愤而自立门户。 他们把公司注册成带有公共利益性质的架构,对外宣扬负责任的扩展政策,拿到了亚马逊和谷歌几十亿美元的重金押注。 在公众面前,他们是把安全刻进骨髓的守护者。 可一旦走进立法者的办公室,道德光环立刻变成了最锋利的商业武器。 很多人以为他们在研究怎么把大模型关进笼子。 但在现实里,最聪明的做法是抢先替笼子设计一把锁。 把锁孔造得极高,把钥匙攥在自己熟悉的少数几个人手里。 在聚光灯下这是保卫人类的崇高法案,在公文包里,这是一张抢跑定制的免死牌照。
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。