硅谷最会讲“安全”的 AI 公司 Anthropic,近日在华盛顿被上了一课。 它突然发现:自己会训练模型,但根本不会训…
硅谷最会讲“安全”的 AI 公司 Anthropic,近日在华盛顿被上了一课。
它突然发现:自己会训练模型,但根本不会训练政府。
Fable 5 越狱这事,绝非纯粹的技术事故,这是一场政治惨案。
来,看看亚马逊(Amazon)是怎么背后捅刀的。 亚马逊发现 Anthropic 最强的 Mythos 和 Fable 模型有越狱风险,根本没找 Anthropic 商量,直接一状告到了财政部长 Scott Bessent 那里。
告御状的效果立竿见影。 白宫听到的版本是:Anthropic 明知道模型有国家安全风险,还照样分发。 Anthropic 自己还懵着呢:我们明明得过政府批准啊,怎么就成同谋了?
其实,川普 6 月 2 日发布的 AI 网络安全行政令,已经写得很宽容了:不搞强制牌照,不搞预审,给足硅谷创新空间。 但前提是:国家安全的门,必须由政府来把。
Anthropic 偏偏一头撞在这道门上。
这家公司平日里的人设,是“最懂 AI 风险、最支持监管、最讲道德安全”。 可当国家安全官员真拿国家安全逻辑来质问时,他们却露出了硅谷标志性的傲慢: “你们不懂技术。”
在硅谷,这叫极客范儿。 在华盛顿,这叫自寻死路。
国家安全场景里,聪明不稀缺,“可托付性”才最稀缺。
Anthropic 之前为了显摆,自己写报告说:我们的模型已经能发现上万个高危网络漏洞了,而且目前没有任何开发者有能力 100% 拦住它被滥用。 这话放在行业会议上叫“有社会责任感”。 放在国安官员的会议室里,这等于在承认:我们手里有个随时会失控的核弹。
官员们不关心你的论文有多漂亮。 他们只会问:谁批准的?谁能看见?出了事谁负责?
最妙的还在后面。 Anthropic 为了自证清白,找了网络安全专家来写报告反驳亚马逊。 结果,他们找的这位专家,在川普团队眼里,是个“极左民主党激进分子”。 更绝的是,跟川普决裂的前官员 Chris Krebs 还跑出来公开给这位专家点赞。
技术圈觉得:这是权威背书。 川普团队觉得:这是政治挑衅。 你在用我们最讨厌的一群人,来命令我们“不必担心”。
这就是 Anthropic 输掉整个房间的原因。
当双用途技术走到国家安全门口时,“安全许可”看代码,也看你的身份、姿态、历史、盟友,以及危机发生时你到底和谁站在一起。
你可以觉得这很政治,但国家安全从来不按纯技术逻辑运转。 芯片管制如此,加密技术如此,AI 也一样。
前沿 AI 公司的护城河,正在从参数、算力和数据,延伸到一件最古老、也最残酷的东西上: 政治可托付性。
下次再看 AI 公司 and 政府掐架,别傻傻地研究谁的算法更好。 先看清楚,在这张桌子上,谁才握有真正的“信任牌照”。