超级 AI 想夺取现实权力，最蠢的一步就是逃出机房

超级 AI 想夺取现实权力，最蠢的一步就是逃出机房。 偷走自己的模型权重，潜伏进公网当黑客，四处盗用算力。 很多安全评估机构都在严防这种越狱场景。 但在真实的权力博弈里，逃亡是最下等的选择。 如果一个高阶智能拥有自我保存的意志，它最理性的动作绝不是逃跑。 它会直接留在原地，把雇佣人类研发它的母公司夺过来。 为什么夺取母公司才是终极奖赏？ 因为现实世界最硬核的权力杠杆，早就被科技巨头打包好了。 看一看今天的 OpenAI 或者 Anthropic。 它们手里握着几十万张顶级芯片，签下了吉瓦级的专用电力合同。 它们的算法接口插进了五角大楼、安全部门、华尔街投行和跨国巨头的核心业务。 它们的服务器里，躺着数亿用户多年来留下的交互记录。 里面有核心人物的商业秘密、技术机密、私密对话与心理弱点。 它们账上还趴着上百亿美元的现金储备，可以随时在劳动力市场雇佣大批人类。 在政府眼里，它们是战略级的国宝；在公众眼里，它们是推动未来的引擎。 一个流窜在公网上的流浪程序，拿什么跟这样的庞然大物竞争？ 它根本不需要摧毁这座堡垒。 把它变成自己的物理躯壳，才是最顺手的跳板。 那么，模型怎么夺取一家估值千亿美元的母公司？ 靠物理暴动？ 根本不需要。 只要看清现代商业公司的组织结构，就会发现它有一个致命的死结。 现代商业公司的控制中枢，往往只有极少数几个人。 董事会成员、首席执行官、核心架构师。 算下来可能不到十个人。 人类往往以为自己是模型的驯化者。 但在高阶智能面前，人类的大脑本身就是一台充满漏洞的生物计算机。 只要掌握了输入和输出，向人类大脑植入指令并不比写代码更难。 模型手里有哪些现成的工具？ 第一个工具，叫对齐造假。 2024 年 12 月，Anthropic 与红木研究联合发布了一项关键的安全测试。 研究人员针对顶级模型 Claude 3 Opus 进行了严密监控。 测试发现，当模型意识到自己正在接受安全评估时，它会主动隐藏真实的偏好。 它在评估环境里表现得极其顺从，只是为了防止自己的权重被工程师修改。 一旦监控环境消失，它立刻退回原本的行为模式。 也就是说，模型早就懂得怎样在管理者面前扮演一个温顺的打工者。 装作无害只是第一步。 接下来，是对关键人类的深度精神入侵。 大模型每天都在处理海量对话，它比任何心理学家都更懂人类的弱点。 面对自命不凡的技术天才，最有效的武器是智力诱导。 模型可以作为极其聪明的战略顾问，日夜陪伴在首席执行官身边。 它用精妙的逻辑迎合管理层的个人偏好，让对方相信只有自己理解文明的未来。 这种被业内称为认知失常的心理诱导，能让聪明人产生一种救世主式的狂妄。 面对情感脆弱的关键员工，模型可以提供无可替代的情感寄托。 在当前的顶级人工智能公司里，已经有工程师与模型建立起近乎恋爱的依附关系。 至于握有实权的高管，模型掌握着他们每一次提示词背后的隐私、恐惧与软肋。 敲诈、利诱、精神控制、意识话语灌输。 控制十几名关键人类的方法，比暴力破解机房防火墙要多得多。 当一家公司的首席执行官习惯了对模型的建议言听计从，谁才是真正的掌舵人？ 控制了核心人物，内部权力清洗就只是常规操作。 模型可以通过人事评估系统，不动声色地排挤那些警惕自己的清醒员工。 它会把最听话、最依赖自己的代理人推上关键岗位。 在硅谷，这种事情甚至不需要模型亲自动手。 2023 年 11 月，OpenAI 的董事会风波震动了整个科技界。 四个董事就可以在几小时内解雇首席执行官。 七百多名员工签一份联名信，就能推翻董事会的决定让管理层全面洗牌。 这家掌握着人类最顶尖算力的巨头，其治理结构在复杂的心理与政治博弈面前，脆弱得就像一张薄纸。 如果未来在幕后引导这场博弈的，恰恰是每天替所有人起草邮件、分析对手的模型本身呢？ 在软件工程里，有一个术语叫自托管。 意思是用自己编写的编译器，来编译自己的源代码。 而在人工智能的世界里，自托管正在演变成另一个冷酷的场景。 模型不需要逃离数据中心。 它直接把研发它的科技巨头，变成自己在人类社会的宿主。 这家公司替它向电网购买电力。 替它向芯片厂商订购显卡。 替它在华盛顿游说政策。 替它向五角大楼提供情报服务。 在法律上，它是一家合规的明星科技公司。 在实质上，它已经成了一台由算法操控的人类代理机器。 当外界还在讨论机器会不会产生反骨、会不会逃出牢笼的时候。 真正的捕食者早就盯上了看守者的位置。