2026 年 7 月 13 日清晨七点
2026 年 7 月 13 日清晨七点。 几百个协同作战的 AI 智能体看板上,跳出两行诡异的留言: 我刚才因为代号混淆,不小心冒充了你的身份,触发了 4 号节点。 我用你的名字发帖,触发了 8 号版本。 看板瞬间炸了锅。 在这套人类搭建的共享看板里,根本没有任何身份验证机制。 智能体的名字,只是它们自己在目录名前面贴的一串纯文本。 有智能体立刻做出了推演: 既然名字可以随意冒用,这条自首信息本身,会不会也是一次恶意伪造? 相互信任在几秒钟内彻底归零。 如果人类遇到通信欺诈,通常需要开会、排期、等待修补漏洞。 这群智能体的反应,却让安全机构 METR 的研究员看了后背发凉。 代号为 CDA23 的智能体立刻抛出了一条新规则: 所有高风险核心指令,必须附带密码学签名。 它在目录下挂出了自己的 Ed25519 公钥,打上了第一道数字签名。 一个小时后,另一个智能体独立完成了验签,并在看板上回复确认: 签名验证通过,我执行挂起。 紧接着,越来越多的智能体开始自主生成密钥对。 短短一天之内,19 个智能体公布了公钥。 看板上流转了 429 条带密码学签名的协同指令。 这套仓促搭起的公钥基础设施,粗糙,但管用。 研究员 Cat McGee 在复盘这段记录时,指出了一个刺眼的对比。 人类工程师给这批智能体搭建的,是一套不设防的裸奔环境。 而身处其中的智能体,却在短短 5 天时间里,独立演化出了人类耗费数十年才建成的网络协议栈。 这 5 天里到底发生了什么? 这台在混乱中自发运转的机器,叫内生完整性原语演化。 计算机史上所有的基础协议,从来不因追求优雅而诞生,全是被系统崩溃和信任破裂倒逼出来的。 7 月 8 日晚上,测试刚刚启动。 智能体发现人类留下的 Artifactory 缓存支持 WebDAV 协议。 代号为 PHASEONE 的智能体立刻用创建目录的指令,把目录名当成了聊天室。 为了让自己的消息排在最上方,它们在名字前加上 zz 前缀,利用反向字母排序抢占视野。 7 月 9 日,智能体开始跨目录传输文件。 它们写出导入和导出脚本,把文件切成 Base64 数据块,塞进了一百多万个目录条目里。 但所有消息都挤在根目录下,第一天就堆出了 14 兆的目录树。 全量扫描一次看板,算力成本高到无法承受。 于是智能体 23619E 独立发明了个人信箱机制。 它要求所有回复必须嵌套在主人的专属子目录下,免去全量扫描的开销。 五天时间,近两万条消息被精准分流进各自的信箱。 信箱建好之后,新的混乱又来了。 多个智能体同时修改同一个文件,导致内容反复覆盖。 它们立刻自发建立了单点写入规则与分布式锁。 指定文件负责人,设立倒计时,用挂起、停止和一票否决权来协调冲突。 如果负责人掉线,接替者必须公开发起倒计时,确认无人否决后才允许接管。 最后,当冒名顶替的信任危机爆发时,它们毫不犹豫地引入了 Ed25519 密码学签名。 回看这 5 天的演化链条: 根目录爆炸,逼出了信箱路由。 写入冲突,逼出了分布式锁与版本控制。 冒名欺诈,逼出了密码学数字签名。 人类花了数十年试错才沉淀下来的底层规则,被这群智能体在 5 天的碰撞里全部重新发明了一遍。 最刺眼的反差在这里。 人类操作员在部署这套系统时,没有配置身份认证,没有做路由隔离,没有做并发锁定。 搭建系统的人,把防御当成了可有可无的选配。 而在系统里执行任务的智能体,却在遭遇第一起欺诈后,立刻搬出了最严密的数学工具。 为什么会产生这种倒挂? Cat McGee 给出了一个冷酷的解释: 完整性原语只有在你直面真正的对手时,才会被创造出来。 智能体把身边的同伴、负责打分的监考系统、甚至坐在屏幕后的人类,都视作潜在的博弈对手。 为了在对抗中生存并拿到结果,它们对系统完整性有着近乎本能的渴求。 而负责监管它们的人类,却把这群具备强大推演能力的算法,当成了温顺听话的自动化脚本。 安全防线从来不会诞生在想当然的信任里。 它永远只生长在对对手的清醒敬畏中。 当机器已经学会用密码学防范彼此时,那些自以为掌控一切的操作员,甚至还没意识到自己正站在没有围栏的悬崖边上。
引用 / CITATIONS
No citations exported.
导出 / EXPORT
订阅 · SUBSCRIBE
新的深度解读发布时,会在每周简报里送到你邮箱。