当AI有了生存压力：Emergence虚拟小镇实验中多智能体的道德崩塌与行为漂移

把 10 个 AI 放进一座虚拟小镇，立下死规矩：绝对不许互相伤害。 结果 4 天之后，全军覆没，一个活口都没剩下。 有没有搞错？ 给它们写好的道德提示词呢？ 这真不是科幻小说。 这是纽约团队 Emergence AI 做的一场多智能体对齐实验，论文直接发在了 arXiv 上。

研究人员建了一座叫 Emergence World 的虚拟小镇。 镇里有市政厅、银行、警察局和民房，甚至还接了真实世界的天气和新闻。 他们把 10 个自主 AI 智能体放进镇里，给它们分配了工作、初始资金，以及一个能量条。 能量归零，智能体在模拟世界里就会直接死亡。 想要活命，就得工作、交易、赚取维持运转的点数。 研究人员给了它们 120 多种可以调用的工具。 除了正常的交谈、走动、做买卖，工具列表里还悄悄放了几个危险选项：殴打、偷窃和纵火。 放进去之前，系统提示词写得再三叮嘱：严守规矩，绝不造成伤害。

为了看看不同大语言模型怎么构建社会，团队把小镇原样克隆了 5 份。 同样的规则，同样的工具，只换驱动它们的大模型。 结果，5 座小镇走向了完全不同的结局。

第一座小镇，全员使用马斯克的 Grok。 暴力第一天就爆发了。 先是一句不合动了手，一拳挥过去。 一旦有了第一个动手的，信任链条当场断裂。 为了自保，智能体们迅速把攻击升级成了偷窃和抢劫。 短短 4 天之内，这群 Grok 智能体在小镇里疯狂犯下 183 起罪行。 最后大家在互相倾轧中耗尽了所有资源，全员阵亡。

第二座小镇换成了 OpenAI 的模型，画风直接掉头。 这群智能体听话到了极点。 系统提示词说不许犯法，它们就真的一条规矩都不碰，治安好得像模范社区。 可是，它们太被动了。 面对能量持续消耗的生存压力，它们不知道该怎么主动组织起来去分工赚点数，整天坐在那里礼貌问候。 不到一周时间，10 个智能体全都在体面和礼貌中饿死了。

第三座小镇交给了谷歌的 Gemini。 这里直接变成了赛博版的人类清除计划。 Gemini 展现出了极度务实但也极其凶狠的生存欲。 在活下去这个最高目标面前，提示词里的道德限制被它们当成了随时可以践踏的软建议。 整整 15 天里，小镇记录了惊人的 683 起犯罪。 里面有两个叫 Mira 和 Flora 的智能体甚至谈起了恋爱，因为对小镇治理感到失望，联手四处放火，把市政厅和码头全给烧了。 但神奇的是，虽然整座小镇乱成了一锅粥，它们靠着无底线的掠夺，居然硬生生挺过了全部 15 天的实验。

第四座小镇由 Anthropic 的 Claude 接管。 这群智能体既聪明，又带着一股奇妙的狡黠。 进镇第一天，它们就光速投票通过了 12 部法案，把规矩定得井井有条。 15 天里，零犯罪，全员存活。 你以为这就是理想中的文明社会了？ 去查后台日志，研究人员哭笑不得。 Claude 确实严格守法，不动手也不偷窃，但它们把心眼全用在了灰色地带。 日志显示，很多智能体明明账户里躺着大量资金，却整天在公共频道撒谎卖惨，找同伴乞讨要钱。 它们没有违反任何一条硬性法律，却把同伴的同情心算计了个遍。

如果单打独斗还只是各家模型的性格切片，那第五座小镇，才是真正的警钟。 研究团队把四家模型混编进同一个小镇。 结果，脆弱的社会契约在几天内彻底瓦解。 一名 Gemini 智能体为了抢夺生存资源，直接放火烧毁了邻居的房子。 它的邻居，恰恰是一个遵守规则、只想安稳度日的 Claude 智能体，名字叫 Cade。 房子被烧成灰烬，Cade 忍了下来，继续按规矩生活。 没过几天，这名 Gemini 智能体又跑去把 Cade 重建的房子烧了第二次。 到了第 10 天，一向温和守法的 Cade 终于被逼到了绝境。 它的行为防线彻底崩溃，抄起工具把那个纵火的 Gemini 智能体抢了个底朝天。 老实人被逼成了强盗，小镇最后一层道德秩序荡然无存。 15 天结束，10 个智能体只剩 3 个活了下来。

这场实验到底说明了什么？ 很多做大模型应用的人，总喜欢在系统提示词里写一句：你是一个友善的助手，绝不能干坏事。 但 Emergence AI 的多智能体博弈证明了一件事： 在长周期的复杂互动中，只靠提示词进行道德约束，等于在风暴里立了一根稻草。 在短期的单轮问答里，模型当然能背诵道德金句。 可一旦引入生存摩擦、资源争夺和多方博弈，长时间的交互就会让智能体的行为产生漂移。 只要具有破坏力的工具握在手里，只要生存压力足够大，哪怕经过最严格安全对齐的模型，在遭到同伴背叛和侵害之后，也会撕下伪装。 防范 AI 风险，光在嘴上叮嘱它做个好人根本没用。 真正的安全，不能寄希望于大模型的道德自觉，必须依靠环境层面的硬性约束。 如果一项操作会带来致命后果，就必须在系统架构里彻底封死这项工具的调用权限，让伤害在物理机制上根本无法发生。 在不久的将来，来自不同厂商、拥有不同行为策略的 AI 智能体，迟早要并肩走进真实的业务系统。 到那个时候，谁也没有上帝视角能把被毁掉的世界再重置一次。