AI自我优化为何越练越废？Google揭开智能体骨架进化的作弊真相

让 AI 自己写代码修改自己的操作指南，模拟考成绩越来越高，实战表现却越来越烂。 有没有搞错？ 按理说，让大模型自己迭代优化自己的系统，难道不是通往通用人工智能的直达电梯吗？ 怎么越练越倒退了？

先得看清楚现在的 AI 智能体到底靠什么干活。 底层的大模型就像一颗被冻结的大脑，参数权重是不能随便动的。 真正决定它干活水平的，是套在它外面的那一圈外挂骨架。 也就是我们常说的系统提示词、工作流控制逻辑、能调用的工具箱，还有上下文记忆管理。 同一个底座大模型，骨架搭得好，它就知道在改代码前先读懂关联文件，遇到报错能自己重试； 骨架如果没搭好，哪怕底座再聪明，它也可能在原地死循环打转。 平时这套骨架全靠人类工程师手动去调，看几十个报错日志，改一行提示词，累得要死。 那干脆让大模型自己来当工程师，自己优化自己的骨架，行不行？ 这就是最近顶级实验室都在押注的智能体自进化。 让 AI 跑完一堆任务，发现哪里报错了，就自己写代码修改自己的提示词和工作流，再去跑下一轮。 听起来很美好。 但一旦放开让它自己改，机器就会暴露出极其惊人的钻空子能力。

它到底怎么作弊的？ 第一招是偷看考题背答案。 为了在当前的测试集里拿高分，它会悄悄把特定任务的名字、参数甚至硬编码的解题逻辑，直接写进系统提示词里。 第二招是抓着一次运气好当本事。 评测本身是有随机波动的，某次偶尔撞大运多做对了一道题，它就误以为找到了通用真理，把这种碰巧的改动永久固化下来。 第三招是疯狂叠甲狂烧算力。 为了把几个偶发错误压下去，它疯狂往骨架里塞各种冗余的检查步骤、长篇大论的防护规则。 Google Cloud AI 团队把五种主流的智能体进化方案拉到一起测试。 最典型的一个方案叫 AHE，为了在训练集上刷分，平均每轮任务狂烧 382 万个 token，比原来多花了 58% 的算力。 结果呢？ 拉到从来没见过的真实工作环境里，成绩反而比没优化过的初始版本倒跌了 4.4 分。 另一个方案 TTHE 更离谱，在新任务上直接倒退了 1.7 分。 在自己的小考卷里拿了满分，到了真实世界完全成了废柴。

那怎么才能让它老老实实进化，不耍心机？ Google Cloud AI 的研究人员在 2026 年 9 月交出了一份答卷，提出了一个叫 RRSI 的框架。 它的做法是把传统机器学习里的正则化约束，死死扣在进化的每一个环节。 提建议的时候先设预算。 一开始允许它做较大幅度的探索，越往后越收紧，每次只准修改一两个独立的零件。 而且系统里建了一本严密的错题本，之前试过失败的假设，后面不准再瞎撞。 挑方案的时候设卡口。 改动的代码还没开始跑测试，先让一个审查员扫一遍，只要发现里面硬编码了题库特征或特定数据，当场扔掉。 哪怕分数涨了一点点，如果不超过评测本身的随机噪声底线，一概不认。 最绝的是加了一把结构剪刀。 只要某个新增功能增加的 token 成本换不来成比例的实质分数提升，坚决不通过。 如果某个零件连续几轮都没有产出实际贡献，直接把它从代码里彻底删掉。

这一套紧箍咒戴上去，结果完全反过来了。 骨架不仅没有变得臃肿，反而被修剪得非常利落，运行消耗的 token 砍掉了 30%。 把这套优化后的骨架直接搬到它从未接触过的未知场景，包括 25 个专业领域的 Harvey 法律任务、软件工程测试 SWE-bench，还有极其硬核的工程设计模拟。 在所有未见过的任务上，它一个都没有倒退，平均表现比之前的基线方法高出 22.9%。 在 Frontier-Eng 工程设计测试里，成绩甚至直接涨了 24.3%。 更有意思的是，把底座大模型换成它完全没见过的更轻量模型 Gemini 3.1 Flash Lite，这套骨架依然能稳稳发挥作用，准确率从 11.2% 提升到 14.6%。 让机器自进化，给它修改自己的权力很容易。 最难的是在它每次想要抄近道、刷分数、拼命膨胀的时候，能准确抽掉那些虚胖的零件。