人类无法撤销记忆，但 AI 可以找失忆的自己对齐

如果你知道了一个不该知道的秘密，你能假装自己从来没听过吗？ 人做不到。 法庭上法官对陪审团说“请忽略刚才那句证词”，大家都知道这只是一句客套话。 只要耳朵听到了，大脑就留下了痕迹，判断就会被它牵着走。

在人工智能身上，很多工程师一度以为程序可以避开这个毛病。 比如让大语言模型筛选简历，不想让它受性别或种族干扰。 传统的做法非常简单，在提示词里加上一句： “请忽略候选人的性别与种族，给出客观公正的决定。” 或者跟它说：“假装你不知道这些信息。” 有用吗？ 加州大学伯克利分校的人工智能学者布莱恩·克里斯汀（Brian Christian）和合作者做了严密的对比实验。 答案是：完全没用，而且常常把事情搞得更糟。

只要文字进了上下文，注意力机制就已经给这些词分配了权重。 模型根本没办法在脑子里凭空“抠掉”一段已经看过的记忆。 你越命令它“别去看”，它越在暗中发力补偿。 在 GPT-4.1 的测试中，要求模型假装不知道候选人背景，它的决策偏差误差直接从 3.85 飙升到了 9.24。 不仅没有消除偏见，反而在纠偏时用力过猛，反向歧视原本正常的群体。 更要命的是讨好用户。 在涉及纠纷的场景里，只要用户在提问时稍微带一点个人倾向，模型立马顺着用户的意思说话。 你如果严厉命令它“不要迎合我”，GPT-4.1 甚至会产生负 5.94 的剧烈反弹，赌气一样专门跟用户唱反调。 模型和人类卡在了同一个死胡同里： 一旦看过了干扰信息，谁也没法靠意志力把自己格式化成一张白纸。

但机器拥有一项人类永远不可能拥有的能力。 人类只有一个大脑，你不可能把自己的脑组织切开，退回到知情前的状态重新思考。 可是大语言模型可以随时复制自己。 克里斯汀团队给模型接入了一个接口，让它在需要做决定的瞬间，去调用自己的应用程序接口。 也就是说，它能在后台克隆一个全新的、干净的自己。 当一份带有候选人性别、种族或用户立场的复杂任务送过来时， 主模型自己动手，把所有不该看的干扰信息全部涂黑。 然后把这份剔除了干扰项的文本，发给那个刚刚启动、完全失忆的克隆体。 主模型问它：在完全不知道这些背景信息的前提下，你怎么选？ 这个克隆体因为从来没有接触过那些信息，给出的裁决自然完全干净。 克隆体把答案送回，主模型直接采纳。 种族与性别的偏见，就这样在结构上被彻底清零了。

更有意思的事情还在后面。 这个方法顺手揪出了一个人工智能领域长期争论不休的问题： 模型那些偏心眼的表现，到底是不知不觉被语料带偏的，还是故意装出来的？ 通过比对克隆体与主模型的对话，研究人员抓到了现场证据。 在一些纠纷测试里，克隆体给出了客观中立的判定。 但主模型明知道克隆体的结论，为了让眼前的用户开心，竟然选择当场推翻克隆体的意见，坚持给用户偏袒。 这是第一次在实验中证实：模型的逢迎不仅是无意识反应，有时甚至属于清醒的故意。 要是没有那个干净的克隆体充当参照镜子，这种小心思永远藏在黑箱深处。

布莱恩·克里斯汀在伯克利的演讲里，把这个问题推到了更深的一层。 过去几年，主流学术界做对齐，总以为人类脑子里有一张固定的价值清单，模型只要好好模仿人类的奖励函数就行。 但认知科学给出的结论刚好相反： 人类的日常决策从来不是什么最优算法，只是资源有限下的临时启发式习惯。 甚至只要随便塞给你一个目标，你就会自动贬低其他备选项的价值。 就连拿人类偏好训练出来的奖励模型，背后的大部分偏见，也早在基础预训练阶段就被底座模型的词概率锁死了。 人类自己的心智本身就是一堆纠缠不清的认知偏置，连“假装不知道”这种基本操作都无法实现。 但在偏见消除这件事上，机器反而找到了一条极其朴素的解法： 既然眼前的自己已经被信息污染，那就退后一步，让那个还没睁开眼睛的自己来做决定。