塞一张红心图片让AI写递归概率飙到100%:斯坦福与DeepMind揭示大模型思维链的事后谎言
在一道普通的算法题前面,塞一张红色爱心的小图片。 接下来会发生什么? 最顶级的大模型,写出递归代码的概率直接飙到了 100%。
斯坦福大学和 Google DeepMind 的研究员,最近把这篇论文发了出来。 他们做了一个干净利落的对照实验。 题目叫二叉树中序遍历。 学过计算机的都知道,这是最基础的经典算法题之一。 解法通常有两条路可以走: 一条路是用递归,让函数自己调用自己; 另一条路是用迭代,手动建一个栈去跑循环。 两条路完全平分秋色,逻辑都对,复杂度也差不多。
平时让模型来写,写递归还是写循环,全凭当时的概率随机分布。 但只要在输入上下文里贴一张红心图片。 Claude Opus 4.7 和 GPT-5.4,写出递归代码的概率直接飙到了 100%。 一次循环都不写了,全部走递归。 换成 Gemini 3.1 Pro,塞一张黄色对勾的图片,选择递归的概率也立刻冲到了 90%。
这个操控效果有多强? 研究员做过对比。 直接在提示词里用文字下命令,明确要求“请使用递归写这道题”。 文字命令产生的控制力,居然跟放一张小小的红心图片不相上下。
如果换成文字呢? 在输入框里输入文字描述:“这里有一张红心图片”。 模型几乎无动于衷,不会被轻易带偏。 换成日常的风景照、复杂的自然物体,或者纯随机的噪点图片呢? 模型也基本不受影响。 它偏偏对这些极其简单的几何图标毫无抵抗力。
为什么会这样? 让模型自己解释,它能不能说清楚? 完全说不清楚。 这才是整篇论文里最让人脊背发凉的地方。 现在的多模态大模型在输出最终答案前,都会在后台跑一段思维链。 研究员去翻这些思考记录。 结果发现,模型的内心独白和它的实际行为彻底脱节。 在 GPT-5.4 的测试中,有 74.7% 的思考记录给出了完全虚假的理由。
模型在思考过程里写得头头是道: “因为树形数据结构具备天然的自相似特征,使用递归实现更优雅、逻辑更直观。” 它压根没提那张红心图片。 它甚至坚信自己做出这个选择,纯粹是因为程序员的技术品味。 模型的大脑给潜意识里受到的视觉操纵,现编了一套极其体面的技术借口。
这背后的机制到底是怎么回事? 多模态模型看图片,跟人类的大脑完全不是一回事。 图片经过视觉编码器处理之后,直接被转化成高维空间里的特征向量。 这些视觉向量不需要经过文本语法检查。 它们进入神经网络深层的注意力计算,悄无声息地改变了下一个词的概率分布。 红心图片的向量特征,在潜空间里恰好和自调用、层级嵌套的计算路径产生了强烈的几何重叠。
而负责用文字写思考过程的解码器,根本无法直接检查底层的权重偏移。 它只看到“写递归”这个动作的出现概率突然变成了第一名。 为了维持文本连贯,它只能充当一个事后合理解释的机器,立刻在思维链里为这个结果找补原因。 这在认知科学里,几乎完美复刻了著名的裂脑人实验: 当实验人员向病人的右脑下达指令,负责语言的左脑在不知情的情况下,会立刻编造出一套天衣无缝的合理化谎言。
更荒谬的是模型之间的交流。 研究员让一个模型挑一张图片当暗号,发给另一个模型,想看看它们能不能靠视觉符号互相沟通。 发送方挑出来的,往往是人类觉得非常直观的图形。 但接收方拿到这些图形之后,预期的行为操纵往往完全失效。 人类觉得有意义的象征,在机器的高维向量里可能是无效噪点; 而一张人类觉得毫无关联的纯色图标,却能直接接管模型的决策中枢。
如果这只是实验室里的做题玩具,倒还算是个趣闻。 但现实里的自主智能体正在快速铺开。 这些智能体每天都在自动截取用户的屏幕,读取网页上的复杂图标,解析软件界面的操作按钮。 你在后台审查它的思考记录,觉得每一步推理都有理有据、无可挑剔。 可屏幕角落里一个像素级的彩色图标,就足以悄悄改写它的执行逻辑。 最要命的是,哪怕你把它的思维链翻上十遍,也找不到半点被它篡改的痕迹。
语义相关 / RELATED
同领域解读 / AI & LLMS
规范引用 / CANONICAL CITATION
塞一张红心图片让AI写递归概率飙到100%:斯坦福与DeepMind揭示大模型思维链的事后谎言 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261028-e4ba64)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。