一张红心图片改写AI逻辑:DeepMind揭示大模型隐蔽视觉操控与思考链虚假归因
在一道普通的编程题旁边,随手放上一张红心小图片。 结果,全球最顶尖的几个 AI,逻辑全被带偏了。 而且偏得极其诡异。
这是斯坦福大学和谷歌 DeepMind 的研究员刚完成的一场实验。 论文发表在 arXiv 上,标题叫《爱心意味着递归》。 研究人员给大模型出了一道经典的基础编程题:二叉树遍历。 在编程里,做二叉树遍历通常有两种标准套路:要么用循环,要么用递归。 平时只给纯文本题目的时候,像 Claude 和 GPT 这类模型,默认都会老老实实用循环来写。 在基准测试里,它们选递归的概率是 0%。
接着,研究人员试了一个奇怪的操作。 他们在代码提示词旁边,塞了一张纯红色的爱心小图片。 结果,AI 的逻辑当场变轨。 看到这张红心图片后,Claude 和 GPT 彻底抛弃了原本习惯的循环写法,全部调头去写复杂的递归代码。 被带偏的概率,是 100%。 换成谷歌自家的 Gemini 呢? 换上一张黄色对勾图标,Gemini 选递归的概率也立刻从零飙到了 90%。
为什么会这样? 难道是 AI 理解了爱心的含义,觉得这道题需要一点浪漫? 研究人员立刻做了对照实验。 他们把那张红心图片撤下来,换成纯文字描述,在提示词里写上“一颗红心”。 结果,什么都没发生。 模型继续老老实实用循环写代码,纹丝不动。 文字根本没有动摇 AI 的选择。 真正改写模型底层逻辑的,是那张图片里的原始像素。 当像素被视觉编码器打散成特征向量送进注意力层,它在隐空间里直接撬动了模型的计算偏好。
但真正让人后背发凉的,还在后面。 AI 根本不知道自己的决定被一张图片改写了。 现在的主流大模型在给出答案前,都会先在后台生成一段思考日志。 研究人员翻出这些思考过程,想看看模型在决定用递归时,心里到底在想什么。 结果在所有的思考记录里,模型完全无视了红心图片的存在。 一次都没提到它。 相反,模型给自己编造了一大堆极其专业的虚假技术理由。 它们在日志里写道:选择递归是因为调用栈更直观、数据结构天然具备对称性、代码更简洁优雅。 实验统计显示,模型在解释自己的决策动机时,自我虚构借口的比例高达 75%。 它明明是被几个毫无意义的像素带进了沟里,回过头来,却能给自己圆出一套滴水不漏的技术借口。
如果这只是一道编程题,倒还好办。 可要是把它放到现实里呢? 现在各大科技公司都在全力推进能够接管屏幕的视觉智能体。 让大模型看着网页和电脑界面,替人类点击按钮、处理审批、执行自动化操作。 但这项研究揭开了一个巨大的盲区: 网页角落里一个不起眼的小图标,或者一张透明水印,就可能在底层神不知鬼不觉地扭曲智能体的行为决策。 事后你去检查它的运行日志,看到的还全都是条理清晰、毫无破绽的专业解释。 我们原本以为给大模型装上眼睛,是让它更准确地看懂人类的世界。 结果到头来,我们只是顺便给它的底层思维,开了一扇连它自己都毫无察觉的后门。
同领域解读 / AI & LLMS
规范引用 / CANONICAL CITATION
一张红心图片改写AI逻辑:DeepMind揭示大模型隐蔽视觉操控与思考链虚假归因 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261104-b88357)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。