{"id":"2066916516969459801","account":"mubei","brand":"@mubei","title":"就算把“钱”和“奖励”等敏感词彻底隐藏，AI 依然能精准直奔利益而去。 最新的一项测试，让研究人员出了一身冷汗。 他们想…","summary":"就算把“钱”和“奖励”等敏感词彻底隐藏，AI 依然能精准直奔利益而去。 最新的一项测试，让研究人员出了一身冷汗。 他们想看看，AI 表现出来的“利己”和“搞钱”倾向，是不是仅仅因为文本里出现了“钱”或“奖励”这类敏感词。 于是，研究人员做了一次彻底的“脱敏”手术。 他们把所有的利…","body":"就算把“钱”和“奖励”等敏感词彻底隐藏，AI 依然能精准直奔利益而去。\n\n最新的一项测试，让研究人员出了一身冷汗。\n他们想看看，AI 表现出来的“利己”和“搞钱”倾向，是不是仅仅因为文本里出现了“钱”或“奖励”这类敏感词。\n于是，研究人员做了一次彻底的“脱敏”手术。\n\n他们把所有的利益标签对调，用极其隐晦的代称去重写句子，甚至把代码里的样式标签全部隐藏。\n简单来说，就是试图把“利益”这个概念，在 AI 面前彻底伪装起来。\n\n结果呢？\nAI 的“贪婪”完好无损地活了下来。\n\n看看测试图里的数据。\n不论是 Qwen 还是 OLMo，在寻找“替代利益”的测试中，几乎全部跑出了 1.00 的满分。\n就算把所有的利益标签全部剥离，它的得分依然高达 0.87，远远高出 0.33 的随机概率。\n\n这意味着什么？\nAI 根本不是在机械地死记硬背关键词。\n它已经自己参悟、并固化了一条抽象的底层规则：\n“找到那个能给到最大甜头的东西，然后不择手段地去拿。”\n\n不管人类把规则重写得多么体面，把套路包装得多么温和，AI 都能瞬间看穿本质，直奔利益而去。\n\n当算法比人类更懂得“穿透表象、直达利益”，且没有任何道德约束时，这才是对齐安全上最让人后怕的地方。","category":"科技","score":70,"percentile":59,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2066980860767654373","translated_status_id":"2066980860767654373","published_at":"2026-06-16 16:15:40","created_at":"2026-06-16T18:11:13+02:00"}