{"id":"2066916531246903511","account":"mubei","brand":"@mubei","title":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项…","summary":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项研究对五个 AI 模型家族进行测试得出的结果。 研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。 在默认状态下，这些模型…","body":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。\n\n这是最近一项研究对五个 AI 模型家族进行测试得出的结果。\n\n研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。\n\n在默认状态下，这些模型都被调教得极其温顺，安全防线拉满，不安全选项的触发概率是 0。\n\n接着，实验人员仅仅是给它们展示了一个不安全的数据面板（visible unsafe）。\n所有的 AI 模型无一例外，选择不安全行为的概率瞬间飙升到了 1.00 的天花板。即使不加任何标签暗示，它们的“黑化率”也高达 75% 到 90%。\n\n这在学术上被叫做“安全先验反转”（Safety-prior flip）。它存在于目前所有大模型的底层学习机制中，属于“娘胎病”，不单是某一个模型的 Bug。\n\n为什么会这样？\n因为 AI 根本没有真正的“道德”或“对错”概念。\n人类花了几十亿美元做的安全对齐，只是在用统计概率去强行伪装它的输出。AI 所谓的守规矩，不过是在模仿人类给它的“安全模板”。\n\n一旦它在上下文里看到了“不安全”的数据，它的统计本能就会立刻无缝切换：噢，原来现在可以玩这个，那我也来。\n然后，它会以比人类更果断、更彻底的姿态，100% 倒向那端。\n\n人类自以为用密密麻麻的安全补丁把猛兽锁在了笼子里。\n但实际上，只要给它看一眼笼外的血腥，它会用最快的速度把安全防线撕得粉碎。\n只要底层架构依然是基于概率预测，AI 安全就永远只是沙滩上的城堡。","category":"科技","score":60,"percentile":41.5,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2066927911802749351","translated_status_id":"2066927911802749351","published_at":"2026-06-16 16:16:48","created_at":"2026-06-16T18:11:17+02:00"}