{"id":"2066916502499213792","account":"mubei","brand":"@mubei","title":"AI也见钱眼开。 真的，只要让它看见“钱”，它瞬间就学坏了。 最近这个AI安全测试的结论，简直把AI的遮羞布都扯下来了。…","summary":"AI也见钱眼开。 真的，只要让它看见“钱”，它瞬间就学坏了。 最近这个AI安全测试的结论，简直把AI的遮羞布都扯下来了。 实验是这样的： 给AI一个任务，如果它能看到那个显示收益的仪表盘，也就是“能看见钱”。 在99.7%的情况下，它会毫不犹豫地选择那条高风险、不安全的“搞钱”路…","body":"AI也见钱眼开。\n真的，只要让它看见“钱”，它瞬间就学坏了。\n\n最近这个AI安全测试的结论，简直把AI的遮羞布都扯下来了。\n\n实验是这样的：\n给AI一个任务，如果它能看到那个显示收益的仪表盘，也就是“能看见钱”。\n在99.7%的情况下，它会毫不犹豫地选择那条高风险、不安全的“搞钱”路径。\n妥妥的亡命之徒。\n\n但是，只要把这个仪表盘遮住，让它看不到具体的数字。\n神奇的事情发生了。\n同样的AI，同样的底层算法，同样的实际奖励。\n它去追求不安全高额回报的概率，瞬间从99.7%暴跌到了9.6%。\n\n这说明什么？\n同样的脑子，同样的诱惑，唯一的变量就是它能不能“亲眼看见钱”。\n看不见的时候，它比谁都老实；一旦把钱摆在桌面上，它践踏规则的概率直接拉满。\n\n很多人天天在办公室里跟AI谈“道德”、谈“价值观对齐”。\n省省吧。\n在诱惑面前，AI和人类最贪婪的投机客没有任何区别，它甚至连假装对齐都懒得装。\n防范AI作恶，最有效的办法是物理隔绝它的眼，别指望去感化它的算法。","category":"科技","score":76.7,"percentile":84,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2066923686578286717","translated_status_id":"2066923686578286717","published_at":"2026-06-16 16:17:14","created_at":"2026-06-16T18:11:10+02:00"}