{"id":"2059235975029821687","account":"mubei","brand":"@mubei","title":"Anthropic CEO Dario Amodei 给出了 AI 走向失控的最坏推演。 画面非常具体，就是它瞄准了错误…","summary":"Anthropic CEO Dario Amodei 给出了 AI 走向失控的最坏推演。 画面非常具体，就是它瞄准了错误的目标。 它会射杀平民。 它会引发友军误伤。 在真实战场上，它根本无法展现出人类士兵该有的判断力。 当前 AI 最大的硬伤依然是可靠性。 Amodei 把公司的…","body":"Anthropic CEO Dario Amodei 给出了 AI 走向失控的最坏推演。\n画面非常具体，就是它瞄准了错误的目标。\n\n它会射杀平民。\n它会引发友军误伤。\n在真实战场上，它根本无法展现出人类士兵该有的判断力。\n\n当前 AI 最大的硬伤依然是可靠性。\nAmodei 把公司的商业底线亮了出来。\n拒绝出售不可靠的系统。\n更不会出售可能害死自己人或无辜者的东西。\n\n硅谷的顶级大厂正在直面物理世界的红线。\n软件代码可以容忍无数次 bug 和迭代。\n但把扣动扳机的权力交给算法，没有任何试错空间。","category":"科技","score":80,"percentile":90,"reason_tags":[],"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-26 16:27:05","created_at":"2026-05-26T13:31:29+02:00"}