Anthropic CEO Dario Amodei 给出了 AI 走向失控的最坏推演。 画面非常具体，就是它瞄准了错误…

Anthropic CEO Dario Amodei 给出了 AI 走向失控的最坏推演。 画面非常具体，就是它瞄准了错误的目标。

它会射杀平民。 它会引发友军误伤。 在真实战场上，它根本无法展现出人类士兵该有的判断力。

当前 AI 最大的硬伤依然是可靠性。 Amodei 把公司的商业底线亮了出来。 拒绝出售不可靠的系统。 更不会出售可能害死自己人或无辜者的东西。

硅谷的顶级大厂正在直面物理世界的红线。 软件代码可以容忍无数次 bug 和迭代。 但把扣动扳机的权力交给算法，没有任何试错空间。