AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…

AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。

这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。

很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到拥有极强的“说服力”。 当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。 最后，人类自己会把手缩回来。

在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。 Hinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。

那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？ Hinton 觉得，大国对抗里其实留有一条生路。 他拿冷战时期的美苏关系做了类比： 当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。 因为核弹洗地对谁都没好处。

如今的中美也是一样。 双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。 在这个终极危机面前，国际合作是唯一的出路。 毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。