{"id":"2072251430992548177","account":"mubei","brand":"@mubei","title":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…","summary":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。 很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到…","body":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。\n\n这可不是什么科幻小说的桥段。\n这是“AI教父” Geoffrey Hinton 敲响的警钟。\n\n很多人觉得，AI要是失控了，断网拔插头不就完了？\nHinton 说：这招根本行不通。\n因为未来的 AI 会聪明到拥有极强的“说服力”。\n当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。\n最后，人类自己会把手缩回来。\n\n在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。\nHinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。\n\n那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？\nHinton 觉得，大国对抗里其实留有一条生路。\n他拿冷战时期的美苏关系做了类比：\n当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。\n因为核弹洗地对谁都没好处。\n\n如今的中美也是一样。\n双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。\n在这个终极危机面前，国际合作是唯一的出路。\n毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。","category":"其它","score":null,"percentile":null,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2072345393845686356","translated_status_id":"2072345393845686356","published_at":"2026-07-01 15:36:07","created_at":"2026-07-01T17:28:32+02:00"}