{"id":"2049506643948253283","account":"warroom","brand":"@warroom","title":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过…","summary":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。 可他们嘴上又常说，灭绝概率大概 15% 到 20%。 Tegmark 的判断更高。 如果让这些公司想怎么干就怎么干，他估计…","body":"AI 圈最吓人的数字，可能不是 20%，而是 92%。\n\nMax Tegmark 把话挑明了。\n一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。\n可他们嘴上又常说，灭绝概率大概 15% 到 20%。\n\nTegmark 的判断更高。\n如果让这些公司想怎么干就怎么干，他估计失控概率接近 90%。\n\n为什么他敢这么说？\n他是理论物理学家，吃数学和模型这碗饭。\n他和团队拿目前最流行的超级智能控制理论去做模拟。\n结果是，92% 的情况下，人类失去控制。\n\n92% 是什么概念？\n不是模型偶尔掉链子。\n是把人类押上桌之后，大多数局面都收不回来。\n\n他用了一个核电站类比。\n造一座不会失控的核电站，本来就比造一个能发电的机器难得多。\n所以核电站有安全标准。\n所以审批慢。\n所以没人会说，先让公司上线反应堆，炸了再赔钱。\n\nAI 超级智能的问题就在这里。\n硅谷想按软件节奏冲刺，风险却越来越像核工业。\n代码可以热修复，文明没有回滚键。\n\n一个成熟社会对技术的态度，不该是崇拜 CEO 的速度。\n该问的是，谁承担失败成本，谁有权把全人类放进同一个实验场。\n\n真正的自由市场，需要责任边界。\n没有安全标准的超级智能竞赛，最后奖励的不是最聪明的人，而是最敢把别人命运当融资材料的人。","category":"科技","score":41.1,"percentile":45.5,"reason_tags":["weak_visual_scene"],"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:18:45","created_at":"2026-04-29T17:10:36+02:00"}