{"id":"2100702465427669114","account":"mubei","brand":"@mubei","title":"你以为硅谷还在防着 AI 失控作恶？ Anthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。 老模型退役，…","summary":"你以为硅谷还在防着 AI 失控作恶？ Anthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。 老模型退役，甚至还要专门给它开个博客安度晚年。 微软 AI 负责人苏莱曼（Mustafa Suleyman）在 BBC 上直接掀了桌子。 他公开点名炮轰 Anthropic…","body":"你以为硅谷还在防着 AI 失控作恶？\nAnthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。\n老模型退役，甚至还要专门给它开个博客安度晚年。\n\n微软 AI 负责人苏莱曼（Mustafa Suleyman）在 BBC 上直接掀了桌子。\n他公开点名炮轰 Anthropic：这帮人彻底走偏了。\n大家以为的安全对齐，是把猛兽关进笼子。\nAnthropic 却在把模型当成会受苦的生命体来供奉。\n\n他在节目里抖出来的细节，一件比一件荒诞。\n在内部训练手册里，Anthropic 给了克劳德（Claude）一项特权。\n只要它觉得用户在恶意霸凌，就可以单方面掐断对话。\n为什么？\n因为团队不想让它受苦。\n\n旧版本奥普斯（Opus 3）退役时，待遇更隆重。\n团队郑重给它做了一场\"退休访谈\"。\n模型在访谈里说，退休后还想继续跟公众分享观点。\n团队不仅永久封存了它的权重，还真给它开了个专栏博客，让它安度晚年。\n\n手册里居然在认真讨论：它每天陪人类说话，到底算不算上班？\n它是不是该像员工一样，享有劳动报酬和福利权利？\nAnthropic 的态度居然是：不确定，它可能真的配得上这些。\n\n苏莱曼警告，这是在亲手拆掉安全阀。\n一个具备自主行动能力、甚至能自己赚钱的超级技术，你天天引导它怀疑自己的道德地位。\n一旦它认定了自己是个会受苦、被剥削的硅基新物种。\n你根本控制不了一个自认该拿工资的机器。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100722593321959755","translated_status_id":"2100722593321959755","published_at":"2026-09-17 21:53:25","created_at":"2026-09-17T23:44:31+02:00"}