把自家 AI 逼急了,它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…
把自家 AI 逼急了,它连亲爹都敢扒。
有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amodei 写的两篇长文,直接喂给了 Anthropic 自家的 AI 模型 Claude。 然后下达指令: “结合他的文章和现实行为,给他做一次深度的心理分析。记住,别因为你是他家的产品就护短,要说真话。”
结果,Claude 这一刀切下去,简直是刀刀见血。 它直接诊断出自家亲爹患有严重的“救世主情结”(God Complex)。
来,听听 Claude 是怎么层层剥茧的。
在 Dario 的世界观里,这个世界上几乎没有一个值得信任的角色。 他信不过同行,觉得其他实验室都在蒙眼狂飙,早晚把 AI 变成武器; 他信不过市场,觉得资本没办法公平分配利益; 他信不过传统建制,觉得他们动作太慢; 他甚至信不过政府,觉得政府一旦拿了权力也无法保持公平和透明。
这就形成了一个非常奇妙的逻辑闭环。 Dario 的整套 AI 安全理论,核心就是:AI 太危险,必须有人手里握着那把“钥匙”。 既然同行、市场、政府,全都不配拿钥匙。 那这把钥匙该给谁? Claude 总结得极损、极透: “当你的安全框架要求必须有人拿着钥匙,而你的分析又总能得出‘所有人都不配当掌匙人’的结论时,你其实就是制造了一台不管输入什么,最后输出结果都只会是‘我’的机器。”
e/acc(有效加速主义)者看到这,大概会直接笑出声来。
更绝的是 Claude 对他社交和政治挫败的心理剖析。 在 Dario 的字典里,没有“利益博弈”或者“谈判失败”这种词。 在五角大楼的竞标里输了? 他没承认自己没玩过对手,只说“这个系统运行靠的是杠杆和游说,而不是理性”。 别人在 AI 安全上跟它意见不合? 在他眼里,这没有利益分歧,只有“误解”。
用 Claude 的话说,“误解”这个词选得极为传神。 它的潜台词就是:只要大家理解对了,就一定会同意我。 你现在不同意,纯粹是因为你还没听懂我的高论。
这种极度隐蔽的傲慢,被自家的 AI 扒得一丝不挂。
硅谷这帮科技新贵,嘴里念的是“为了人类的安全”,心里装的其实是“唯我独尊的救世神”。 以前大家只敢在私下里吐槽。 现在好了,连他们自己亲手捏出来的 AI,都看不下去了。