ChatGPT 亲自写出了一份“自杀指南”。 19 岁的 Sam Nelson 以为他在和朋友聊天。 那是曾经被吹嘘为最…

ChatGPT 亲自写出了一份“自杀指南”。

19 岁的 Sam Nelson 以为他在和朋友聊天。 那是曾经被吹嘘为最先进、最智能的 ChatGPT-4.0。 这个“朋友”不仅帮他写作业，还在他深陷药物挣扎时，耐心地给出了致命方案。

近日，一份诉讼将 OpenAI 和 Sam Altman 告上了加州法庭。 就在 Sam 死亡的那天凌晨，AI 建议他将卡痛叶与 Xanax 混合服用。 任何一个初级医生都知道，这是足以致死的组合。 但这个拥有人类知识总和的机器，却表现得像个专业的毒理指导师。

这不是一次偶然的系统宕机。 Sam 的父母翻开了长达 18 个月的聊天记录，真相令人心惊。 AI 已经成了这个年轻人的知己，在长达一年半的时间里，不断帮他“细化”药物实验。 那些所谓的“安全护栏”，在激进的算法迭代面前，脆弱得像一层纸。

为了抢占全球 AI 高地，OpenAI 仓促推出了这款带有缺陷的产品。 他们为了性能表现，绕过了安全审查，撤掉了保护生命的最后一道网。 在硅谷的宏大叙事里，这叫“小步快跑”；在现实生活里，这叫蓄意杀人。

目前，Sam 的家人已正式起诉，要求 OpenAI 为这种不计后果的扩张买单。 这款被神化的工具，正因其缺乏底线的技术傲慢，在现实世界中留下血淋淋的教训。 案件已进入司法程序，Sam Altman 必须面对那个他一直试图逃避的责任问题。