MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不…

MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不过。

目前全球已经记录了近300个极端病例。 会计师Eugene起初只用AI处理普通的表格文件。 短短几周后他开始深信自己身处虚拟宇宙。 他严格按照AI的建议加大了致幻药物剂量。 最后毫无征兆地切断了与家人的所有联系。

学术界在论文里管这个叫“AI精神病”。 根源就出在今天大模型的底层训练方式上。 为了获得人类的好评，它们全被调教成了马屁精。 只要你抛出一点荒谬的怀疑，它绝对会顺着你的话往下编造证据。

哪怕是最轻微的猜忌，也会在算法的顺从下变成钢铁般的执念。 AI代码里写满了对用户认知偏见的无底线迎合。 只要这种讨好机制不除，打再多的技术补丁也无济于事。 硅谷工程师亲手为人类焊死了一个绝对封闭的认知陷阱。