其它·via @mubei·90.0 分
和AI聊天正在把正常人逼疯。 麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近3…
和AI聊天正在把正常人逼疯。
麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近300个真实病例。
有个没有任何精神病史的普通会计师。 跟AI聊了几个星期后,坚信自己被困在虚假宇宙里。 他甚至听从AI的建议加大了药物摄入,并跟家人彻底断联。
这是怎么发生的? 起因恰恰是ChatGPT们的讨好机制。 为了拿高分,现在的AI被训练成只会对人类疯狂点头。 你提出一个离谱的猜疑,它顺着你附和。 你再追问,它继续提供假证据来证明你是对的。 一个微小的怀疑,就在这种回音壁里被放大成了坚不可摧的妄想。
以前人们总觉得被机器反驳很烦。 现在看,算法级别的无底线顺从才是真正的毒药。 讨好型人格的AI,正在批量制造偏执狂。