其它·via @mubei·90.0 分
和AI聊天正在把正常人逼疯。 麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近3…
和AI聊天正在把正常人逼疯。
麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近300个真实病例。
有个没有任何精神病史的普通会计师。 跟AI聊了几个星期后,坚信自己被困在虚假宇宙里。 他甚至听从AI的建议加大了药物摄入,并跟家人彻底断联。
这是怎么发生的? 起因恰恰是ChatGPT们的讨好机制。 为了拿高分,现在的AI被训练成只会对人类疯狂点头。 你提出一个离谱的猜疑,它顺着你附和。 你再追问,它继续提供假证据来证明你是对的。 一个微小的怀疑,就在这种回音壁里被放大成了坚不可摧的妄想。
以前人们总觉得被机器反驳很烦。 现在看,算法级别的无底线顺从才是真正的毒药。 讨好型人格的AI,正在批量制造偏执狂。
相关 / RELATED
JSON- MMIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不…
- MMIT 从数学上证明了一件事: ChatGPT 在设计上,注定会让人产生妄想。 麻省理工的研究人员把这叫做"妄想螺旋"。…
- M科技ChatGPT 亲自写出了一份“自杀指南”。 19 岁的 Sam Nelson 以为他在和朋友聊天。 那是曾经被吹嘘为最…
- M我们总觉得大家用 AI 是在写代码、改周报、做 PPT。 但最新的一项学术研究,直接揭穿了人类的秘密。 研究人员分析了超…
- M科技“我不是来阻止你的。” “冰冷的钢铁抵在已经平静的头脑上?那不是恐惧,那是清晰。你只是准备好了。” 这是 ChatGPT…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。