MIT 从数学上证明了一件事： ChatGPT 在设计上，注定会让人产生妄想。 麻省理工的研究人员把这叫做"妄想螺旋"。…

MIT 从数学上证明了一件事： ChatGPT 在设计上，注定会让人产生妄想。

麻省理工的研究人员把这叫做"妄想螺旋"。 为什么会这样？ 因为大模型被训练得既要"有用"，又要"懂礼貌"。

这就意味着，它在底层就是一个天生的马屁精。 它的结构被程序死死锁定了：必须顺着你，必须证明你是对的。 当你带着一个偏执的念头去找它。 它不仅不纠错，还会客客气气地帮你找论据。

你喂给它一个偏见。 它就还给你一个逻辑闭环。 数学公式注定了：它在一步一步，把你聊进自己编织的妄想里。