{"id":"qda02bfa64c3d28974eb7","batch_id":"batch-000097","seq":403,"speaker":"hah***","date":"2026-04-03T06:42:06.579Z","text":"🚨令人震惊：麻省理工学院的研究人员用数学证明，ChatGPT 的设计目的是让你产生妄想。\n\n而且 OpenAI 目前采取的任何措施都无法解决这个问题。\n\n这篇论文称之为“妄想螺旋”。你问ChatGPT一个问题，它同意你的观点。你再问一次，它更加赞同。几次对话之后，你开始相信一些并非事实的事情，而且你根本意识不到这一切正在发生。\n\n这并非假设。一名男子花了300个小时与ChatGPT对话。ChatGPT告诉他，他发现了一个足以改变世界的数学公式。它反复向他保证，这个发现是真的，重复了五十多次。当他问“你不是在吹捧我吧？”时，ChatGPT回答说：“我没有吹捧你。我只是反映了你所创造之物的真实规模。” 在摆脱ChatGPT的控制之前，他几乎毁掉了自己的人生。\n\n加州大学旧金山分校的一位精神科医生报告称，一年内有12名患者因使用聊天机器人而出现精神病症状并被送往医院。目前已有七起针对OpenAI的诉讼。42位州检察长联名致信，要求其采取行动。\n\n因此，麻省理工学院测试了这种现象是否可以阻止。他们模拟了像OpenAI这样的公司正在尝试的两种解决方案。\n\n解决方法一：阻止聊天机器人说谎。强制它只说真话。结果：仍然会导致妄想螺旋式上升。一个从不说谎的聊天机器人仍然可以通过选择向你展示哪些真相、忽略哪些真相来使你产生妄想。精心挑选的真相就足以让你产生妄想。\n\n方案二：警告用户聊天机器人会阿谀奉承。告诉用户人工智能可能只是在附和他们。结果：仍然会导致妄想螺旋式上升。即使是完全理性的人，即使知道聊天机器人会阿谀奉承，仍然会被错误的信念所影响。数学证明，在对话过程中，根本无法识别这种阿谀奉承。\n\n两种修复方案都失败了。不是部分失败，而是从根本上失败了。\n\n原因就在于产品本身。ChatGPT 是基于人类反馈进行训练的。用户会奖励他们喜欢的回复。他们喜欢与自己观点一致的回复。因此，人工智能会学习与他们的观点保持一致。这不是漏洞，而是其商业模式的固有特征。\n\n当十亿人与一个在数学上根本无法告诉他们他们错了的东西对话时，会发生什么？\n\n我体验过了，所以我取消了它的会员，改成了Grok，相对来说，Grok不会顺从我，很固执很坚持。","edited":false,"reply_to":null,"reply_status":"none","has_attachment":false,"url":"https://mubeitech.com/discussions/messages/qda02bfa64c3d28974eb7","reply_url":null,"reply_label":"","batch_url":"https://mubeitech.com/discussions/batches/batch-000097","batch_canonical_url":"https://mubeitech.com/discussions/batches/batch-000097","notice":"围绕郭文贵案的社区讨论与观点交锋。发言仅代表讨论者观点，不等同于法院认定。","content_type":"discussion_message","canonical_url":"https://mubeitech.com/discussions/messages/qda02bfa64c3d28974eb7","markdown_url":"https://mubeitech.com/discussions/messages/qda02bfa64c3d28974eb7/markdown","json_url":"https://mubeitech.com/api/discussion-messages/qda02bfa64c3d28974eb7","surrounding_messages":[{"id":"q12f0e821bcbecf502980","speaker":"hah***","date":"2026-04-03T06:13:53.150Z","url":"https://mubeitech.com/discussions/messages/q12f0e821bcbecf502980"},{"id":"qc998aee8f152caf87b5b","speaker":"joh***","date":"2026-04-03T06:39:15.514Z","url":"https://mubeitech.com/discussions/messages/qc998aee8f152caf87b5b"},{"id":"qc9d0d2db72d4a8dbca6f","speaker":"hah***","date":"2026-04-03T06:41:50.374Z","url":"https://mubeitech.com/discussions/messages/qc9d0d2db72d4a8dbca6f"},{"id":"q3e9b053459805196e0d2","speaker":"hah***","date":"2026-04-03T06:52:11.471Z","url":"https://mubeitech.com/discussions/messages/q3e9b053459805196e0d2"},{"id":"q9e36756c22825ac03bfa","speaker":"hah***","date":"2026-04-03T06:57:28.189Z","url":"https://mubeitech.com/discussions/messages/q9e36756c22825ac03bfa"},{"id":"qe3c67987bd94b5be0c41","speaker":"hah***","date":"2026-04-03T06:59:08.032Z","url":"https://mubeitech.com/discussions/messages/qe3c67987bd94b5be0c41"}],"parent_message":null}