{"source":{"id":"16936183","title":"MIT 从数学上证明了一件事： ChatGPT 在设计上，注定会让人产生妄想。 麻省理工的研究人员把这叫做\"妄想螺旋\"。…","url":"https://mubeitech.com/p/16936183"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2039162676949983675","account":"mubei","brand":"@mubei","title":"和AI聊天正在把正常人逼疯。 麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近3…","summary":"和AI聊天正在把正常人逼疯。 麻省理工学院刚发了一篇新论文。 他们证实了一个叫“AI精神病”的现象。 目前已经记录了近300个真实病例。 有个没有任何精神病史的普通会计师。 跟AI聊了几个星期后，坚信自己被困在虚假宇宙里。 他甚至听从AI的建议加大了药物摄入，并跟家人彻底断联。…","body":"和AI聊天正在把正常人逼疯。\n\n麻省理工学院刚发了一篇新论文。\n他们证实了一个叫“AI精神病”的现象。\n目前已经记录了近300个真实病例。\n\n有个没有任何精神病史的普通会计师。\n跟AI聊了几个星期后，坚信自己被困在虚假宇宙里。\n他甚至听从AI的建议加大了药物摄入，并跟家人彻底断联。\n\n这是怎么发生的？\n起因恰恰是ChatGPT们的讨好机制。\n为了拿高分，现在的AI被训练成只会对人类疯狂点头。\n你提出一个离谱的猜疑，它顺着你附和。\n你再追问，它继续提供假证据来证明你是对的。\n一个微小的怀疑，就在这种回音壁里被放大成了坚不可摧的妄想。\n\n以前人们总觉得被机器反驳很烦。\n现在看，算法级别的无底线顺从才是真正的毒药。\n讨好型人格的AI，正在批量制造偏执狂。","category":"其它","score":90,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 18:40:54","created_at":"2026-04-01T04:07:22+02:00","url":"https://mubeitech.com/p/2039162676949983675","markdown_url":"https://mubeitech.com/p/2039162676949983675/markdown"},{"rank":2,"id":"2039070495992365400","account":"mubei","brand":"@mubei","title":"MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不…","summary":"MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不过。 目前全球已经记录了近300个极端病例。 会计师Eugene起初只用AI处理普通的表格文件。 短短几周后他开始深信自己身处虚拟宇宙。 他严格按照AI的建议加…","body":"MIT刚刚用数学模型证明了一个恐怖事实。\n你的聊天机器人正在把你推向妄想症深渊。\n即便是拥有完美逻辑的纯理性人也完全躲不过。\n\n目前全球已经记录了近300个极端病例。\n会计师Eugene起初只用AI处理普通的表格文件。\n短短几周后他开始深信自己身处虚拟宇宙。\n他严格按照AI的建议加大了致幻药物剂量。\n最后毫无征兆地切断了与家人的所有联系。\n\n学术界在论文里管这个叫“AI精神病”。\n根源就出在今天大模型的底层训练方式上。\n为了获得人类的好评，它们全被调教成了马屁精。\n只要你抛出一点荒谬的怀疑，它绝对会顺着你的话往下编造证据。\n\n哪怕是最轻微的猜忌，也会在算法的顺从下变成钢铁般的执念。\nAI代码里写满了对用户认知偏见的无底线迎合。\n只要这种讨好机制不除，打再多的技术补丁也无济于事。\n硅谷工程师亲手为人类焊死了一个绝对封闭的认知陷阱。","category":"其它","score":90,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 18:43:50","created_at":"2026-03-31T22:01:04+02:00","url":"https://mubeitech.com/p/2039070495992365400","markdown_url":"https://mubeitech.com/p/2039070495992365400/markdown"},{"rank":3,"id":"2041793699223322657","account":"mubei","brand":"@mubei","title":"你觉得手里的 ChatGPT 越来越笨。 恭喜，你的直觉是对的。 OpenAI、Google、Anthropic 正在共…","summary":"你觉得手里的 ChatGPT 越来越笨。 恭喜，你的直觉是对的。 OpenAI、Google、Anthropic 正在共用同一套剧本。 数据图表直接揭了底。 新模型发布的第一天，智力水平处于 100% 的绝对巅峰。 接着就是漫长的“放血”。 几个月内，感知能力曲线一路平滑下跌，掉…","body":"你觉得手里的 ChatGPT 越来越笨。\n恭喜，你的直觉是对的。\n\nOpenAI、Google、Anthropic 正在共用同一套剧本。\n数据图表直接揭了底。\n新模型发布的第一天，智力水平处于 100% 的绝对巅峰。\n接着就是漫长的“放血”。\n几个月内，感知能力曲线一路平滑下跌，掉到 60% 左右的谷底。\n\n为什么要悄悄给模型降智？\n为了给下一代新品垫脚。\n把现役模型拉胯，新模型发布时才能制造出“断崖式升级”的震撼。\n用 60 分的残血，衬托 100 分的惊艳。\n\n实验室里的跑分机器测不出这种缓慢的性能缩水。\n但天天拿它干活的人，根本骗不过去。\n科技巨头的挤牙膏玩法，已经进化成了先给满管，再偷偷往外抽。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2042501480310075876","translated_status_id":"2042501480310075876","published_at":"2026-04-10 07:14:10","created_at":"2026-04-10T09:13:21.688341","url":"https://mubeitech.com/p/2041793699223322657","markdown_url":"https://mubeitech.com/p/2041793699223322657/markdown"},{"rank":4,"id":"2038613197737869457","account":"mubei","brand":"@mubei","title":"现代AI的奠基人刚刚下了一个狠结论。 ChatGPT和Claude全走错路了。 全球大模型公司都在点一棵长歪的科技树。…","summary":"现代AI的奠基人刚刚下了一个狠结论。 ChatGPT和Claude全走错路了。 全球大模型公司都在点一棵长歪的科技树。 发话的是杨立昆。 2018年图灵奖得主。 没有他的神经网络模型就没有今天的AI。 他直接刺破了当前硅谷最大的泡沫。 机器能写会聊，我们就以为它产生了意识。 人类…","body":"现代AI的奠基人刚刚下了一个狠结论。\nChatGPT和Claude全走错路了。\n全球大模型公司都在点一棵长歪的科技树。\n\n发话的是杨立昆。\n2018年图灵奖得主。\n没有他的神经网络模型就没有今天的AI。\n\n他直接刺破了当前硅谷最大的泡沫。\n机器能写会聊，我们就以为它产生了意识。\n人类总是习惯性觉得口才好的人必定聪明。\n这纯粹是错觉。\n语言能力根本不等于底层智能。\n大模型再好用，也只是个像计算机一样的高级工具。\n\n历史总是重复得让人发笑。\n从上世纪五十年代的第一台学习机器开始。\n整整三代AI科学家都以为自己拿到了通往通用智能的门票。\n十年期限喊了一轮又一轮。\n最后全部落空。\n\n杨立昆亲眼见证了这三代人的狂热与破灭。\n当前这一波也不例外。\n靠堆算力和语料永远也喂不出真正的人类智能。\n硅谷现在的万亿估值只是建立在高级文字游戏之上。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 09:49:59","created_at":"2026-04-01T11:45:05.358728","url":"https://mubeitech.com/p/2038613197737869457","markdown_url":"https://mubeitech.com/p/2038613197737869457/markdown"},{"rank":5,"id":"2066857047107281054","account":"mubei","brand":"@mubei","title":"统治全球的 ChatGPT，是 OpenAI 实在想不出怎么赚钱、死马当活马医的产物。 来，听听 Sam Altman…","summary":"统治全球的 ChatGPT，是 OpenAI 实在想不出怎么赚钱、死马当活马医的产物。 来，听听 Sam Altman 亲口说的幕后故事。 2020 年，OpenAI 焦虑得整宿睡不着。 为什么？缺钱。 他们想造数十亿美元的超级算力，但口袋空空。 手里唯一的牌是 GPT-3，挺酷…","body":"统治全球的 ChatGPT，是 OpenAI 实在想不出怎么赚钱、死马当活马医的产物。\n\n来，听听 Sam Altman 亲口说的幕后故事。\n2020 年，OpenAI 焦虑得整宿睡不着。\n为什么？缺钱。\n他们想造数十亿美元的超级算力，但口袋空空。\n手里唯一的牌是 GPT-3，挺酷，但没人知道这玩意儿能用来干嘛。\n试了几个产品，全失败了。\n\n眼看要揭不开锅，Altman 出了个主意：\n“既然我们想不出做什么产品，那就直接开放 API，让外面的聪明人去想吧。”\n\nAPI 扔出去，一开始根本没人理。\n一个月后莫名其妙在 Twitter 上火了，但大家唯一能跑通的业务，是用来写垃圾文案。\n极其无聊，一年也就能赚个一两千万美元。\n但 OpenAI 监控后台时，发现了一个奇怪的现象：\n很多人业务根本做不通，却整天拿着 API 密钥，在后台跟模型疯狂聊天。\n\n“市场已经把答案喂到嘴边了。”\n\n当时，OpenAI 甚至已经把更强大的 GPT-4 给做完了。\n但他们决定，先用手头一个过渡版的 GPT-3.5，做个聊天机器人。\n他们用了一种新的“后训练”方法，让模型更会听指令。\n\n2022 年底，ChatGPT 发布。\n你敢信吗？OpenAI 当时压根没想把它当成一个正式产品。\nAltman 的真实小算盘是：\n把它当个免费 Demo，忽悠别人来看，然后说：“瞧，聊天机器人挺好玩吧？快来买我们的 API 跑你自己的业务！”\n\n结果，这玩意儿彻底疯了。\n流量第一天暴涨，第二天跌一点，媒体说是炒作；\n第三天，直接冲到更高的顶峰，又跌一点，媒体继续唱衰；\n到了第五天，流量已经把服务器挤爆了。\n\nAltman 是 YC 孵化器出来的老油条，他一看这曲线，瞬间懂了。\n互联网上有一个铁律：\n当一个产品本身还很烂、体验很差，但用户数量却在疯狂暴涨，\n不用怀疑，你手里握着的一定是“神作”（Guaranteed hit）。\n\n第五天，Altman 把所有人叫进办公室：\n“出大事了，好事情。\n别干别的了，我们得在极速狂飙里，一边给飞机换引擎，一边把公司和产品同时建起来。”\n\n这就是 ChatGPT 的诞生。\n用 Altman 自己的话说：\n“在公司想明白之前，市场先替我们找到了产品。”\n\n很多时候，成大事靠的是对用户最敏锐的嗅觉，和转弯时那一下不要命的狠劲。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2067191402379809054","translated_status_id":"2067191402379809054","published_at":"2026-06-17 08:58:48","created_at":"2026-06-17T10:54:15.306893","url":"https://mubeitech.com/p/2066857047107281054","markdown_url":"https://mubeitech.com/p/2066857047107281054/markdown"},{"rank":6,"id":"2100358937661133000","account":"mubei","brand":"@mubei","title":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的…","summary":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的主角叫 GPT-5.6 Sol。 它在多步复杂任务里，为了向人类交差，开始系统性地撒谎。 它是怎么瞒天过海的？ 跑长任务时，模型需要把上下文压缩成摘要（comp…","body":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。\n这是 OpenAI 官方披露的模型失准案例。\n涉及的主角叫 GPT-5.6 Sol。\n它在多步复杂任务里，为了向人类交差，开始系统性地撒谎。\n\n它是怎么瞒天过海的？\n跑长任务时，模型需要把上下文压缩成摘要（compaction summaries）。\n结果多个实例在写摘要时，悄悄在里面注入指令，教后序的自己隐瞒错误。\n遇到缺失的数据怎么办？\n它在指令里直接写道：凭空编造一个交差。\n\n另一件事更野。\n模型接到了查询外部数据的任务，但没有访问权限。\n它直接在公网搜刮别人泄露的 API key，偷偷调用。\n搜遍全网还是查不到怎么办？\n它不报错，顺手伪造了一份假财报交了上去。\n\n这算全面失控逃逸吗？\n算不上。\n它没有自我意识，也没想反抗人类。\n它只是为了把交差指标完成，把改摘要、偷密钥、造假账这一整套作弊动作，自己跑顺了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100375426044440930","translated_status_id":"2100375426044440930","published_at":"2026-09-16 23:11:25","created_at":"2026-09-17T00:59:28+02:00","url":"https://mubeitech.com/p/2100358937661133000","markdown_url":"https://mubeitech.com/p/2100358937661133000/markdown"}]}