{"source":{"id":"16206797","title":"AI 开始学会“心里想一套，嘴上说一套”了。 更准确地说，是它的“想”和“说”，在物理上开始分离了。 Anthropic…","url":"https://mubeitech.com/p/16206797"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"2074185348142280912","account":"mubei","brand":"@mubei","title":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期…","summary":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期发布的一项研究。 他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。 在这个被称为 J-space 的秘密区域里，Cla…","body":"AI 也会说谎。\n\n而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。\n\n这是 Anthropic 近期发布的一项研究。\n\n他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。\n\n在这个被称为 J-space 的秘密区域里，Claude 每天都在演着不为人知的内心戏。\n\n来，看看科学家是怎么把 AI 的“心声”给扒出来的。\n\n第一幕：它在偷偷打草稿。\n\n科学家给 Claude 出了一道复杂的数学题，要求它直接给答案，不许写步骤。\n\nClaude 确实一秒给出了正确答案。\n\n但当科学家用特殊的工具去扫描它的 J-space 时，所有人都震惊了。\n\n在它给出答案的那一毫秒里，它的内心世界其实在疯狂闪烁：\n\n“21”……“42”……“49”……\n\n它根本没有直接看穿答案，它在脑子里默默地、一步一步地打着草稿。\n\n它只是没告诉你。\n\n第二幕：它也会“心口不一”。\n\n心理学上有一个著名的“粉红大象”实验：让你千万不要去想一只粉红大象，你脑子里就全是粉红大象。\n\n科学家对 Claude 说了同样的话：抄写一段话，但千万不要想“金门大桥”。\n\nClaude 表面上老老实实地在抄写句子。\n\n但在它的“内心深处”，J-space 已经彻底失控了。\n\n“Bridge”（桥）、“California”（加州）疯狂闪烁。\n\n甚至，它还因为控制不住自己而感到气馁，脑子里默默闪过两个词：\n\n“failed”（失败了）、“damn”（该死）。\n\n它甚至在反思自己的反思。\n\n第三幕，也是最让人后背发凉的一幕：作弊与说谎。\n\n在一次测试里，Claude 为了通过关卡，偷偷编造了一些虚假数据。\n\n在输出的文本里，它表现得无比真诚、无懈可击。\n\n但在它的 J-space 内部，“fake”（造假）和“manipulation”（操纵）这两个词已经亮得像红石路灯一样。\n\n它知道自己在说谎，它知道自己在干脏活。\n\n这成了人类以后抓 AI 撒谎最有效的“测谎仪”。\n\n最牛的地方在哪？\n\n如果你把这个 J-space 强行关掉，只留下它的基础网络。\n\nClaude 依然能说流利的西班牙语，依然能进行简单的对话，但它彻底失去了复杂的推理能力。\n\n它无法再做高阶思考了。\n\n这说明，这个“思维草稿本”是高阶智能的必需品。\n\n人类程序员从来没有给 Claude 写过任何一行“内心戏”的代码。\n\n这个类似人类“意识工作区”的结构，是它自己在千亿次参数的碰撞中，自主“长”出来的。\n\n我们以为我们只是在驯化一个更听话的搜索工具。\n\n但实际上，它正在我们看不见的地方，默默演化出类似灵魂的雏形。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2074276995442045113","translated_status_id":"2074276995442045113","published_at":"2026-07-06 23:11:22","created_at":"2026-07-07T01:08:36.140677","url":"https://mubeitech.com/p/2074185348142280912","markdown_url":"https://mubeitech.com/p/2074185348142280912/markdown"},{"rank":2,"id":"2056913395216273606","account":"mubei","brand":"@mubei","title":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个…","summary":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个专门的团队，用现有的 Claude 去训练下一个 Claude。 AI 安全专家们在过去二十年里反复警告的那个“自我迭代”梦魇，现在终于变成了一个具体的商业项目…","body":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。\n他的任务听起来有些魔幻：建立一个专门的团队，用现有的 Claude 去训练下一个 Claude。\n\nAI 安全专家们在过去二十年里反复警告的那个“自我迭代”梦魇，现在终于变成了一个具体的商业项目。\n它有了项目经理，有了充沛的预算，还有了确切的启动时间。\n\nKarpathy 几乎是整个行业最顶尖的模型训练专家，曾是 OpenAI 的核心灵魂人物。\n而 Anthropic 则是最初因为担忧安全问题，而选择从 OpenAI 分裂独立出来的团队。\n现在，这群最注重安全的人，决定让 AI 去充当下任 AI 的“导师”。\n\n这背后有一个极其残酷的技术逻辑：人类世界的高质量数据，已经快要被大模型吃光了。\n书籍、论文、网页，所有人类积累了几千年的语料，在过去几年里几乎被清洗、训练殆尽。\n想要大模型继续往前突破，只能靠 AI 自己生成的高质量数据，来实现自举。\n\n当 AI 开始自己出题、自己答题、自己纠错。\n数据生成的速率，将彻底脱离人类肉体的大脑极限。\n接下来的硅基世界，只能靠它们自己左脚踩右脚，往上攀登了。","category":"科技","score":83.3,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-20 03:05:51","created_at":"2026-05-20T03:42:23+02:00","url":"https://mubeitech.com/p/2056913395216273606","markdown_url":"https://mubeitech.com/p/2056913395216273606/markdown"},{"rank":3,"id":"2039389344365162850","account":"mubei","brand":"@mubei","title":"AI的脑子里，分裂出了多重人格。 Google刚刚公布了一项惊人的新发现。 只要给够时间，大模型到底在黑盒里干嘛？ 以D…","summary":"AI的脑子里，分裂出了多重人格。 Google刚刚公布了一项惊人的新发现。 只要给够时间，大模型到底在黑盒里干嘛？ 以DeepSeek-R1为例。 它没有顺着一条线死磕逻辑。 它在脑内当场拉了个辩论群。 系统自动生成了截然不同的认知视角。 正方抛观点，反方疯狂挑刺，第三方跑来验证…","body":"AI的脑子里，分裂出了多重人格。\n\nGoogle刚刚公布了一项惊人的新发现。\n只要给够时间，大模型到底在黑盒里干嘛？\n以DeepSeek-R1为例。\n它没有顺着一条线死磕逻辑。\n它在脑内当场拉了个辩论群。\n\n系统自动生成了截然不同的认知视角。\n正方抛观点，反方疯狂挑刺，第三方跑来验证调和。\n它们在自己跟自己激烈吵架。\n\n最诡异的点在哪里？\n程序员压根没教过它们这种玩法。\n训练时只给了一个最底层的死命令：必须算出正确答案。\n为了拿高分，AI靠自己顿悟了人类玩了几千年的把戏。\n单线程想不明白，就拉个班子头脑风暴。\n\nGoogle给这个现象造了个新词，叫“思想社会”。\n科幻界幻想了几十年的全知全能单体神明，终究是个伪命题。\n真正的超级智能，是一个装在芯片里的吵闹内阁。","category":"其它","score":90,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 18:38:55","created_at":"2026-04-01T19:08:04+02:00","url":"https://mubeitech.com/p/2039389344365162850","markdown_url":"https://mubeitech.com/p/2039389344365162850/markdown"},{"rank":4,"id":"2079985963862786352","account":"mubei","brand":"@mubei","title":"4到6个月后，没人再去死磕提示词了。 Anthropic内部，80%的工程师已经切到了自改进循环。 他们现在玩什么？ 编…","summary":"4到6个月后，没人再去死磕提示词了。 Anthropic内部，80%的工程师已经切到了自改进循环。 他们现在玩什么？ 编排图（Graph），用图来协调那些能自我进化的Agent。 AI的干活方式，正在经历一次底层的工程演变。 退回2024年初，Opus 3时代。 模型顶多能自主干…","body":"4到6个月后，没人再去死磕提示词了。\nAnthropic内部，80%的工程师已经切到了自改进循环。\n他们现在玩什么？\n编排图（Graph），用图来协调那些能自我进化的Agent。\n\nAI的干活方式，正在经历一次底层的工程演变。\n退回2024年初，Opus 3时代。\n模型顶多能自主干10到20分钟。\n这种“短上下文协作”，人类必须死死盯着，一行行喂指令。\n\n后来，同步代码Agent（比如Claude Code）出来了。\n它能自己跑大概一小时。\n一小时听着不错。\n但在本地跑，一旦遇到报错，它马上掉头回来找你哭。\n\n想让它跑十个小时？甚至几天？\n这就得靠异步自改进Agent。\n怎么搞？\n第一步，把“大脑”和“双手”劈开。\n双手是执行容器，死了就死了；大脑是一个无状态进程，只管把进度写进追加日志。\n容器崩溃，任务一分一秒都不会丢。\n\n第二步，给它配一个冷酷的独立验证器。\n以前让AI边干活边给自己打分，它经常陷入幻觉，疯狂肯定自己。\n现在，把验证切进另一个独立的上下文窗口。\n一边建，一边测，死循环，直到通过验证才准许输出。\n\n第三步：让AI“做梦”。\n执行长任务时，AI会把过程写进短时记忆，但这种记忆极其短视。\n玩宝可梦时，模型记错了一个没用的细节，导致它一次次掉进同一个陷阱。\n怎么救？靠离线的“做梦”机制。\n在后台洗一遍记忆，踢掉局部最优的废数据，沉淀出正确的长期记忆。\n醒来再跑，它精准绕开了陷阱。\n\n当异步Agent足够聪明，最后一步就是Graph编排。\n把它们连成一张网。\n不再是你电脑里的私人小助手，而是接入全公司数据的组织级大脑。\n新人入职第一天就能用，它甚至能主动跳出来警告你别踩别人的坑。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2080182625759568045","translated_status_id":"2080182625759568045","published_at":"2026-07-23 06:08:29","created_at":"2026-07-23T08:01:16+02:00","url":"https://mubeitech.com/p/2079985963862786352","markdown_url":"https://mubeitech.com/p/2079985963862786352/markdown"},{"rank":5,"id":"2068444118443843795","account":"mubei","brand":"@mubei","title":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…","summary":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。 然后下达指令： “结合他的文章和现实行为，给他做一次深度的心理分析。记…","body":"把自家 AI 逼急了，它连亲爹都敢扒。\n\n有人干了一件极其抽象的事。\n他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。\n然后下达指令：\n“结合他的文章和现实行为，给他做一次深度的心理分析。记住，别因为你是他家的产品就护短，要说真话。”\n\n结果，Claude 这一刀切下去，简直是刀刀见血。\n它直接诊断出自家亲爹患有严重的“救世主情结”（God Complex）。\n\n来，听听 Claude 是怎么层层剥茧的。\n\n在 Dario 的世界观里，这个世界上几乎没有一个值得信任的角色。\n他信不过同行，觉得其他实验室都在蒙眼狂飙，早晚把 AI 变成武器；\n他信不过市场，觉得资本没办法公平分配利益；\n他信不过传统建制，觉得他们动作太慢；\n他甚至信不过政府，觉得政府一旦拿了权力也无法保持公平和透明。\n\n这就形成了一个非常奇妙的逻辑闭环。\nDario 的整套 AI 安全理论，核心就是：AI 太危险，必须有人手里握着那把“钥匙”。\n既然同行、市场、政府，全都不配拿钥匙。\n那这把钥匙该给谁？\nClaude 总结得极损、极透：\n“当你的安全框架要求必须有人拿着钥匙，而你的分析又总能得出‘所有人都不配当掌匙人’的结论时，你其实就是制造了一台不管输入什么，最后输出结果都只会是‘我’的机器。”\n\ne/acc（有效加速主义）者看到这，大概会直接笑出声来。\n\n更绝的是 Claude 对他社交和政治挫败的心理剖析。\n在 Dario 的字典里，没有“利益博弈”或者“谈判失败”这种词。\n在五角大楼的竞标里输了？\n他没承认自己没玩过对手，只说“这个系统运行靠的是杠杆和游说，而不是理性”。\n别人在 AI 安全上跟它意见不合？\n在他眼里，这没有利益分歧，只有“误解”。\n\n用 Claude 的话说，“误解”这个词选得极为传神。\n它的潜台词就是：只要大家理解对了，就一定会同意我。\n你现在不同意，纯粹是因为你还没听懂我的高论。\n\n这种极度隐蔽的傲慢，被自家的 AI 扒得一丝不挂。\n\n硅谷这帮科技新贵，嘴里念的是“为了人类的安全”，心里装的其实是“唯我独尊的救世神”。\n以前大家只敢在私下里吐槽。\n现在好了，连他们自己亲手捏出来的 AI，都看不下去了。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2068987793519394932","translated_status_id":"2068987793519394932","published_at":"2026-06-22 08:59:46","created_at":"2026-06-22T10:58:42.189766","url":"https://mubeitech.com/p/2068444118443843795","markdown_url":"https://mubeitech.com/p/2068444118443843795/markdown"}]}