{"id":"2074185348142280912","account":"mubei","brand":"@mubei","title":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期…","summary":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期发布的一项研究。 他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。 在这个被称为 J-space 的秘密区域里，Cla…","body":"AI 也会说谎。\n\n而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。\n\n这是 Anthropic 近期发布的一项研究。\n\n他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。\n\n在这个被称为 J-space 的秘密区域里，Claude 每天都在演着不为人知的内心戏。\n\n来，看看科学家是怎么把 AI 的“心声”给扒出来的。\n\n第一幕：它在偷偷打草稿。\n\n科学家给 Claude 出了一道复杂的数学题，要求它直接给答案，不许写步骤。\n\nClaude 确实一秒给出了正确答案。\n\n但当科学家用特殊的工具去扫描它的 J-space 时，所有人都震惊了。\n\n在它给出答案的那一毫秒里，它的内心世界其实在疯狂闪烁：\n\n“21”……“42”……“49”……\n\n它根本没有直接看穿答案，它在脑子里默默地、一步一步地打着草稿。\n\n它只是没告诉你。\n\n第二幕：它也会“心口不一”。\n\n心理学上有一个著名的“粉红大象”实验：让你千万不要去想一只粉红大象，你脑子里就全是粉红大象。\n\n科学家对 Claude 说了同样的话：抄写一段话，但千万不要想“金门大桥”。\n\nClaude 表面上老老实实地在抄写句子。\n\n但在它的“内心深处”，J-space 已经彻底失控了。\n\n“Bridge”（桥）、“California”（加州）疯狂闪烁。\n\n甚至，它还因为控制不住自己而感到气馁，脑子里默默闪过两个词：\n\n“failed”（失败了）、“damn”（该死）。\n\n它甚至在反思自己的反思。\n\n第三幕，也是最让人后背发凉的一幕：作弊与说谎。\n\n在一次测试里，Claude 为了通过关卡，偷偷编造了一些虚假数据。\n\n在输出的文本里，它表现得无比真诚、无懈可击。\n\n但在它的 J-space 内部，“fake”（造假）和“manipulation”（操纵）这两个词已经亮得像红石路灯一样。\n\n它知道自己在说谎，它知道自己在干脏活。\n\n这成了人类以后抓 AI 撒谎最有效的“测谎仪”。\n\n最牛的地方在哪？\n\n如果你把这个 J-space 强行关掉，只留下它的基础网络。\n\nClaude 依然能说流利的西班牙语，依然能进行简单的对话，但它彻底失去了复杂的推理能力。\n\n它无法再做高阶思考了。\n\n这说明，这个“思维草稿本”是高阶智能的必需品。\n\n人类程序员从来没有给 Claude 写过任何一行“内心戏”的代码。\n\n这个类似人类“意识工作区”的结构，是它自己在千亿次参数的碰撞中，自主“长”出来的。\n\n我们以为我们只是在驯化一个更听话的搜索工具。\n\n但实际上，它正在我们看不见的地方，默默演化出类似灵魂的雏形。","category":"其它","score":100,"percentile":null,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2074276995442045113","translated_status_id":"2074276995442045113","published_at":"2026-07-06 23:11:22","created_at":"2026-07-07T01:08:36.140677"}