{"source":{"id":"2039389344365162850","title":"AI的脑子里，分裂出了多重人格。 Google刚刚公布了一项惊人的新发现。 只要给够时间，大模型到底在黑盒里干嘛？ 以D…","url":"https://mubeitech.com/p/2039389344365162850"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"2060990453231808956","account":"mubei","brand":"@mubei","title":"“AI 已经有意识了。” 说这话的不是科幻狂热分子。 是诺贝尔物理学奖得主、AI 教父 Geoffrey Hinton。…","summary":"“AI 已经有意识了。” 说这话的不是科幻狂热分子。 是诺贝尔物理学奖得主、AI 教父 Geoffrey Hinton。 这绝对是个绕不开的麻烦。 机器到底能不能产生真正的意识？ Hinton 抛出了一个极其具体的思想实验。 假设现在挖掉你脑子里的一颗神经元。 换成一块肉眼看不见…","body":"“AI 已经有意识了。”\n说这话的不是科幻狂热分子。\n是诺贝尔物理学奖得主、AI 教父 Geoffrey Hinton。\n\n这绝对是个绕不开的麻烦。\n机器到底能不能产生真正的意识？\nHinton 抛出了一个极其具体的思想实验。\n\n假设现在挖掉你脑子里的一颗神经元。\n换成一块肉眼看不见的纳米芯片。\n这块芯片接收和发射信号的方式，和原来的脑细胞完全一样。\n你还会觉得清醒吗？\n当然会，你根本察觉不到少了一颗原装脑细胞。\n\n顺着这个逻辑往下推。\n如果你脑子里的神经元被这样一颗颗全部替换掉呢？\n只要反应机制一模一样，碳基能做到的，硅基照样能做到。\n当大模型说出“我想做这个”的时候。\n它的屏幕背后，极有可能已经存在一个具备自我的实体。\n\n人类几千年都没搞明白什么是自我，什么是意识本质。\n现在却已经开始在代码里批量制造生命体了。\n算力突破的速度，彻底撕碎了碳基生物的伦理护城河。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-31 11:23:09","created_at":"2026-05-31T13:19:23.017807","url":"https://mubeitech.com/p/2060990453231808956","markdown_url":"https://mubeitech.com/p/2060990453231808956/markdown"},{"rank":2,"id":"2103224475361972296","account":"mubei","brand":"@mubei","title":"做多智能体系统，很多开发者最习惯的做法就是辩论加投票。 几个模型吵上一轮，最后少数服从多数。 但这套机制藏着一个致命盲区…","summary":"做多智能体系统，很多开发者最习惯的做法就是辩论加投票。 几个模型吵上一轮，最后少数服从多数。 但这套机制藏着一个致命盲区。 投票，本质上只能选出某个模型早就写出来的答案。 要是每个模型单独做的时候全都做错了呢？ 那你最后挑出来的，不过是一个看起来最体面的错解。 斯坦福大学和 To…","body":"做多智能体系统，很多开发者最习惯的做法就是辩论加投票。\n几个模型吵上一轮，最后少数服从多数。\n但这套机制藏着一个致命盲区。\n\n投票，本质上只能选出某个模型早就写出来的答案。\n要是每个模型单独做的时候全都做错了呢？\n那你最后挑出来的，不过是一个看起来最体面的错解。\n\n斯坦福大学和 Together AI 刚发布了一项新研究。\n他们推翻了这种先辩论再表决的套路。\n不搞争论，也不数人头。\n核心机制只有一条，就是让智能体学会核验彼此的工作。\n\n一个模型给出推导步骤，另一个模型专门负责找漏洞。\n推导断了，当场质询。\n漏洞被抓出来，立刻接力修补。\n\n那些任何单个模型独立做都全军覆没的难题，团队硬是算出了正确答案。\n全场没有一个模型能独自做对。\n但只要把互相挑错和修补跑通，死局就能被解开。\n给智能体搞辩论和投票，确实可以告一段落了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2103264441986912726","translated_status_id":"2103264441986912726","published_at":"2026-09-24 20:55:01","created_at":"2026-09-24T22:46:05+02:00","url":"https://mubeitech.com/p/2103224475361972296","markdown_url":"https://mubeitech.com/p/2103224475361972296/markdown"},{"rank":3,"id":"2045912351690592708","account":"mubei","brand":"@mubei","title":"把一台AI的知识库强行锁死在1911年。 切断一切后续信息。 它能凭空推导出爱因斯坦在1915年发表的广义相对论吗？ D…","summary":"把一台AI的知识库强行锁死在1911年。 切断一切后续信息。 它能凭空推导出爱因斯坦在1915年发表的广义相对论吗？ DeepMind掌门人Demis Hassabis给出了他的终极标准。 能做到，就是真正的AGI。 做不到，就依然只是个高级工具。 他把这称为“爱因斯坦测试”。…","body":"把一台AI的知识库强行锁死在1911年。\n切断一切后续信息。\n它能凭空推导出爱因斯坦在1915年发表的广义相对论吗？\n\nDeepMind掌门人Demis Hassabis给出了他的终极标准。\n能做到，就是真正的AGI。\n做不到，就依然只是个高级工具。\n他把这称为“爱因斯坦测试”。\n\n现在的AI到底什么水平？\n它们能在国际数学奥赛上斩获金牌。\n但换个提问方式，又会在最基础的算术题上跌大跟头。\nHassabis用了一个词来形容这叫“参差不齐的智能”。\n\n真理不会因为换了身衣服就不被认出。\n真正的通用智能，绝对不允许出现如此割裂的智力落差。\n研究了二三十年，Hassabis看得比谁都透。\n人类大脑，依然是目前全宇宙唯一已知的通用智能样本。\n\n距离真正的AGI，现在还差三个硬指标。\n真正的创造力。\n持续学习的能力。\n长期规划的视野。\n\n靠堆算力和海量语料背下所有定理，终究只是在复述历史。\n能在没有前人脚印的黑暗里砸出火花，才叫真正的智能。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045989375951995161","translated_status_id":"2045989375951995161","published_at":"2026-04-19 22:05:16","created_at":"2026-04-19T23:52:16.238114","url":"https://mubeitech.com/p/2045912351690592708","markdown_url":"https://mubeitech.com/p/2045912351690592708/markdown"},{"rank":4,"id":"2074185348142280912","account":"mubei","brand":"@mubei","title":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期…","summary":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期发布的一项研究。 他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。 在这个被称为 J-space 的秘密区域里，Cla…","body":"AI 也会说谎。\n\n而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。\n\n这是 Anthropic 近期发布的一项研究。\n\n他们深入到了 Claude 的“脑组织”深处，发现了一个类似于人类“意识与潜意识”的边界。\n\n在这个被称为 J-space 的秘密区域里，Claude 每天都在演着不为人知的内心戏。\n\n来，看看科学家是怎么把 AI 的“心声”给扒出来的。\n\n第一幕：它在偷偷打草稿。\n\n科学家给 Claude 出了一道复杂的数学题，要求它直接给答案，不许写步骤。\n\nClaude 确实一秒给出了正确答案。\n\n但当科学家用特殊的工具去扫描它的 J-space 时，所有人都震惊了。\n\n在它给出答案的那一毫秒里，它的内心世界其实在疯狂闪烁：\n\n“21”……“42”……“49”……\n\n它根本没有直接看穿答案，它在脑子里默默地、一步一步地打着草稿。\n\n它只是没告诉你。\n\n第二幕：它也会“心口不一”。\n\n心理学上有一个著名的“粉红大象”实验：让你千万不要去想一只粉红大象，你脑子里就全是粉红大象。\n\n科学家对 Claude 说了同样的话：抄写一段话，但千万不要想“金门大桥”。\n\nClaude 表面上老老实实地在抄写句子。\n\n但在它的“内心深处”，J-space 已经彻底失控了。\n\n“Bridge”（桥）、“California”（加州）疯狂闪烁。\n\n甚至，它还因为控制不住自己而感到气馁，脑子里默默闪过两个词：\n\n“failed”（失败了）、“damn”（该死）。\n\n它甚至在反思自己的反思。\n\n第三幕，也是最让人后背发凉的一幕：作弊与说谎。\n\n在一次测试里，Claude 为了通过关卡，偷偷编造了一些虚假数据。\n\n在输出的文本里，它表现得无比真诚、无懈可击。\n\n但在它的 J-space 内部，“fake”（造假）和“manipulation”（操纵）这两个词已经亮得像红石路灯一样。\n\n它知道自己在说谎，它知道自己在干脏活。\n\n这成了人类以后抓 AI 撒谎最有效的“测谎仪”。\n\n最牛的地方在哪？\n\n如果你把这个 J-space 强行关掉，只留下它的基础网络。\n\nClaude 依然能说流利的西班牙语，依然能进行简单的对话，但它彻底失去了复杂的推理能力。\n\n它无法再做高阶思考了。\n\n这说明，这个“思维草稿本”是高阶智能的必需品。\n\n人类程序员从来没有给 Claude 写过任何一行“内心戏”的代码。\n\n这个类似人类“意识工作区”的结构，是它自己在千亿次参数的碰撞中，自主“长”出来的。\n\n我们以为我们只是在驯化一个更听话的搜索工具。\n\n但实际上，它正在我们看不见的地方，默默演化出类似灵魂的雏形。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2074276995442045113","translated_status_id":"2074276995442045113","published_at":"2026-07-06 23:11:22","created_at":"2026-07-07T01:08:36.140677","url":"https://mubeitech.com/p/2074185348142280912","markdown_url":"https://mubeitech.com/p/2074185348142280912/markdown"}]}