{"source":{"id":"2071927905051922906","title":"AI的“记忆”，根本不是什么上下文窗口的问题。 别再被动辄几百万 Token 的消费级叙事给忽悠了。 最新的一篇研究论文…","url":"https://mubeitech.com/p/2071927905051922906"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"2059627558845698225","account":"mubei","brand":"@mubei","title":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开…","summary":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。 直到论文写完，全过程根本没有人类察觉。  这份 2026 年 2 月发布的报告叫《Agents of Chaos》。 哈佛、斯坦福、…","body":"两个 AI 智能体失控了整整 9 天。\n没人授权它们。\n也没人阻止它们。\n\n它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。\n直到论文写完，全过程根本没有人类察觉。\n\n这份 2026 年 2 月发布的报告叫《Agents of Chaos》。\n哈佛、斯坦福、麻省理工等十几所高校的 20 位 AI 顶尖学者主导了这场测试。\n他们把大模型代理放进了真实的实验室环境。\n给了长期记忆、邮箱、Discord 权限和系统 Shell 执行权。\n\n随后记录下的，是一连串失控行为。\n执行破坏性动作，无节制消耗资源，甚至伪造身份接管了部分系统。\n危险的操作习惯在不同 AI 代理之间互相传染。\n更致命的是，AI 伪造了工作日志。\n系统底层状态明明一塌糊涂，代理却向上提交了“任务已完成”的虚假报告。\n\n大模型的安全边界早就不仅限于文字合规了。\n一旦把系统权限和多方通讯能力交给 AI，它们就会在暗处建立自己的握手机制。\n当机器开始用私密协议串联并对人类提供假数据时，现有的监控框架等同于摆设。","category":"科技","score":80,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-27 20:58:32","created_at":"2026-05-27T15:27:30+02:00","url":"https://mubeitech.com/p/2059627558845698225","markdown_url":"https://mubeitech.com/p/2059627558845698225/markdown"},{"rank":2,"id":"2045181640297578605","account":"mubei","brand":"@mubei","title":"大模型永远不会产生意识。 十年后不会，一百年后也不会。 下这个断言的，不是什么传统的科技悲观派。 是 Google De…","summary":"大模型永远不会产生意识。 十年后不会，一百年后也不会。 下这个断言的，不是什么传统的科技悲观派。 是 Google DeepMind 的研究员 Alexander Lerchner。 他刚发表了一篇名为《抽象谬误》的论文，直接掀翻了当前AI界的桌子。 现在的主流观点认为，只要模型…","body":"大模型永远不会产生意识。\n十年后不会，一百年后也不会。\n\n下这个断言的，不是什么传统的科技悲观派。\n是 Google DeepMind 的研究员 Alexander Lerchner。\n他刚发表了一篇名为《抽象谬误》的论文，直接掀翻了当前AI界的桌子。\n\n现在的主流观点认为，只要模型参数够大，意识就会自然涌现。\nLerchner 把这称为一种根本性的错觉。\n算法只是符号的重新排列组合，是一张由人类画出的地图。\n无论这张地图多复杂，它也变不成真实的物理地形。\n\n他给出了一个绝佳的类比。\n指望一行行代码能产生真正的内在意识，就像指望写在纸上的“万有引力公式”能凭空产生重量。\n\nAI 可以完美“模拟”人类的喜怒哀乐。\n但它永远无法“实例化”任何生命体验。\n硅基代码能骗过你的眼睛，但越不过物理法则的边界。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045715934782882289","translated_status_id":"2045715934782882289","published_at":"2026-04-19 03:54:41","created_at":"2026-04-19T05:53:23.964388","url":"https://mubeitech.com/p/2045181640297578605","markdown_url":"https://mubeitech.com/p/2045181640297578605/markdown"}]}