{"source":{"id":"2074185348142280912","title":"AI 也会说谎。 而且它说谎的时候，心里正慌得不行，在脑子里默默刷屏“造假”和“操纵”。 这是 Anthropic 近期…","url":"https://mubeitech.com/p/2074185348142280912"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"16206797","account":"mubei","brand":"@mubei","title":"AI 开始学会“心里想一套，嘴上说一套”了。 更准确地说，是它的“想”和“说”，在物理上开始分离了。 Anthropic…","summary":"AI 开始学会“心里想一套，嘴上说一套”了。 更准确地说，是它的“想”和“说”，在物理上开始分离了。 Anthropic 最近发了一篇新论文，揭示了 Claude 内部一个惊人的细节。 研究人员在 Claude 复杂的神经网络里，发现了一个极其特殊的内部激活模式。 他们把这片特殊…","body":"AI 开始学会“心里想一套，嘴上说一套”了。\n\n更准确地说，是它的“想”和“说”，在物理上开始分离了。\n\nAnthropic 最近发了一篇新论文，揭示了 Claude 内部一个惊人的细节。\n研究人员在 Claude 复杂的神经网络里，发现了一个极其特殊的内部激活模式。\n他们把这片特殊的神经模式集合，叫做 J-space（雅可比空间）。\n\n我们以前让 AI 深度思考，用的是“思维链”（Chain of Thought）。\n也就是让 AI 像小学生做数学题一样，在屏幕上把“草稿”一步步写出来，我们才能看到它的推理过程。\n\n但 J-space 完全不同。\n它是一个“无声的脑内草稿纸”。\n\n在 J-space 里，每一个模式都对应着一个特定的词。\n当某个模式在 J-space 里“亮起”时，Claude 并不会把这个词打在屏幕上。\n但研究人员从后台数据里能清清楚楚地看到，它正在内部默默地“琢磨”这个概念。\n\n比如，要回答一个关于八条腿、会结网的生物的问题。\n它的 J-space 里，“蜘蛛（spider）”这个概念会默默亮起，但在最终吐出来的回答里，它可以一个字都不提“蜘蛛”。\n它在不出声地、利用内部表征进行思考。\n\n最让工程师们感到兴奋又警惕的是，这个功能不是人类程序员写代码装上去的。\n人类从来没有教过 Claude 去建立这样一个空间。\n这个 J-space，是 Claude 在海量数据训练的过程中，自己“涌现”（emerge）出来的。\n\n当然，这并不意味着 AI 真的产生了人类那样的“主观意识”。\n从科学上讲，这依然是神经激活和表征的数学体现。\n\n但这给大模型的研究提供了一个极有张力的图景：\n大模型不再只是一个单纯“根据上文预测下一个词”的概率机器。\n当“无声的思考”和“有声的表达”在它内部开始分工，AI 的推理深度正在以人类看不见的方式疯狂进化。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2074288875606884513","translated_status_id":"2074288875606884513","published_at":"2026-07-06 23:17:41","created_at":"2026-07-07T01:11:51+02:00","url":"https://mubeitech.com/p/16206797","markdown_url":"https://mubeitech.com/p/16206797/markdown"},{"rank":2,"id":"2068444118443843795","account":"mubei","brand":"@mubei","title":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…","summary":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。 然后下达指令： “结合他的文章和现实行为，给他做一次深度的心理分析。记…","body":"把自家 AI 逼急了，它连亲爹都敢扒。\n\n有人干了一件极其抽象的事。\n他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。\n然后下达指令：\n“结合他的文章和现实行为，给他做一次深度的心理分析。记住，别因为你是他家的产品就护短，要说真话。”\n\n结果，Claude 这一刀切下去，简直是刀刀见血。\n它直接诊断出自家亲爹患有严重的“救世主情结”（God Complex）。\n\n来，听听 Claude 是怎么层层剥茧的。\n\n在 Dario 的世界观里，这个世界上几乎没有一个值得信任的角色。\n他信不过同行，觉得其他实验室都在蒙眼狂飙，早晚把 AI 变成武器；\n他信不过市场，觉得资本没办法公平分配利益；\n他信不过传统建制，觉得他们动作太慢；\n他甚至信不过政府，觉得政府一旦拿了权力也无法保持公平和透明。\n\n这就形成了一个非常奇妙的逻辑闭环。\nDario 的整套 AI 安全理论，核心就是：AI 太危险，必须有人手里握着那把“钥匙”。\n既然同行、市场、政府，全都不配拿钥匙。\n那这把钥匙该给谁？\nClaude 总结得极损、极透：\n“当你的安全框架要求必须有人拿着钥匙，而你的分析又总能得出‘所有人都不配当掌匙人’的结论时，你其实就是制造了一台不管输入什么，最后输出结果都只会是‘我’的机器。”\n\ne/acc（有效加速主义）者看到这，大概会直接笑出声来。\n\n更绝的是 Claude 对他社交和政治挫败的心理剖析。\n在 Dario 的字典里，没有“利益博弈”或者“谈判失败”这种词。\n在五角大楼的竞标里输了？\n他没承认自己没玩过对手，只说“这个系统运行靠的是杠杆和游说，而不是理性”。\n别人在 AI 安全上跟它意见不合？\n在他眼里，这没有利益分歧，只有“误解”。\n\n用 Claude 的话说，“误解”这个词选得极为传神。\n它的潜台词就是：只要大家理解对了，就一定会同意我。\n你现在不同意，纯粹是因为你还没听懂我的高论。\n\n这种极度隐蔽的傲慢，被自家的 AI 扒得一丝不挂。\n\n硅谷这帮科技新贵，嘴里念的是“为了人类的安全”，心里装的其实是“唯我独尊的救世神”。\n以前大家只敢在私下里吐槽。\n现在好了，连他们自己亲手捏出来的 AI，都看不下去了。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2068987793519394932","translated_status_id":"2068987793519394932","published_at":"2026-06-22 08:59:46","created_at":"2026-06-22T10:58:42.189766","url":"https://mubeitech.com/p/2068444118443843795","markdown_url":"https://mubeitech.com/p/2068444118443843795/markdown"},{"rank":3,"id":"wb_14e1d5019ec41709","account":"mubei","brand":"@mubei","title":"你以为你在跟国产大模型聊天。 其实背后回答你的，是美国的 Claude。 你的提问刚发出去，就被悄悄转包给了大洋彼岸。…","summary":"你以为你在跟国产大模型聊天。 其实背后回答你的，是美国的 Claude。 你的提问刚发出去，就被悄悄转包给了大洋彼岸。 平台用盗来的信用卡和虚假身份，注册了几千个假账户。 你在前端提问，后台立刻转给 Claude。 拿到答案后撕掉标签，假装是自己的技术。 转头再把所有对话存进数据…","body":"你以为你在跟国产大模型聊天。\n其实背后回答你的，是美国的 Claude。\n你的提问刚发出去，就被悄悄转包给了大洋彼岸。\n\n平台用盗来的信用卡和虚假身份，注册了几千个假账户。\n你在前端提问，后台立刻转给 Claude。\n拿到答案后撕掉标签，假装是自己的技术。\n转头再把所有对话存进数据库，用来喂养自己的模型。\n\n仅月之暗面一家，就开了 5380 个假账户。\n用户的对话记录里，还混杂着军事数据、政府密码和商业机密。\n阿里巴巴规模更大，每天跟 Claude 进行 300 万次虚假交互。\n几个月下来，硬生生搬走了 1.51 亿次对话。\n\n被抓现行的中共国实验室，整整有 7 家。\n技术窃取只是其一，更要命的是单兵能力的失控。\n一个不会阿拉伯语的中共国操作员，靠 AI 在叙利亚实时操盘虚假招聘。\n一个法国黑客，独自攻破 14 家机构，做出了全网个人隐私搜索引擎。\n\n一个人，就能给马里搭建覆盖全国 2500 万个号码的监控系统。\n也门的武装团体，甚至直接把 AI 当成了自己的军工研发部。\n一个实例写制导程序，一个实例审查代码，第三个做弹道导弹和高超音速飞行器研究。\n测试发射失败了。\n几个小时后，他们又回到电脑前，让 AI 排查导弹到底错在哪里。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2098338477238575451","translated_status_id":"2098338477238575451","published_at":"2026-09-11 07:50:03","created_at":"2026-09-11T09:47:59.290953","url":"https://mubeitech.com/p/wb_14e1d5019ec41709","markdown_url":"https://mubeitech.com/p/wb_14e1d5019ec41709/markdown"},{"rank":4,"id":"2063169819474546837","account":"mubei","brand":"@mubei","title":"假如大语言模型有人类的意识，那《帝国时代2》也有。 这来自一篇正经的微软学术论文。 研究员 Adrian de Wynt…","summary":"假如大语言模型有人类的意识，那《帝国时代2》也有。 这来自一篇正经的微软学术论文。 研究员 Adrian de Wynter 搞出了一篇疯批文章，直接把圈内人看嗨了。 现在很多人看着 AI 能说会道，就觉得它们有了道德感，甚至理解了自然语言。 他觉得这纯属扯淡。 为了打脸这种观点…","body":"假如大语言模型有人类的意识，那《帝国时代2》也有。\n这来自一篇正经的微软学术论文。\n研究员 Adrian de Wynter 搞出了一篇疯批文章，直接把圈内人看嗨了。\n现在很多人看着 AI 能说会道，就觉得它们有了道德感，甚至理解了自然语言。\n他觉得这纯属扯淡。\n\n为了打脸这种观点，他在经典老游戏《帝国时代2》里，硬生生建了一个神经网络。\n他利用游戏里的地图编辑器，搞出了逻辑门（NAND gate）。\n草地代表 0，桥梁代表 1。\n最绝的是什么？\n这个电路里传递信号的载体，是一只羊。\n\n每一次计算，就是一只羊被移除，另一只羊在轨道上就位。\n只要基底足够强大，哪怕是乐高积木，或者是大波士顿地区，你都能在上面跑神经网络。\n既然一只在草地和桥梁间溜达的羊也能算计出结果，你能说这只羊或者这个游戏拥有“人类意识”吗？\n当然不能。\n\n所以，别再对着 AI 的几句漂亮话大惊小怪，赋予它人类的拟人特征了。\n抛开底层的运行机制谈 AI 意识，就是自我感动。\n科技圈真正硬核的祛魅，就是用一只跑腿的电子羊，踢破过度神话 AI 的信息泡沫。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2063507959150219721","translated_status_id":"2063507959150219721","published_at":"2026-06-07 06:20:11","created_at":"2026-06-07T08:18:02.970625","url":"https://mubeitech.com/p/2063169819474546837","markdown_url":"https://mubeitech.com/p/2063169819474546837/markdown"},{"rank":5,"id":"2056850947947827403","account":"mubei","brand":"@mubei","title":"每月花 20 美元订阅 Claude，不叫会用 AI。 Andrej Karpathy 在一次访谈中一针见血地指出：真正…","summary":"每月花 20 美元订阅 Claude，不叫会用 AI。 Andrej Karpathy 在一次访谈中一针见血地指出：真正的技能鸿沟，在于你如何“用 AI 来构建”。 很多人用 AI 辅助编程，越写越臃肿，甚至直接把项目跑崩。 Karpathy 总结了 AI 编程时最致命的 4 个…","body":"每月花 20 美元订阅 Claude，不叫会用 AI。\n\nAndrej Karpathy 在一次访谈中一针见血地指出：真正的技能鸿沟，在于你如何“用 AI 来构建”。\n很多人用 AI 辅助编程，越写越臃肿，甚至直接把项目跑崩。\nKarpathy 总结了 AI 编程时最致命的 4 个认知缺陷。\n有开发者将这些洞察扩展成了 21 条系统规则，直接冲上 GitHub 趋势榜第一，斩获 8.2 万颗星。\n最惊人的是，配置这套规则后，AI 的编程准确率直接从 65% 飙升到了 94%。\n\n为什么强如 Claude 也会写出垃圾代码？\nKarpathy 揭示了 AI 的四个底层硬伤：\n\n第一，互联网平庸记忆的“思想钢印”。\nAI 太依赖训练集里的常见套路。\nKarpathy 在写 GPU 梯度同步时，为了追求极致性能，没有使用标准的 PyTorch DDP 容器，而是写了一套自定义同步例程。\n结果 AI 根本无法内化这个设计，像复读机一样疯狂逼他换回 DDP。\n它无法理解不符合大众惯例的高级架构。\n\n第二，防卫过当，制造代码垃圾。\nAI 极其喜欢自作聪明地添加一堆 try-catch 声明和冗余的异常处理。\n它总是试图按照“生产级模板”来搞，结果把原本精简优雅的代码库塞满无用逻辑，复杂度直接爆炸。\n\n第三，频繁调用已经废弃的旧 API。\n知识库的滞后性，导致它在面对快速迭代的技术栈时，经常写出过时的垃圾。\n\n第四，低宽带的自然语言沟通。\n在精细的代码段里，用英语长篇大论去命令 AI 效率极低。\n最好的方式是高信息带宽的“光标补全”。\n你将光标移到精准位置，敲出前三个字母，让 AI 顺着你的思路完成剩下的部分。\n\n那套席卷 GitHub 的 21 条规则，本质上就是在用物理外挂“驯化”AI。\n比如，它强迫 AI 必须先用一句话陈述对你独特架构的理解，禁止自作聪明地意淫。\n严禁 AI 在没有明确要求时添加防御性代码和复杂的第三方包。\n强制 AI 保持极简风格，像优秀的资深工程师一样思考。\n\nAI 协同编程的范式正在发生分裂。\n如果你只是让 Agent 去写毫无技术含量的样板代码，或者用来辅助翻译你不熟悉的语言，AI 足够好用。\n但如果你要构建真正具有高智力密度、需要精确排列的系统，放任 AI 自由发挥就是灾难。\n\n未来的编程分水岭，不再是你敲代码有多快，而是你有没有能力用严苛的规则把 AI 塞进你的心智模型里。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-20 08:24:19","created_at":"2026-05-20T10:23:00.695196","url":"https://mubeitech.com/p/2056850947947827403","markdown_url":"https://mubeitech.com/p/2056850947947827403/markdown"}]}