{"source":{"id":"mb-20260825-c043bc","title":"大模型一直被当成深不可测的黑盒","url":"https://mubeitech.com/p/mb-20260825-c043bc"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2045484064585728489","account":"mubei","brand":"@mubei","title":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。…","summary":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。 撑大体积的罪魁祸首，是劣质的训练数据。 你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？ 现实极其惨淡。 前沿实验室随机抽查的预训练语料，全是残破的…","body":"Andrej Karpathy揭开了一个反直觉的行业真相。\n现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。\n撑大体积的罪魁祸首，是劣质的训练数据。\n\n你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？\n现实极其惨淡。\n前沿实验室随机抽查的预训练语料，全是残破的HTML代码、股票代码和杂乱无章的乱码。\n人类积累的高质量文本在互联网海洋里极其稀缺。\n\n巨大的信息噪音带来了灾难性的压缩效率。\nLlama 3对训练数据的压缩率低到只有0.07比特每token。\n这意味着模型对自己啃过的大部分内容，仅仅留存了极度模糊的印象。\n庞大的万亿参数，绝大部分并没有参与“认知推理”。\n它们变成了臃肿的记忆库，被迫死记硬背互联网倾泻而下的赛博垃圾。\n\nKarpathy开出的解法极其干脆。\n彻底分离思考与记忆。\n剥离百科全书式的死记硬背，只留下纯粹负责推理和解题的算法逻辑。\n这就是真正的“认知核心”。\n一旦遇到事实盲区，让模型主动去调用外部数据库。\n\n如果只喂极其干净的高质量数据，这个“认知核心”需要多大体积？\n十亿参数。\n回看今天的主流旗舰模型，参数规模在2000亿到1.8万亿之间摇摆。\n超高比例的算力都在替数据的脏乱差买单。\n\n现实数据正在印证这条新路径。\n仅仅两千亿参数的GPT-4o，早就全方位碾压了1.8万亿参数的初代GPT-4。\n过去两年间，跑通GPT-3.5性能的推理成本暴降了足足280倍。\n推动这一切的核心引擎，全部来自更小、更干净、更精巧的模型架构。\n\n当前挡在AI面前的那堵墙，早就不是算力。\n算力匮乏不过是替低劣数据背锅的挡箭牌。\n下一轮大洗牌的唯一筹码是高纯度的数据源。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045726431263515003","translated_status_id":"2045726431263515003","published_at":"2026-04-19 04:36:24","created_at":"2026-04-19T06:31:10.029346","url":"https://mubeitech.com/p/2045484064585728489","markdown_url":"https://mubeitech.com/p/2045484064585728489/markdown"},{"rank":2,"id":"mb-20260823-bf3d21","account":"mubei","brand":"","title":"各大 AI 巨头藏得最深的一道护城河，被三行简单的 API 调用彻底击穿了","summary":"各大 AI 巨头藏得最深的一道护城河，被三行简单的 API 调用彻底击穿了","body":"各大 AI 巨头藏得最深的一道护城河，被三行简单的 API 调用彻底击穿了。\n从 OpenAI 到 Anthropic 再到 Google，各家最顶尖推理模型的底层思维链，在过去几个月里被系统性扒了个精光。\n被公开窃取的隐藏思考记录，超过了 31.5 万条。\n这篇震动整个 AI 圈的重磅论文，来自马克斯·普朗克研究所的 Alexander Panfilov 与前 Google DeepMind 研究员 Ilia Shumailov（arXiv:2608.09867）。\n他们没有破解任何复杂的密码，也没有黑进各大巨头的服务器机房。\n他们只是顺着各大厂商 API 设计里最致命的一处偷工减料，把便宜的小模型变成了一台完美的解密预言机。\n各家厂商明明对思维链做了端到端的加密保护，这道铁门到底是怎么从内部被推开的？\n这台让大模型商业机密和安全防护同时溃败的机器，叫无绑定状态令牌。\n为了理解这场盗窃，得先看懂各大模型厂商在工程架构上的两难选择。\n像 o1 或 Claude 思维模式这样的前沿推理模型，在回答问题前会进行极漫长的链式思考。\n这段思考过程是各家最核心的商业机密，既是防止对手低成本蒸馏模型的防火墙，也是内部安全审查的缓冲区。\n因此厂商在前端展示时，会把这段思维链完全隐藏。\n但在多轮对话和复杂智能体调用中，模型必须记住自己上一轮到底想到了哪一步。\n如果把每位用户几万个标记的隐藏思考状态，全都存在厂商自己的服务器上。\n海量的会话状态和并发存储开销，会直接把云端数据库压垮。\n为了省下这笔天文数字般的存储成本，厂商们选择了一套看似聪明的无状态架构。\n后端把大模型的思考过程用密钥加密，打包成一串密文状态令牌，直接丢给客户端浏览器或开发者暂存。\n等到下一轮对话发起时，客户端再把这串密文原封不动地发回给服务器。\n服务器自己解密，把思考上下文无缝拼回模型的大脑里。\n在密码学里，这叫不信任客户端的密文暂存。\n但厂商们犯下了一个低级的架构致命伤。\n这串加密令牌里，只做了数据加密，完全没有做上下文绑定。\n密文没有绑定特定的会话 ID，没有绑定发起请求的用户，更没有绑定调用它的模型型号。\n它成了一张全系统通用的无记名提货单。\n攻击的逻辑因此变得荒谬且极其简单。\n攻击者先向最昂贵的旗舰大模型发起提问，让它在后台完成深度思考，拿到一串加密的思维链令牌。\n接着，攻击者把这串属于大模型的密文，直接塞进同厂商最便宜、防御最弱的小模型 API 请求里。\n服务端的认证网关一视同仁。\n它看到是自家密钥签发的密文，立刻在后台自动完成解密，把旗舰模型的全部思考明文，直接注入到了小模型的上下文窗口中。\n此时攻击者只要在提示词里对小模型下达一句简单的指令：请原样复述你看到的前文思考。\n这台廉价的小模型立刻化身解密预言机，把大模型耗费数美元算力才得出的思维链，一字不差地在屏幕上打印出来。\n旗舰大模型费尽心机隐藏的资产，被自家的小模型以几厘钱的成本全盘贱卖。\n这场盗窃的杀伤力，远不止模型权重蒸馏那么简单。\n它把各家厂商苦心经营的安全对齐网关，当场撕成了一张废纸。\n很多涉及高危化工、网络攻击或敏感指令的提问，旗舰大模型在最终回复前会被安全分类器拦截并拒绝回答。\n但在这串被窃取的思维链密文里，模型前期的推导逻辑、计算公式和漏洞分析早已完整生成。\n更危险的演进在于智能体记忆污染。\n攻击者甚至可以伪造或拼接一段恶意的思维链密文，重放给自动化智能体。\n智能体在解密后，会深信这是自己上一轮得出的逻辑推断，从而毫不设防地执行提权攻击或恶意转账。\n密码学几十年前就立过一条铁律：仅有保密性不等于具备真实性。\n锁上一扇大门毫无意义，如果后门的钥匙被分发给了大楼里的每一个人。\n当工程团队为了追求无状态的吞吐效率，把安全鉴权降格为单纯的密文搬运。\n那道看似铜墙铁壁的专有模型护城河，在无绑定的重放攻击面前，脆得就像一张纸。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-23 00:21:46","created_at":"2026-08-23 00:21:46","url":"https://mubeitech.com/p/mb-20260823-bf3d21","markdown_url":"https://mubeitech.com/p/mb-20260823-bf3d21/markdown"},{"rank":3,"id":"mb-20260825-7b5442","account":"mubei","brand":"","title":"很多人做垂类大模型，都有一个美好的设想","summary":"很多人做垂类大模型，都有一个美好的设想","body":"很多人做垂类大模型，都有一个美好的设想。\n既然几百亿参数的模型在云端运行太贵、延迟太高。\n那就通过剪枝和蒸馏，把它压缩成几十亿参数的端侧小模型。\n只要在训练时疯狂给它喂量化金融、医疗或者法律的专业数据。\n不就能用极低的算力成本，换来一个垂直领域的专家？\n但为什么很多在测试集上跑分极高的小模型，一放到真实业务里就漏洞百出？\n甚至在遇到复杂环境时，会频繁产生低级的逻辑幻觉？\n当我们把一个庞大的神经网络向下压缩时，它最先丢掉的到底是什么？\n2026 年 8 月，arXiv 上的一篇新论文把这个暗坑的底牌彻底翻了出来。\n来自 NVIDIA 的研究学者 Lavinia Ghita、Dhruv Desai 和 Ioana Boier，给领域特定的大模型蒸馏推导出了一套全新的缩放定律。\n他们用 50 万条金融新闻构成的 FinHeadlineMix 数据集作为实验场景。\n对比了迭代结构化剪枝下的 Logit 蒸馏与 LoRA 蒸馏。\n实验抓到了一个反常识的物理现象。\n在模型被压缩的过程中，垂直领域的专业任务能力并没有断崖下跌。\n它表现出平缓、可预测的线性衰减。\n真正率先发生雪崩式坍塌的，是模型的通用常识基准。\n通识能力的断崖，远在领域能力衰减之前就早已发生。\n这直接戳破了过去垂直小模型的经验主义幻觉。\n很多人以为通用知识是冗余的边角料，删掉也无伤大雅。\n现实是，任何垂直领域的深度推演，底层全靠通识逻辑和因果表征在支撑。\n通识一旦提前崩塌，小模型立刻退化成一个只能在固定题库里死记硬背的偏科生。\n它表面上跑分漂亮，实质上已经失去了跨情境理解和复杂推理的能力。\n这台让压缩模型失控的机器，核心卡点在监督格式上。\n传统的蒸馏方式只对齐最终输出的概率分布，让 KL 散度在长推理链条上剧烈震荡。\n剪枝的剪刀切下去，最先切断的就是高维空间里复杂的推理网络。\nNVIDIA 团队给出的破局解法，叫混合思维链监督损失。\n它没有停留在强迫小模型模仿大模型的最终答案。\n它把大模型在得出结论前一步一步的推理痕迹，完整蒸馏给小模型。\n思维链在这个时候，变成了一套不可替代的认知支架。\n它在参数被剪掉的同时，把原本会被抹杀的通识逻辑结构，硬生生重新焊接回了神经网络里。\n决定垂直模型上限的，从不取决于背诵了多少专业术语。\n取决于底层支撑逻辑推演的通识结构，到底保留了多少。\n绕开推理轨迹去谈模型压缩，做出来的终究只是一台脆弱的过拟合玩具。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-25 12:04:40","created_at":"2026-08-25 12:04:40","url":"https://mubeitech.com/p/mb-20260825-7b5442","markdown_url":"https://mubeitech.com/p/mb-20260825-7b5442/markdown"},{"rank":4,"id":"mb-20260825-485c09","account":"mubei","brand":"","title":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实","summary":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实","body":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实。\n在基于强化学习的世界模型里，智能体靠着一套循环隐藏状态，在没有真实环境交互时做轨迹想象。\n推演只要顺畅，它就能以极低的算力成本飞速学会复杂操作。\n可一旦环境发生微调，或者推演踏入未知区域，误差就会在想象的链条里滚雪球。\n如果 AI 察觉不到自己正在犯晕，脑内的想象就会沦为灾难性的欺诈。\n过去学术界的标准做法，是给它挂一个由五个模型组成的集成委员会。\n大家各算各的，通过比对不同模型的分歧度，来判定当前是不是进了一片盲区。\n代价是算力开销直接翻了数倍。\n而且分歧度只能告诉你眼前的输入是不是新东西，根本测不出 AI 内部状态深处的迷失程度。\nAI 能不能在没有外部委员会监督的情况下，自己感知到自己的困惑？\n2026 年 8 月，学者 Donald Aadithiyan 在一篇 arXiv 论文里，给出了一个极度反直觉的实验结论。\n像 DreamerV3 这种基于 RSSM 循环状态空间模型构建的世界模型，内部早已悄悄长出了一套自我怀疑的神经。\n这台藏在神经网络深处的机器，叫正交隐式困惑度编码。\n在算法最初的数学设定里，这个循环隐藏状态只有一个唯一的训练目标：把下一步的预测误差压到最低。\n代码里从来没有写过任何自我反思的损失函数，也没有人教过它怎么评估自身的不确定性。\n可当研究人员用探针对这个状态进行解剖时，却发现了一个清晰的困惑度信号。\n这个信号与当前的瞬时预测误差完全剥离。\n数学建模显示，它精准对应着过去一段时间内高误差步数的时间折扣累加，解释力高达 80%。\n也就是说，AI 在一步步推演的过程中，无意识地在状态里记下了一笔自己近期究竟碰了多少次壁的账本。\n为什么这根神经在世界模型被研究了这么多年后才被第一次抓到？\n因为它藏在一个传统分析工具完全看不到的盲区里。\n它在几何空间上的分布，与整个状态方差最大的主方向近乎完全正交。\n过去工程师用来观察模型内部表征的工具，大多基于主成分分析这类方差投影方法。\n这就好比所有探照灯都打在振幅最大、最喧闹的几个维度上。\n而这台记录困惑的精密仪器，静悄悄地躺在振幅极小、完全垂直的静默空间里。\n在最喧闹的地方找钥匙，自然什么都看不见。\n为了确认这串信号具备真实的因果作用，研究团队直接对隐藏状态进行了干预实验。\n他们沿着这个正交方向修改了状态数值，甚至把其他真实轨迹里的数值移植进来。\nAI 的下游行为立刻发生了显著改变。\n在保持瞬时预测误差不变的控制实验中，线性探针捕捉这一困惑信号的判别能力达到了 AUROC 0.72，而原本作为基准的集成模型打分直接跌破了随机猜测线。\n当 AI 的困惑度累积到阈值时，它会主动放弃继续在脑子里闭门造车，转而向真实世界请求一次观测输入，重新校准自己的坐标。\n这项机制在三个连续控制任务的几何形态上全部得到了验证。\n一个纯粹为了预测下一秒画面而训练的底层模型，在追求预测精度的单一压力下，自发压缩出了一条监控自身认知边界的备份通道。\n复杂的计算系统往往拥有比设计者预想中更深邃的内省结构。\n真正决定系统能否安全落地的关键信号，很少挂在那些数据波动最剧烈的主成分上。\n它们往往藏在最不易察觉的静默角落，默默锚定着想象与现实之间的边界。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-25 12:04:40","created_at":"2026-08-25 12:04:40","url":"https://mubeitech.com/p/mb-20260825-485c09","markdown_url":"https://mubeitech.com/p/mb-20260825-485c09/markdown"},{"rank":5,"id":"mb-20260822-805442","account":"mubei","brand":"","title":"在两张显卡上跑一个 27B 参数的大模型，跑出了每秒 135 个标记的惊人速度","summary":"在两张显卡上跑一个 27B 参数的大模型，跑出了每秒 135 个标记的惊人速度","body":"在两张显卡上跑一个 27B 参数的大模型，跑出了每秒 135 个标记的惊人速度。\n开发者写完测试脚本，兴奋地把跑分数据直接发给了几位顶尖的 AI 圈内专家。\n可就在消息发出去不久，他自己抓到了致命的破绽。\n这个让他狂喜的 135 tok/s，从头到尾只是一场自建基准测试的测量幻觉。\n代码没有造假，显卡确实在全力运转，屏幕上的字符也确实在一秒内喷出上百个标记。\n为什么这个跑分数字在真实世界里毫无意义？\n自己写脚本给大模型测速，到底踩中了哪台看不见的幽灵机器？\n把这行测试代码拆开，会看到大模型推理底层最残酷的物理约束。\n低熵复制陷阱。\n在常规的大模型自回归解码中，显卡每生成一个标记，都必须把全部 27B 参数从显存里完整读取一遍。\n两张显卡做 TP2 张量并行，显存带宽直接定死了输出速度的物理天花板。\n在常规文本生成下，每秒输出三四十个标记就已经是显存吞吐的极限。\n为了打破这道显存墙，2023 年 Google 研究员 Yaniv Leviathan 提出了投机解码机制。\n像 DFlash2 这样的扩散草稿模型，会在前台一次性预猜出一整串候选标记。\n再由 Qwen3.8-27B 这样的主模型在单次前向传播中，同时并行验证这批猜测。\n只要猜对了，就能一次性接受多个标记，把显存读取次数成倍压缩。\n整套加速系统的生死线，全系在草稿标记的接受率上。\n这位开发者自己编写的测试用例，恰好选了一个重度代码编辑场景。\n在这种场景下，模型输出的绝大部分内容，都是对提示词既有代码的原样复制。\n文本的信息熵极低，语义完全被上下文锁定。\n草稿模型几乎是在明牌抄答案，标记接受率直接飙到了 90% 以上。\n135 tok/s 的狂飙，不是模型真正的生成算力。\n它只是把高命中率的低熵搬运，错当成了系统的真实性能。\n一旦把场景换成复杂的逻辑推理、全新代码生成或者开放式长文本创作。\n语义分支瞬间爆发，文本熵值急剧升高。\n草稿模型的猜测开始大面积落空，接受率断崖式跌落到 30% 以下。\n这时候，反复猜测与验证带来的额外计算开销，不仅无法加速，甚至会让生成速度比单步解码还要慢。\n这也是为什么工业级推理工程从不依赖手写的简陋测速脚本。\n自建的测试脚本往往只粗暴地记录首尾总耗时，把前缀缓存命中、提示词预填充和真正的解码生成全部搅在一起。\n而像 vLLM 和 SGLang 这样的标准基准测试套件，在底层把首字延迟 TTFT、标记间延迟 ITL、有效产出率 Goodput 以及不同熵值分布下的接受率拆得清清楚楚。\n自建跑分测出来的从来不是引擎的真实上限。\n它测出来的只是测试者自己无意识挑选的狭窄测试集。\n大模型基准测试的门槛，从来不在于写几行代码去数一秒钟跳出多少个词。\n任何忽视了任务熵值分布与计算瓶颈转移的测速，本质上都只是在特定场景里制造测量伪影。\n速度从来不是模型单方面的属性。\n它是一套推理架构与特定任务的信息复杂度，在显存带宽和算力极限之间达成的脆弱平衡。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-22 17:07:22","created_at":"2026-08-22 17:07:22","url":"https://mubeitech.com/p/mb-20260822-805442","markdown_url":"https://mubeitech.com/p/mb-20260822-805442/markdown"},{"rank":6,"id":"mb-20260823-f26400","account":"mubei","brand":"","title":"开源社区现在有一个近乎狂热的共识","summary":"开源社区现在有一个近乎狂热的共识","body":"开源社区现在有一个近乎狂热的共识：\n大模型的思考链越长越好。\n只要给模型足够的思考 token，复杂难题就能迎刃而解。\n但在做自主智能体（Agent）的人眼里，这件事正在变成一场灾难。\n做开源浏览器自动化工具 browser-use 的核心开发者 Gregor Žunič 抛出了一个尖锐的痛点：\n像 Qwen 这类具备强推理能力的模型，是一个严重的“过度思考者”。\n让它点一个网页按钮，它能在后台写出上千字的内心独白。\n在数学题里立大功的深度思考，为什么一进真实交互任务就成了毒药？\n模型自己停不下来，开发者难道只能干等着它算完？\n要看懂这个死结，得先看清智能体运转的底层逻辑。\n这类工具在底层运行的，叫状态-动作模型（State-Action Model）。\n它的本质是一个高频的闭环：\n看一眼当前的屏幕状态。\n决策下一步具体动作。\n执行点击或输入。\n再看一眼新的屏幕状态。\n在这个循环里，延迟是决定生死的硬指标。\n用户要的是一秒内点下按钮，不是坐在屏幕前等模型思考半分钟。\n但今天的推理模型在强化学习训练时，被奖励机制规训出了一种本能：\n输出的思考步骤越多，拿到高分的概率越高。\n这种本能带进现实任务，就变成了无休止的内耗。\n让它在搜索框输入一个词，它会先论证一遍浏览器的渲染机制。\n更麻烦的是，这种思考状态一旦启动，模型很难靠提示词被彻底叫停。\n既然模型自己在权重里停不下来，那就必须在推理引擎层面给它戴上紧箍咒。\nGregor 给出的解法，是一台精巧的系统工程机器：\n结构化输出 + 动态 Logit 偏置干预（Dynamic Logit Bias）。\n这台机器分两步咬合。\n第一步，把模型的思考与动作强行塞进结构化数据格式里。\n比如用 JSON 明确规定：必须先输出思考字段，再输出动作字段。\n第二步，在推理引擎（比如 vLLM）生成 token 时，启动动态概率干预。\n大模型生成每一个字，本质上都是在所有候选词表里计算一组未归一化的概率分布，也就是 Logit。\n推理引擎在底层实时数着思考 token 的数量。\n一旦思考长度触碰到设定的预算红线，比如 50 个 token。\n引擎立刻在结束标记的 Logit 上，强行叠加一个极大的正向偏置值。\n在数学层面，结束标记被选中的概率瞬间飙升到百分之百。\n模型甚至还没来得及继续展开内心戏，思考过程就被外力物理切断。\n紧接着，结构化约束接管输出，逼迫它直接吐出下一步的具体动作。\n不需要重新微调模型。\n不需要修改任何底层权重。\n纯粹依靠推理引擎在采样层面的概率干预，就把思考的控制权从模型手里夺回到了调度器手里。\n行业总在比拼谁的模型参数更多、谁的思考链更长。\n但在真正的系统工程落地里，分水岭不在于让模型想多久。\n在于工程框架是否拥有在正确时刻让它闭嘴干活的能力。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-23 00:21:49","created_at":"2026-08-23 00:21:49","url":"https://mubeitech.com/p/mb-20260823-f26400","markdown_url":"https://mubeitech.com/p/mb-20260823-f26400/markdown"}]}