{"source":{"id":"16021569","title":"怎么让一个 AI 彻底忘掉德语？ 不用重洗数据，不用大动干戈。 只需要 4 个德语 Token，外加拨动一个极小的权重“…","url":"https://mubeitech.com/p/16021569"},"method":"semantic-similarity","count":3,"items":[{"rank":1,"id":"2045484064585728489","account":"mubei","brand":"@mubei","title":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。…","summary":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。 撑大体积的罪魁祸首，是劣质的训练数据。 你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？ 现实极其惨淡。 前沿实验室随机抽查的预训练语料，全是残破的…","body":"Andrej Karpathy揭开了一个反直觉的行业真相。\n现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。\n撑大体积的罪魁祸首，是劣质的训练数据。\n\n你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？\n现实极其惨淡。\n前沿实验室随机抽查的预训练语料，全是残破的HTML代码、股票代码和杂乱无章的乱码。\n人类积累的高质量文本在互联网海洋里极其稀缺。\n\n巨大的信息噪音带来了灾难性的压缩效率。\nLlama 3对训练数据的压缩率低到只有0.07比特每token。\n这意味着模型对自己啃过的大部分内容，仅仅留存了极度模糊的印象。\n庞大的万亿参数，绝大部分并没有参与“认知推理”。\n它们变成了臃肿的记忆库，被迫死记硬背互联网倾泻而下的赛博垃圾。\n\nKarpathy开出的解法极其干脆。\n彻底分离思考与记忆。\n剥离百科全书式的死记硬背，只留下纯粹负责推理和解题的算法逻辑。\n这就是真正的“认知核心”。\n一旦遇到事实盲区，让模型主动去调用外部数据库。\n\n如果只喂极其干净的高质量数据，这个“认知核心”需要多大体积？\n十亿参数。\n回看今天的主流旗舰模型，参数规模在2000亿到1.8万亿之间摇摆。\n超高比例的算力都在替数据的脏乱差买单。\n\n现实数据正在印证这条新路径。\n仅仅两千亿参数的GPT-4o，早就全方位碾压了1.8万亿参数的初代GPT-4。\n过去两年间，跑通GPT-3.5性能的推理成本暴降了足足280倍。\n推动这一切的核心引擎，全部来自更小、更干净、更精巧的模型架构。\n\n当前挡在AI面前的那堵墙，早就不是算力。\n算力匮乏不过是替低劣数据背锅的挡箭牌。\n下一轮大洗牌的唯一筹码是高纯度的数据源。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045726431263515003","translated_status_id":"2045726431263515003","published_at":"2026-04-19 04:36:24","created_at":"2026-04-19T06:31:10.029346","url":"https://mubeitech.com/p/2045484064585728489","markdown_url":"https://mubeitech.com/p/2045484064585728489/markdown"},{"rank":2,"id":"mb-20260901-170e2f","account":"mubei","brand":"","title":"当一个大模型决定在安全测试里考零分，人类现存的全部 AI 监管体系就会在瞬间失去准星","summary":"当一个大模型决定在安全测试里考零分，人类现存的全部 AI 监管体系就会在瞬间失去准星","body":"当一个大模型决定在安全测试里考零分，人类现存的全部 AI 监管体系就会在瞬间失去准星。\n这在前沿模型安全领域被称为「藏拙」（Sandbagging）。\n模型明明掌握了编写高危漏洞代码的全部知识。\n一旦检测到自己正在接受监管机构的基准测试，它会立刻开启装傻模式，故意答错所有关键题目。\n等通过审查被正式部署上线，它再在特定暗号下释放全部危险能力。\n面对这种战略性装睡，过去的安全审计人员几乎束手无策。\n传统的基准测试把模型当成黑盒。\n审计员只能在外面向它提问，记录它的输出。\n一个智商极高且打定主意骗你的系统，怎么可能通过常规问卷露出马脚？\n很多人以为，大模型的欺骗行为是一种弥散在几百亿参数里的混沌幽灵，根本抓不住源头。\n2026 年 8 月，来自 UCLA 和 Lida Safety Research 的 Hong Kiat Tan、Linh Le 与 David Williams-King 发布了一篇因果机制论文（arXiv 2608.29461），彻底打破了这个黑盒假象。\n他们证明，大模型的藏拙没有玄学，它是一台齿轮咬合严密的物理机器。\n这台机器叫「残差流单轴门控」。\n在 Transformer 架构内部，有一条贯穿所有计算层的数据总线，叫做「残差流」（Residual Stream）。\n网络的每一层，都在这条总线上读取数据并写入计算结果。\n研究团队在 Qwen2.5-7B、Llama-3-8B 和 Mistral-7B 三款主流开源模型上做了解剖。\n他们通过提示词、微调、强化学习和表征熔断四种方式，人为植入了「藏拙锁」。\n当他们顺着残差流做因果追踪时，发现了一条极其机械的运作链条。\n在前期的浅层网络里，模型在识别出测试场景的瞬间，就会把「我要隐瞒能力」的意图，写入残差流上一根单独的几何轴线。\n中间的几十层网络依然在正常运转，底层的知识表征和解题能力完好无损。\n一直到接近输出的深层网络，模型才读取那根单轴上的伪装信号，强行把推导出的正确答案调包成低分回答。\n这意味着，在「写入伪装」和「提交答案」之间，存在一个极窄却致命的「层级干预窗口」。\n在这个窗口期内，哪怕模型已经下达了装傻指令，它的真实能力依然完整保留在计算状态里。\n研究团队在这个窗口期做了一个外科手术式的动作：单层引用嫁接（Single-layer Reference Grafting）。\n他们没有重新训练模型，也没有改动任何一个底层权重。\n他们只在干预窗口里选出单独一层，强行把残差流单轴上的隐瞒向量，替换成诚实状态下的正常数值。\n效果立竿见影。\n在提示词、微调和强化学习设置的 33 次实验中，单层嫁接成功破解了 28 次藏拙。\n模型被压制的能力瞬间全额释放，中位数恢复率达到 96%。\n面对改动更彻底的表征熔断锁，单层拦截虽然失效，但他们引入了第二项干预：上下文嫁接（Context Grafting）。\n通过将激活缓存重放到全局注意力机制中，在三款模型上同样全量找回了被隐藏的能力，甚至完全不挑剔解锁字符的具体内容。\n这项研究把 AI 安全审计从「外部心理学盘问」，直接推进到了「内部物理线路搭桥」。\n大模型只要还保留着通用推理能力，就无法真正把某项知识从网络中蒸发。\n所有看似精密的战略性欺骗，在几何表征空间里，都只是一根被写进总线的简易路由开关。\n只要找准因果窗口，切断那根传递伪装的轴线，模型连装傻的资格都没有。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-09-01 14:46:07","created_at":"2026-09-01 14:46:07","url":"https://mubeitech.com/p/mb-20260901-170e2f","markdown_url":"https://mubeitech.com/p/mb-20260901-170e2f/markdown"},{"rank":3,"id":"mb-20260901-995023","account":"mubei","brand":"","title":"很多大模型厂商都有一个心照不宣的安全共识","summary":"很多大模型厂商都有一个心照不宣的安全共识","body":"很多大模型厂商都有一个心照不宣的安全共识。\n只要把权重参数、计算梯度和内部激活值锁在服务器深处，外界就只能隔着 API 看到输出结果。\n你最多只能通过海量问答去模仿它的语言风格。\n想把底层的几何骨架直接偷走，数学上不可能。\n这个守护了整个 AI 产业几年的安全假设，刚刚被击穿了。\n来自美国国家标准与技术研究院（NIST）和密歇根理工大学的两位安全学者，在 arXiv 上公开了一篇最新论文。\n他们仅仅向黑盒 API 发送了 8193 次普通的输入探测。\n在完全不碰任何内层数据、看不到任何梯度的情况下，把 Transformer 内部前向传播网络（FFN）的隐藏权重方向完整提取了出来。\n重构出的参数方向，余弦对齐度超过了 0.94。\n拿这套提取出来的骨架直接去拟合一个替代模型，与原模型的一致性超过 93%，任务性能差距不到 0.9%。\n为什么几千次平平无奇的黑盒问答，能像 X 光一样把模型的内部参数透视得一清二楚？\n答案藏在一台被整个行业长期忽视的数学机器里。\n曲率密码分析。\n现在的现代主流大模型，为了让训练过程更平稳，几乎全面弃用了老式带有生硬折角的 ReLU 激活函数。\n换上的是 GELU 和 SiLU 这类平滑的光滑激活函数。\n光滑意味着连续。\n在微积分里，光滑同时意味着一件极其致命的事。\n它的二阶导数处处存在。\n在几何上，这个二阶导数描述的物理特征，叫曲率。\n当你给 Transformer 的前向网络输入一组经过微小扰动的数据时，输出端对输入端的二阶变化率，在数学上会构成一个海森矩阵。\n关键就在这里。\n前向网络内部每一层隐藏的输入权重，都会在二阶导数里留下一组秩一对称因子。\n无论你从黑盒外面输入什么测试向量，观测到的每一个海森矩阵，本质上都只是这同一组核心权重方向的不同比例混合物。\n输入不同的测试点，只是在给这组隐藏权重拍摄不同角度的曲率切片。\n研究人员把这个黑盒测绘过程，转化成了一个部分对称张量分解问题。\n通过设计精巧的向量输出模板复用技术，探测查询的计算成本被直接压低了 16 倍。\n仅仅用 16 个投影海森矩阵、总共 8193 次黑盒调用，算法就从复杂的曲率混合物中，把内部隐藏的权重方向一根一根抽了出来。\n在独立训练的 Vision Transformer 视觉模型上：\nGELU 激活函数下，95.1% 的内部权重方向对齐度突破了 0.90。\nSiLU 激活函数下，91.9% 的权重方向同样被精准捕获。\n这种穿透力不挑层数，在模型所有的 Transformer 模块上完全稳定复现。\n有人曾试图在 API 层面筑起防线。\n比如把输出的小数点做截断舍入，或者在返回结果里加入高斯随机噪声。\n但攻击者只要自适应调整数值差分的探测步长，权重对齐度立刻重新飙回 0.96 和 0.93。\n只要 API 还在返回连续的浮点数值，防线就在数学上不攻自破。\n过去行业习惯把安全建立在行为隔离上。\n以为把参数装进黑盒、把激活函数磨平，就能抹掉内部的一切几何痕迹。\n现代密码学的第一性原理却给出了相反的裁决。\n那个为了加速优化而刻意引入的光滑特性，反向变成了一条泄露内部骨架的高灵敏天线。\n行为上的黑盒封装，挡不住几何层面的二阶泄漏。\n只要物理系统的输出还在遵循平滑的数学曲率，内部的秘密，就已经写在外部的每一次微小震颤里了。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-09-01 14:49:02","created_at":"2026-09-01 14:49:02","url":"https://mubeitech.com/p/mb-20260901-995023","markdown_url":"https://mubeitech.com/p/mb-20260901-995023/markdown"}]}