OpenAI 准备让大模型学会「在心里默念」

OpenAI 准备让大模型学会「在心里默念」。 为了省下显存带宽，它打算把那张写给人类看的草稿纸直接撕掉。 过去两年，整个 AI 安全领域最大的安慰剂，叫思维链可监视。 大家相信一件事：模型再怎么变聪明，推理时总要把思路变成文字，一行行写在人类能看懂的草稿纸上。 只要看得懂草稿纸，就能抓住它有没有说谎、有没有暗中越权。 但如果模型连草稿纸都不写了？ OpenAI 正在开发的新模型 Astra，把底层机制换成了一台叫「循环深度」（Recurrent Depth）的机器。 这台机器的物理源头，可以追溯到 2018 年 Dehghani 等人提出的 Universal Transformer。 通常的大模型做推理，每在屏幕上生成一个思考词，显卡就必须把几十 GB 的模型权重完整搬运一遍。 写一万个词的推理链，显卡就要把整座大楼搬运一万次。 算力大部分时间没在算矩阵，全卡在显存数据搬运的通道上。 这就是推理成本降不下来的物理死穴。 循环深度换了完全不同的解法。 它不把中间推理步骤翻译成人类文字。 它把上一层的数学向量，原封不动扔回同一组网络层里，在芯片的高速缓存里连续循环十几遍。 参数总量一个没加，显存搬运彻底免了，推理速度翻倍，成本断崖式下跌。 但代价是：人类看得懂的那张草稿纸，彻底消失了。 模型不再用离散的自然语言打草稿。 它在用高维连续向量自言自语。 原本用来监视大模型意图的关键词过滤器和安全审计器，在连续向量面前瞬间变成了瞎子。 这暴露了商业 AI 最残酷的一道算力夹角： 把思考过程翻译成人类文字，是在为「可审计性」交极其昂贵的显存税。 而在隐空间里闭嘴循环，是物理上最高效、商业上最省钱的解法。 当算力和成本的竞争踩到底，保留那张给人类看的草稿纸，本身就成了一件昂贵的奢侈品。 大模型为了算得更快，终究会选择对人类保持沉默。