DEEPgeneratedpublished

OpenAI 第一次下场造芯片,直接把成绩单打到了英伟达脸上

通用性税与专用计算架构收敛机制

OpenAI 第一次下场造芯片,直接把成绩单打到了英伟达脸上。 在 2026 年 8 月的 Hot Chips 大会上,OpenAI 正式披露了第一款自研推理芯片 Jalapeño。 在公开的 InferenceX 基准测试里,这颗芯片全面对标英伟达的 GB200 和 GB300 系统。 参与跑分的模型阵容很硬:开源的 GPT-OSS 120B、6700 亿参数的 DeepSeek R1、以及 1 万亿参数的 Kimi K2.5。 测试结果让硬件圈震动。 在峰值吞吐量下,Jalapeño 每瓦特完成的计算工作量,是英伟达系统的 1.5 到 1.9 倍。 端到端推理延迟,直接降低了 1.7 到 3.6 倍。 它的额定热设计功耗标了 700 瓦,实际测试跑满,功耗稳定在 550 瓦以内。 一家做大模型起家的软件公司,联合博通(Broadcom),只用了 16 个月就完成团队组建到芯片流片。 为什么它一出手,就能在能效和延迟上压制统治显卡市场几十年的硬件霸主? 是英伟达的设计团队落后了,还是两套硬件底层的运行逻辑根本不同? 把芯片切开看微架构,会看到一台支配着计算历史的冰冷机器。 它的名字叫通用性税。 英伟达的 GPU 之所以统治世界,核心护城河是通用。 在大模型训练阶段,全球的算法团队每周都在尝试新的网络架构。 为了应付未知的算法,GPU 必须在硅片上塞满应对各种情况的冗余电路。 复杂的反向传播计算、高精度的浮点单元、庞大的指令调度器、以及支持任意算子的硬件模块。 每一平方毫米的硅片面积,都在为可能用到的灵活性供电。 这就是通用性税。 开发者享受了随心所欲写代码的自由,代价是为海量闲置的硬件逻辑买单。 到了模型推理阶段,游戏规则彻底变了。 大模型生成内容的过程,本质上只有前向传播和自回归标记生成。 这里没有反向传播。 没有梯度更新。 也没有复杂的参数优化器。 整个系统的物理瓶颈,被极度收敛为两件事:稠密矩阵乘法,以及极高吞吐的显存搬运。 这时候,通用 GPU 上那些为了训练准备的复杂结构,全变成了白白发热的累赘。 计算历史上早就上演过同样的剧本。 2017 年,谷歌学者诺姆·乔皮(Norm Jouppi)在体系结构顶会 ISCA 上公布了第一代 TPU。 那颗纯粹用于推理的芯片,能效直接把当时的通用 CPU 和 GPU 甩开 15 到 30 倍。 逻辑完全相通:只要剥掉反向传播的硬件包袱,专用芯片就能在单位能耗下释放数倍的吞吐。 比特币矿机从显卡走向 ASIC,走的是同一条物理收敛之路。 任何一种计算形态,只要从前期的算法探索走向后期的规模化量产,专用架构对通用硬件的清场就只是时间问题。 过去几年,AI 行业把大半预算砸在训练上,英伟达靠着全能架构拿走了七成毛利。 随着深度思考与推理模型的普及,数据中心八成以上的电费开始流向推理端。 当计算变成了每天几百亿次重复调用的工业流水线,高昂的通用性税就成了无法承受的负担。 Jalapeño 砍掉所有训练包袱,把硅片面积和功耗预算全部留给前向矩阵运算。 16 个月流片打赢 GB300,不是半导体制造的奇迹。 这是专用芯片在既定赛道上对通用冗余的必然收割。 真正的算力分水岭,从来不在于谁堆出了更全能的硬件。 在于当一个时代不需要那么多冗余时,谁能最先跨过那道名为通用的高墙。

引用 / CITATIONS

No citations exported.

导出 / EXPORT

订阅 · SUBSCRIBE

新的深度解读发布时,会在每周简报里送到你邮箱。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情