同样花一美元跑大模型，英伟达最新旗舰芯片吐出来的字数，只有别人的一半

同样花一美元跑大模型，英伟达最新旗舰芯片吐出来的字数，只有别人的一半。 在正面把英伟达逼到墙角的，既不是 AMD，也不是什么新冒头的创业公司。 是十年前就造出芯片、却一直把技术死死捂在自家后院的谷歌。 半导体研究机构 SemiAnalysis 在 2026 年 9 月 7 日公开了一份基准测试。 在他们搭建的 InferenceX 测试平台上，谷歌第七代处理器 Ironwood 和英伟达最新的 Blackwell 芯片正面撞上了。 在每用户每秒 20 个词元的交互标准下，测试数据很清晰。 谷歌 Ironwood 单颗芯片每秒能吐出 9364 个词元。 英伟达 B200 是 8903 个，B300 是 8925 个。 单看原始速度，谷歌只险胜 5%。 可一旦把芯片采购、机柜电费和硬件折旧的全部成本算进去，数字彻底变了。 每一美元能买到的生成字数，谷歌 Ironwood 比英伟达 B200 高出了 50.4%。 比起显存更大的英伟达 B300，整整高出了 96%。 在高并发的场景下，Ironwood 每一百万词元的处理成本，直接比 B200 便宜 19%，比 B300 便宜 34%。 为什么这 50% 到 96% 的成本剪刀差，会让整个半导体行业震动？ 因为大模型的游戏规则变了。 过去三年是大模型的训练期。 训练是一场军备竞赛，是几亿美元一锤子买卖的资本开支。 模型架构几个月就要大改一次，今天换个注意力机制，明天改个路由算法。 在那个阶段，没有任何技术负责人敢冒险换掉英伟达。 英伟达的软件系统 CUDA 拥有全球最成熟的算子库，几百万开发者闭着眼睛都能把代码跑通。 哪怕显卡被炒到几万美金一张，各大科技巨头捏着鼻子也得买。 因为换芯片带来的研发延误，代价远超显卡本身的差价。 现在呢？ 大模型全面跨入了推理期。 训练可以一年只做一次，推理却是一天二十四小时在电表上跳字。 数以亿计的手机、智能体和对话窗口每跳出一个字，数据中心都在烧真实的电费。 在推理这本账簿上，没有任何故事可讲。 算力成本直接变成了公司的日常运营开销。 贵出 50%，就意味着你的大模型每处理一亿次请求，毛利率就要被竞争对手生生切下一大块，甚至从赚钱变成巨额亏损。 既然谷歌的芯片这么省钱，为什么过去很少有外部公司大规模采购？ 谷歌早在 2015 年就造出了第一代 TPU，整整迭代了十年，为什么之前始终打不穿英伟达的防线？ 卡死所有人的，是软件转换成本。 过去十年，谷歌犯了一个傲慢的错误。 它把自己的芯片当成自留地里的秘密武器，专门用来跑搜索、广告和 YouTube。 外部开发者如果想用，必须把代码全部改成谷歌自家的 JAX 或者 TensorFlow。 可在真实世界里，全球超过 90% 的大模型代码，都是用 PyTorch 写出来的。 让一家大模型创业公司为了省点电费，把几百万行生产环境的代码推倒重写？ 没人会干这种事。 英伟达最大的护城河从来不在硅片上。 最难逾越的防线，是逼着你把整套生产流水线推倒重写的天文数字般的迁移成本。 这一次，谷歌是怎么把这个死结解开的？ 它放下了维持十年的软件执念。 行业在用什么，它就去兼容什么。 既然开发者离不开 PyTorch，谷歌就推出了 TorchTPU，直接支持原生的即时模式和编译优化，一行核心模型代码都不用重写。 它甚至主动去给开源社区干脏活累活。 今天全球部署大模型最常用的开源引擎是 vLLM 和 SGLang。 谷歌的工程师团队直接向这两个开源项目提交代码，把 TPU 的统一推理后端无缝接了进去。 这步棋走完，会带来什么后果？ 软件垫层被彻底抽空了。 对于一个工程团队来说，启动服务用的依然是熟悉的开源命令，对接的依然是通用的工业标准。 但在操作系统底下，算力硬件可以在毫无痛感的情况下，从昂贵的英伟达显卡瞬间切成便宜一半的谷歌芯片。 当软件生态的锁定效应被开源中间件彻底抹平，算力市场退回到了最朴素的算术题： 谁在单位成本下吐出来的字数多，谁就拿走订单。 嗅觉最灵敏的巨头已经用真金白银做出了选择。 开发 Claude 模型的顶级人工智能公司 Anthropic，已经锁定了庞大的 TPU 集群。 按照半导体研究机构的推算，到 2029 年，Anthropic 一家公司消耗的 TPU 算力，就会超过谷歌自家的 DeepMind 团队。 当年英伟达靠着一套严密的专有软件生态，把全球开发者牢牢锁在自己的硬件铁笼里。 商业史上最经典的攻防往往就是这样。 正面强攻巨头的城墙需要十几年。 可当时代从造模型转向用模型，开源软件把底层硬件悄悄管道化之后，那道曾经牢不可破的壁垒，就已经被悄无声息地绕过去了。