奥特曼辟谣弃用Cerebras:大模型极速推理背后的晶圆级芯片赌局
把整张晶圆做成一块芯片,AI生成速度直接提速二十倍。
前两天市场上都在传,OpenAI 要把芯片合作商 Cerebras 踢出局,全面换回英伟达。 传得有鼻子有眼,连华尔街分析师的报告都发出来了。 结果奥特曼直接在 X 上发文辟谣: 我们跟 Cerebras 是极深度的伙伴,正在一起死磕速度的极限。
奥特曼为什么对这家公司这么上心? 甚至不惜亲自发文澄清。
因为在整个半导体行业里,Cerebras 选的这条路,听起来简直像天方夜谭。 正常造芯片是怎么造的? 一张十二英寸的硅晶圆,切成几百上千颗指甲盖大小的芯片。 英伟达的 H100、B200,全都是这么一片片切出来的。 为什么要切碎? 因为一块硅片上只要落进一粒微尘,或者出现一处晶格缺陷,那一小块芯片就废了。 切成小块,坏了哪个就扔掉哪个,好的留下来封装,良率和成本才保得住。
Cerebras 偏不切。 它直接把一整张大晶圆做成了一颗完整的芯片。 长宽二十多厘米,跟一个大号餐盘差不多。 上面集成了九十万个计算核心,四十四吉字节的板上超高速缓存。
费这么大劲造出这么个怪物,到底图什么? 图速度。 看中的根本不是单卡能吞多少任务,就是纯粹的吐字速度。
我们平时用大模型,最直观的体验就是等它一个字一个字往外蹦。 英伟达的显卡算力不可谓不强。 但大模型生成文本的时候,瓶颈根本不在算力,纯粹是被内存带宽卡死了。 每生成一个词,芯片都得把几百亿个模型参数,从旁边的显存里搬到计算核心里跑一遍。 数据在芯片和显存之间来回倒腾,中间的物理通道就成了严重拥堵的收费站。 单看单个用户的体验,英伟达的显卡一秒钟通常也就吐出几十个到上百个字。
Cerebras 是怎么打破这个局面的? 它干脆不要外部显存。 它把 44GB 的高速缓存,密密麻麻直接铺满整张晶圆。 计算核心跟缓存贴在一起,数据根本不需要离开芯片表面。 这一改,数据搬运的通道直接被拉宽了几十倍。 跑模型的时候,一秒钟能吐出两千多个字。 几千字的文章,眼睛一眨就全刷在屏幕上了。 哪怕是实时语音对话,中间也感觉不到任何迟缓。
既然跑得这么快,那为什么市场上还会猜测 OpenAI 想放弃它?
天下没有免费的午餐,这颗盘子大的芯片,工程代价极其沉重。 首先是良率。 整张晶圆只要有一处坏点,就必须靠极其复杂的冗余电路去绕道补救,制造成本高得吓人。 其次是散热和供电。 二十千瓦的电量瞬间灌进一张餐盘大小的硅片,风扇根本不管用,必须用高压水冷贴身压制。 更关键的是容量。 整张晶圆再大,板上能塞下的缓存也就几十个 G。 真要跑几千亿参数的超大模型,一张晶圆塞不下,就得靠外力疯狂喂数据。 对常规数据中心来说,英伟达一张卡能同时应付几十个人,按单次请求的综合成本算,英伟达更加经济。 所以很多人觉得,OpenAI 算完了账,迟早得退回成熟方案的怀抱。
奥特曼亲自出面否定传闻,说明 OpenAI 算的根本不是省钱的账。
现在的 AI 正在从简单的问答对话,走向需要自主规划、多步推理的 Agent 智能体。 智能体在幕后推导一步,可能要在暗中调用几十次模型、生成上万个中间 token。 如果用传统硬件,用户端等一个结果可能要花上几分钟。 换成这种极速硬件,几秒钟就能把背后的复杂推导全部走完。 这根本不只是快慢的问题,直接决定了功能能不能真正用起来。
在速度的极限面前,只要能打破那堵物理上的延迟之墙,再夸张的工程代价,也都有人愿意买单。
引用 / CITATIONS
No citations exported.
同领域解读 / CHIPS & HARDWARE
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。