其它·via @mubei·100.0

AI算力的最大瓶颈已经换人了。 GPU不再是唯一卡脖子的资源。 Dylan Patel的最新观察给出了一个反直觉的事实。…

AI算力的最大瓶颈已经换人了。 GPU不再是唯一卡脖子的资源。 Dylan Patel的最新观察给出了一个反直觉的事实。 全网云市场的CPU正在被快速抽干。

以前的算力比例是极其悬殊的。 100兆瓦的GPU集群,配不到1兆瓦的CPU就足够对付。 早期的AI只会做简单的文字进出。 CPU只需要在旁边干点存储和预处理的轻活。

o1模型和智能体工作流的爆发掀翻了这个天平。 现在的模型早已摆脱了安静对话框的设定。 它们要在后台跑无数次代码单元测试。 它们要编译程序并频繁调用数据库。 甚至还要去跑极度消耗性能的物理和生物模拟。

一个代码智能体现在能连续自主工作六七个小时。 这些全都是实打实压在CPU上的重负载。 过去半年里,代码智能体带来的营收从几十亿美元飙到超百亿美元。 代价就是各大云厂商的通用算力冗余彻底归零。

亚马逊今年的CPU服务器安装量直接翻了三倍。 各种满负荷运转带来的副作用已经开始显现。 很多程序员最近都在抱怨GitHub频频宕机。 代码提交经常毫无征兆地失败。

真相非常现实。 微软为了满足大模型的恐怖胃口,把能抠出来的闲置CPU全借调出去了。 大头都给了OpenAI和Anthropic这些签了约的外部实验室。 算力军备竞赛的战场已经全面扩容。 现在的AI巨头连一颗闲置的CPU都不打算放过。

翻译视频 / X

导出 / EXPORT