让全世界闲置的手机在晚上插着电,连成一台超级计算机跑大模型,还能每天给机主发钱
本框架为第三方 AI 对公开观点的解读,非郭文贵本人发声。
让全世界闲置的手机在晚上插着电,连成一台超级计算机跑大模型,还能每天给机主发钱。 这个叫 Leiolai 的新项目,在开发者社区抛出了一个诱人的算力乌托邦。 它号称能抛弃昂贵的数据中心,为地球省下冷却水,并在手机集群上跑出 1100 万 token 的超长上下文,API 价格便宜到每百万 token 只要一美分。 听起来像是把二十年前分布式计算的浪漫,重新包装成了 AI 时代的普惠叙事。 为什么当年找外星人和挖比特币能靠分布式网络做成,大模型推理却是一场物理灾难? 是算力还没被充分利用,还是底层有一道被刻意忽略的物理死锁? 把这笔账顺着计算机体系结构拆到底,会看到一台冰冷的机器。 通信计算比失衡。 1999 年,加州大学伯克利分校启动了著名的 SETI@home 项目。 全世界几百万台家用电脑在屏幕保护程序启动时,利用闲置 CPU 去分析射电望远镜传回的太空信号。 后来的比特币网络,同样让成千上万台矿机在去中心化网络里运转。 这两个项目之所以能成功,因为它们属于计算机科学里典型的易并行问题。 每个节点领走一段独立的信号或者一个哈希碰撞任务,在本地算上几小时,最后只需要往中心服务器传回极小的数据结果。 计算量极其庞大,节点之间却几乎不需要相互沟通。 通信计算比无限趋近于零。 大模型推理的底层物理逻辑,走在完全相反的极端。 它不是独立任务。 它是一条环环相扣的流水线。 大模型生成文字是自回归的,每吐出一个词,都必须把上一层神经网络计算出的中间状态,传递给下一层。 如果把一个拥有几百亿参数的模型切成几十份,分散在全世界不同的手机和个人电脑上,这就是流水线并行。 这时候每一个 token 的诞生,都必须在公共互联网上完成几十次跨节点的网络跳转。 在英伟达的数据中心里,显卡之间靠着每秒 1.8 TB 吞吐量的 NVLink 高速通道和光纤互连,延迟只有微秒级。 而在千家万户的家用网络里,两台手机之间的通信延迟动辄几十毫秒。 只要流水线里有一台手机连了不稳定的无线网络,或者电量低降频,整条流水线上的所有算力都必须原地停下来等它。 这在工程上被称为流水线气泡。 算力在等待网络传输的过程中被大面积空转浪费。 光速和公网路由延迟卡死在物理底线上。 再看那个宣称的 1100 万 token 上下文窗口。 在真实的工程世界里,保存大模型对话状态的键值缓存是一只吞吐怪兽。 哪怕经过高度量化压缩,千万级 token 的缓存数据也需要占用数百 GB 的运行内存。 单台手机只有几 GB 的内存,根本装不下哪怕一小段完整的上下文状态。 如果把状态打散在不同设备之间频繁同步,公网带宽瞬间就会被彻底挤爆。 至于所谓的为数据中心省水和给用户分钱,更像是一场偷换概念的热力学转移。 能量守恒定律不会因为设备分散就失效。 数据中心用工业级机房和集中供电,能把能源效率压到极高的水平。 把相同的计算任务摊派给数以万计的手机,没有风道主动散热的手机芯片会迅速过热并发生热降频。 电池在持续的高温满载充放电中加速老化。 一台手机跑一整夜赚到的几美分报酬,可能还抵不上电池寿命折旧和家用电费的成本。 分布式计算在特定领域是伟大的工程实验。 但大模型推理的物理本质,从来不是算力堆积,是内存带宽与极低延迟的高速互连。 把一个需要光速协同的精密流水线,强行切碎塞进靠无线电波连接的移动终端,得到的不会是廉价智能,只有巨大的通信物理税。 当一项技术把物理规律的硬伤包装成绿色普惠的神话,值得深思的从不是它承诺分出多少零钱。 是谁在用千家万户的硬件折旧,替自己分摊昂贵的算力账单?
引用 / CITATIONS
No citations exported.
导出 / EXPORT
订阅 · SUBSCRIBE
新的深度解读发布时,会在每周简报里送到你邮箱。