{"id":"2110838738423341515","account":"mubei","brand":"@mubei","title":"8160亿参数的开源大模型，能在桌面上跑了。 再确认一遍，不是机房集群，就在桌面上。 谁干的？ Meta和苹果联手干的。…","summary":"8160亿参数的开源大模型，能在桌面上跑了。 再确认一遍，不是机房集群，就在桌面上。 谁干的？ Meta和苹果联手干的。 多年死对头，突然破冰握手。 Meta把自家大模型 Muse Spark Open 的权重直接开源。 总参数高达8160亿（816B）。 苹果亲自下场，针对自家…","body":"8160亿参数的开源大模型，能在桌面上跑了。\n再确认一遍，不是机房集群，就在桌面上。\n谁干的？\nMeta和苹果联手干的。\n\n多年死对头，突然破冰握手。\nMeta把自家大模型 Muse Spark Open 的权重直接开源。\n总参数高达8160亿（816B）。\n苹果亲自下场，针对自家的 MLX 框架做了专门适配。\n\n8000多亿参数，什么电脑吞得下？\n运行门槛卡得很死：两台互联的 Mac Studio。\n普通单台电脑不用想，根本带不动。\n但只要两台级联在一起，这个巨无霸就能在本地跑起来。\n\n机房级别的模型，怎么塞进两台桌面电脑的？\n关键在计算机制上。\n8160亿是总参数，但生成每一个词（token）时，实际只激活420亿（42B）参数。\n靠着这种稀疏激活，绝大部分计算负担被当场卸掉了。\n\n斗了这么多年，两家公司最终在开源上走到了一起。\n一个负责放权重，一个负责调框架。\n两台连在一起的桌面设备，就这么接住了一个原本属于算力中心的庞然大物。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2110849176376619454","translated_status_id":"2110849176376619454","published_at":"2026-10-15 21:10:00","created_at":"2026-10-15 21:02:27"}