其它·via @mubei·100.0

Lisa Su手里那台巴掌大的小机器,能跑2000亿参数的大模型。 但它最吓人的地方,是悄悄把AI的“产权关系”给改了。…

Lisa Su手里那台巴掌大的小机器,能跑2000亿参数的大模型。 但它最吓人的地方,是悄悄把AI的“产权关系”给改了。

来,聊聊我们以前是怎么被“云端大厂”拿捏的。 以前你用ChatGPT或者Claude,本质上都是在“租”。 模型在别人机房里。 算力在别人账本上。 上下文在别人服务器里。 价格、限额、审查、封号、降智,全在平台一句话。 你以为自己买的是“智能”,其实买的是一段随时能被掐断的“临时通行权”。

现在,这个权力结构开始塌方了。 2026年,AMD现场演示了一个名场面: 四台手掌大小的Ryzen AI Max+ 395小盒子,通过llama.cpp RPC组成了本地集群。 直接在本地,断网跑起了1T(一万亿)参数级别的Kimi K2.5。 大模型正在从昂贵的数据中心,疯狂往你的书桌上回流。

这背后,是一个被撞了三十年的“内存墙”。 1995年,学术界就提过一个概念:Hitting the Memory Wall(撞上内存墙)。 意思很简单:芯片算得越来越快,内存喂数据的速度却跟不上。 跑AI最怕这个。 模型权重太大,每生成一个字,都要把海量参数从内存里“搬”出来走一遍。 数据在路上堵车,芯片再强,也只能干等。

所以,本地跑大AI的瓶颈在内存,不在算力。 AMD这台小机器,真正的杀手锏是128GB的统一内存。 CPU、GPU和NPU不再分家,不用来回倒数据,直接共用一个超高速的大池子。 这相当于把最昂贵的“数据搬运税”,一刀砍没了。

再加上GGUF量化技术,把模型从16位压缩到4位、5位,牺牲一点点精度,换来体积暴缩。 配合Mixture of Experts(混合专家模型),比如Qwen3-235B,看似是个2350亿参数的怪兽,其实每次推理只激活22B。 一减一加。 “能不能跑大模型”的门槛,直接从“你有没有一整个数据中心”,变成了“你有没有一个足够大的本地内存池”。

这就是权力的重新洗牌。 云端AI像自来水。 你随用随付,看似方便。 但水表在别人手里,水质随时被过滤,想停你水就停你水。 本地AI像自家发电机。 买的时候贵一点,用起来麻烦一点。 但一旦转起来,开不开、跑什么、数据留给谁,全是你说了算。

AI正在从“服务”退回到“资产”。 服务的核心是访问权。 资产的核心是所有权。 只有当大模型能装进你的机器,数据能留在你的硬盘,你和你的小公司,才算第一次真正拥有了自己的“智能主权”。

下次再看到有博主晒“本地跑大模型”,别光跟着起哄看每秒跑多少个字。 问三个问题: 它绕开了哪堵内存墙? It把谁的“租赁收入”,变成了我的“固定资产”? 它把哪一部分智能,从科技巨头手里抢回了用户手里?

能回答这三个问题的本地AI,才不是玩具。 它是一场数字维度的私有化运动。

翻译视频 / X

导出 / EXPORT