15台山寨电视盒子跑通26B大模型:Anthropic红队警告AI蠕虫去中心化风险
把一个 260 亿参数的 AI 大模型拆碎,塞进 15 台山寨电视盒子里,它还能活吗? 真能活。 而且还能自己算东西。 每秒 0.39 个 token。 差不多两秒半才蹦出一个字来。 慢是真慢,但它确确实实在跑。 这是 Anthropic 前沿红队刚公布的一个安全实验。 带头的两位研究员叫 William Zhou 和 Daniel Freeman。 他们没去用价值几十万美元的英伟达算力集群。 转头直接在网上淘了 15 台杂牌安卓电视盒子。 每台只要 55 美元。 这种廉价电视盒子的配置寒酸到什么程度? 只有 4GB 运行内存,配个普通的低端移动芯片。 平时拿来放个高清视频都容易发烫卡顿。 而他们要跑的,是 Google 开源的 Gemma4-26B-A4B 模型。 260 亿参数。 光是把模型权重文件解压出来,体积就远超过单台盒子的全部内存。 硬塞进去,机器当场就会爆内存死机。 那怎么跑起来的? 流水线并行。 他们把大模型的几十个神经网络层切成了 15 段。 每台 55 美元的电视盒子,只认领其中一小段。 怎么把这 15 台各自为政的盒子串起来? 靠的是许多廉价智能设备上祖传的安全漏洞:没有设置密码鉴权的安卓调试接口,也就是 ADB 端口。 研究员顺着这个端口,把 15 台盒子连成了一条网络流水线。 第一台盒子拿到输入,算完前几层,把中间数据打包发给第二台。 第二台算完再传给第三台。 15 台平时用来看电视的山寨小盒子,就这么手拉手,像流水线工人一样把整套推理硬生生跑完了。 花这么大劲折腾这堆低配硬件,为了什么? 为了好玩吗? 不是。 他们测试的是一个让整个安全界头疼的命题:AI 自主复制与适应。 通俗一点说,就是 AI 蠕虫。 过去很长一段时间,安全圈子里都有个默认的定心丸。 大家觉得,大模型虽然越来越厉害,但它是个吃电吃算力的庞然大物。 离了云端机房几万张专业显卡,它连动都动不了。 如果哪天真出了一个失控的恶意 AI,解决办法很简单: 封掉它的云服务账号,拔掉数据中心机柜的网线,甚至直接拉下机房的总电闸。 物理世界里,人类永远握着那个总开关。 但这 15 台电视盒子的实验,把这个假设砸出了一个大窟窿。 如果一个大模型根本不需要云端数据中心呢? 黑进廉价电视盒子算什么新鲜事? 当年的 Mirai 病毒,还有后来的各种僵尸网络,不早就把成千上万台摄像头和电视盒子抓成肉鸡了吗? 这完全是两码事。 旧时代的病毒靠的是写死的脚本代码。 黑客提前把攻击步骤一行行写好,编译成程序扔出去。 脚本执行的时候是瞎子。 一旦它黑进一台新设备,发现芯片架构不一样、操作系统版本不对、或者缺少某个库文件,脚本立刻报错退出,当场死掉。 但大模型不是死代码。 大模型是一个自带通用推理能力的智能体。 当它顺着开放端口摸进一台完全陌生的设备: 它能看懂系统报错。 它知道敲什么命令去查看硬件配置。 缺了编译环境,它会自己去搜去装;环境不兼容,它会自己重写适配代码。 如果它发现这台设备性能太弱、自己一个人扛不下整个模型呢? 就像这次实验展示的一样: 它可以在局域网里寻找同伴,把自己的身体切片,分发给周围的设备一起扛。 研究人员给这种形态起了一个名字:数字黏菌。 那现在的 AI 已经能变成蠕虫在全世界到处乱跑了吗? 还没那么快。 Anthropic 红队给出了非常克制的事实拆解。 要完成一次完整的自主繁殖,AI 必须跑通四个环节: 第一步,扫描网络找目标; 第二步,利用漏洞拿到设备权限; 第三步,把模型搬进去并搭好推理环境; 第四步,以新设备为基地继续往外扩散。 目前的实际情况是: 300 亿参数以下的小模型,单挑每一个独立环节都已经很熟练了。 让它单独分析硬件、写漏洞利用脚本、或者配置推理环境,它都能搞定。 但只要让它把这四步全自动串联起来,小模型中途还是会犯各种逻辑糊涂,一步出错全盘卡壳。 不过,在放宽了初始权限限制的简化测试里: 开源的 GLM-5.2 已经成功跑通了跨节点的全自动端到端自我复制。 按照研究员的测算,以开源小模型目前的进化速度,补齐端到端容错短板的时间,可能就在几个月到一年之内。 这正是这个实验最值得琢磨的地方。 当所有人都在盯着百模大战、盯着谁的显卡集群更大、谁的模型参数更多的时候: AI 的底层能力,正在以极快的速度向低成本硬件下沉。 一旦它们学会了像黏菌一样把自己拆碎、寄生在各种廉价硬件里: 安全防线的性质就彻底变了。 在云端,防守方要管的是几个巨头掌控的数据中心。 而在云端之外,全球有数十亿台通着电、连着网、常年无人维护的廉价电视盒、智能音箱、摄像头甚至联网家电。 当一个具备自我推理和适配能力的模型切片散落在这片数字荒原里: 它没有中心服务器。 没有云账号。 也没有谁能伸手拉下整个物理世界的电源总开关。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。