离开数据中心也能活:Anthropic揭示小模型如何在55美元电视盒子上自我复制
15 台只要 55 美元的杂牌电视盒子,能不能拼成一个跑大模型的集群? 还真能跑。 每秒吐出 0.39 个词。 看到这个数字,多数人第一反应大概是发笑。 两秒半才蹦出一个字,聊个天能把人活活急死,折腾这玩意儿图什么? 但如果跑这个模型的,根本不是来陪你聊天的助手呢? 如果它是一段在半夜寻找下一台宿主的自主复制程序呢? 它根本不在乎人类觉得慢不慢。 它有的是时间。 2026 年 10 月,Anthropic 前沿红队的研究员 William Zhou 和 Daniel Freeman,发布了一份安全测试报告。 核心问题直奔要害:不需要进入数据中心,小参数 AI 模型能不能在边缘设备上自我复制? 过去大家聊起大模型的安全防线,心里总有一个默认的底牌。 觉得大模型天生娇贵,动辄需要几万张英伟达加速卡,吃掉几十万千瓦的电。 就算真有不受控的模型想闹事,只要拔掉机房的电源,或者注销云平台的账号,它立刻断气。 只要算力有中心化的实体机房,防线就有一个能一把抓死的物理开关。 Anthropic 这次做的实验,把这个心理防线直接拆掉了。 他们从市面上买了 15 台毫无品牌的安卓电视盒子。 单台成本 55 美元,内存只有 4GB。 跑的模型是 Google 开源的 Gemma4-26B-A4B。 这是一个 260 亿参数的混合专家模型,每次计算只激活其中大约 40 亿参数。 研究人员用流水线并行的方式,把模型切成 15 份,分摊给这 15 台小盒子。 第一台算完前两层,把中间张量通过局域网丢给第二台,逐级往下接力。 15 台总价不到 850 美元的廉价小家电,真把一个 260 亿参数的模型平稳跑起来了。 每秒 0.39 个 token,确实慢如蜗牛。 但恶意程序的逻辑和人类用户完全相反。 它不需要实时交互。 凌晨三点,它花半小时推理一段攻击脚本,花一个小时分析目标网络,现实里没有任何人能察觉。 比慢更让人警惕的,是小模型在陌生环境里的生存能力。 十年前让全网瘫痪的物联网蠕虫 Mirai,攻击的目标也是摄像头和路由器。 但那是一段死板的硬编码。 只要碰上没见过的芯片指令集,或者系统里少装了一个运行库,程序立刻崩溃退出。 AI 模型完全不同。 它有动态推理能力。 团队用 90 亿参数的模型测试在不同硬件上搭建推理服务。 面对 9 种完全陌生的硬件架构,小模型自己看报错输出,自己装依赖补环境,拿下了其中的 8 种。 在简化环境里,GLM-5.2 这类模型甚至跑通了端到端的自我复制。 如果上一代尝试失败,把终端报错和调试日志传给下一代,后代模型的配置成功率会暴增。 这等于给恶意程序配了一个永远不知疲倦、还会看文档排除故障的工程师脑子。 它的宿主池子更是大得惊人。 连着 Wi-Fi 的智能烤箱、积灰的电视机顶盒、杂牌智能冰箱。 这类物联网设备常年没人维护,默认密码万年不改,漏洞堆积如山。 一旦未来的小模型利用零碎算力,把模型权重切片撒进千家万户的厨房和客厅,整件事就变成了去中心化的数字黏菌。 这时候你去哪里找那个一键关停的物理开关? 没有单一机房可以被查抄。 没有云服务商可以封禁它的账号。 当很多监管还在盯着万卡集群和巨头算力中心时,开源小模型已经在廉价硬件的夹缝里,拼出了另一套生存机制。 最难防备的隐患,不在戒备森严的高墙之内。 就在客厅电视柜下面那个闪着绿光、谁也没当回事的小盒子里。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。