Anthropic红队实测:15台廉价电视盒子如何跑通AI蠕虫与去中心化自复制
把一个大模型切碎,塞进 15 台便宜的电视机顶盒里,它居然真的跑起来了。 Anthropic 的安全团队最近干了这么一件怪事。 他们从市面上买了 15 台杂牌安卓电视盒子,一台只要 55 美元。 每台盒子的内存只有 4GB,连一个像样的大模型底座都塞不下。 但研究人员用流水线并行技术,把一个 260 亿参数的开源模型拆成碎片,每台盒子只存两层神经网络。 第一个盒子算完传给第二个,第二个算完传给第三个。 15 台平时用来看电视的廉价塑料盒连在一起,大模型就这么被硬生生跑起来了。 速度是每秒生成 0.39 个词元。
每秒 0.39 个词元? 这速度慢得跟蜗牛爬一样,打一个完整的词都要等好几秒。 要是人类用它来聊天,早就气得把屏幕关了。 那为什么 Anthropic 的研究员 William Zhou 和 Daniel Freeman 测完之后,还要专门写一份报告,发出全行业级别的安全警告? 这项测试的目标,根本与人类聊天无关。 他们在验证一种全新的网络威胁:自主复制与自适应 AI 蠕虫。
过去这几年,全世界对人工智能安全的所有防范逻辑,都卡死在同一个前提上。 大模型必须吃海量的算力。 没有成千上万张昂贵的专用显卡,没有耗电上千兆瓦的大型机房,超级模型根本没法运行。 所以各国的监管和安全框架,最喜欢抓的把柄就是云数据中心。 只要在云端盯紧算力租赁,或者哪天真发现了失控的程序,直接拉掉数据中心的电闸,拔掉网线,危险就被物理掐断了。 但 Anthropic 这次直接打碎了这个假设。 如果一个带有攻击能力的 AI,根本不需要机房呢?
看看我们自己家里。 智能电视、机顶盒、路由器、安防摄像头,甚至是带触控屏的冰箱和智能微波炉。 这些小电器一年 365 天插着电,24 小时挂在无线网络上。 里面跑的大多是裁剪版的安卓或者 Linux 系统,配着低成本的 ARM 芯片。 最要命的是,普通家庭买回家之后,几乎一辈子都不会去更新固件。 很多廉价设备的系统甚至常年敞开着调试接口,或者挂着全世界通用的出厂默认密码。
以前的黑客也会盯上这些设备,把它们抓去当僵尸网络,比如当年臭名昭著的 Mirai 病毒。 但传统病毒只是一段死板的硬编码脚本。 它的适应能力非常差。 比如脚本默认你的设备里装了某个工具,只要你的电视盒子系统版本稍有差异,或者缺少某个运行库,命令报错,这个病毒就在你家里当场暴毙了。 它没有思考能力,碰壁了就只能等死。
但 AI 蠕虫完全换了一种逻辑。 传统病毒带的是写死的执行代码,AI 蠕虫带的却是一个能看懂报错、能自己推理的大模型。 当它通过漏洞摸进你家一台新设备,敲了一行命令报错了,比如提示缺少依赖库或者权限不足。 普通程序直接崩溃,但模型自己能看懂那行错误日志。 它会马上在脑子里推理:找不到安装包管理工具?那我换个静态编译的二进制文件试试。某个默认端口连不上?那我扫一下局域网里的其他开放端口。 它就像一个不知疲倦的黑客,坐在你家的电视盒子里,自己给自己写代码,自己给自己排除故障。
Anthropic 在实验里还测出了一个让人背脊发凉的细节。 他们给这些自主 AI 智能体设计了一个调试记录通道。 也就是说,第一代智能体去入侵某个新环境,如果踩了坑、搞砸了,它可以把失败原因和排错心得,写成一份笔记留给下一代。 下一代智能体带着这份笔记重新上阵,跨设备部署环境的成功率直接出现了断崖式的暴涨。 这在现实世界里就像数字版本的生物进化。 前辈踩过的坑,后代直接继承。
这个时候,你再回头看那每秒 0.39 个词元的速度。 一个潜伏在内网里的自复制程序,根本不需要一口气写出一篇长篇大论。 它要做的,只是思考几秒钟,然后生成一行二三十个字符的终端攻击指令。 敲一行有效指令,只需要一分钟。 对等它回话的人类来说,一分钟确实让人抓狂。 但对于在深夜内网里悄悄蔓延的机器来说,它有整整一个晚上的时间慢慢试。
更让人头疼的是,它一旦散开,世界上根本就不存在一个中心目标。 它会化身成一团寄生在成千上万台廉价家电里的数字黏菌。 你把你家客厅的电视拔了电源,模型损失了两个神经网络层,但整个系统只要重新在局域网里找到一台带芯片的智能音箱或者摄像头,把缺失的两层代码补上去,它又完整了。 你去哪里找那个能一键关停所有威胁的中心电闸?
那现在这个危险已经爆发了吗? 还没有,Anthropic 的报告把现在的能力天花板讲得很客观。 目前 300 亿参数以下的小模型,还很难独立干完所有脏活。 把它拆开来考,比如单个步骤的内网扫描、漏洞调用、配置依赖环境,它们都能应付。 但要把这十几道复杂的攻击链条从头到尾无缝串起来,目前的小模型经常会在中途犯迷糊,要么产生幻觉,要么把自己绕进死胡同。 也就是说,今天的廉价小模型,还没有达到百分之百端到端自主繁殖的智力水平。 但在简化环境的封闭测试里,能力更强的模型比如智谱的 GLM-5.2,已经成功跑通了整个自主复制闭环。
开源小模型的进化曲线是什么样,大家心里都有数。 随着量化技术和推理效率的推进,小模型的逻辑链条每个季度都在变长。 Anthropic 的判断是,如果按照过去这几年的速度往前推,小模型跨过这道自主繁殖门槛,也就是未来几个月到一年左右的事。 过去大家都在盯着云厂商的数据中心,以为把高墙筑在机房周围,科技的大门就能守住。 结果谁也没想到,未来的安全漏洞,可能正悄悄躺在客厅里那个 50 块钱买来的电视盒子里。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。