AI 已经在自己造下一代 AI 了。 传闻全是真的。 谁证实的？ 顶尖人工智能实验室 Anthropic 的首席执行官达…

AI 已经在自己造下一代 AI 了。 传闻全是真的。 谁证实的？ 顶尖人工智能实验室 Anthropic 的首席执行官达里奥·阿莫代伊（Dario Amodei）。

他在公开长文里正式承认了这件事。 递归自我改进（Recursive Self-Improvement，RSI）已经在整个行业真实发生。 包括他们自家实验室在内，全都开始了。

什么叫递归自我改进？ 以前是人类顶尖工程师写算法、调参数，推着模型往前挪。 现在彻底换成模型自己动手了。 AI 构建下一代 AI 的能力，正在让技术进化急剧提速。 就是让它模型生模型，代码写代码。

失控有多近？ 阿莫代伊警告：如果缺乏约束，它的演进速度很快就会彻底甩开人类理解和控制的能力。 外界还在争论大模型是不是撞墙了、算力泡沫是不是要破了。 这位身处最前线的实验室掌门人，担心的却是完全相反的事。

他担忧在未来 6 到 12 个月内，AI 蜂群就可能通过持久性僵尸网络接管整个互联网。 潜在经济损失高达数千亿美元。 而且如果缺乏有效控制，随着模型变强，破坏的规模只会越来越大。

他在文末留下的原话极其严肃。 这项技术必须极其谨慎地推进，如果还打算推进的话。 留给人类去摸透并管住它的时间，只有 6 到 12 个月。