AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用…

AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。 Anthropic这样的公司，手里已经有一类系统，不会面向公众开放。 它们只会交给少数被挑选出来的企业。

原因也摆在台面上：这些系统危险到不能随便放出去。 更关键的是，这些系统在某种程度上，已经能构建自身。 别把这句话听成科幻。 Allen自己也加了限定：他不想夸大这一点。

可他没有退掉核心事实：在Anthropic这类公司里，AI正在被用来制造AI。 也就是说，人类工程师还在写代码，但下一代AI的部分建造过程，已经交给上一代AI参与。 这一步叫什么？ 递归自我改进。

一个系统越聪明，越能帮自己变聪明。 产业增长速度、资本集中速度、模型迭代速度，三条线叠在一起，监管和公众理解都在后面追。 保守一点看，真正的问题在权力边界。 当危险系统只向少数公司开放，普通人连看见风险的资格都没有。

技术当然要发展，但越强的工具，越不能只靠几间实验室和几份内部准则来决定社会能不能承受。 AI还没有接管世界。 它已经在接管自己的生产线。