OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个…

OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个专门的团队，用现有的 Claude 去训练下一个 Claude。

AI 安全专家们在过去二十年里反复警告的那个“自我迭代”梦魇，现在终于变成了一个具体的商业项目。 它有了项目经理，有了充沛的预算，还有了确切的启动时间。

Karpathy 几乎是整个行业最顶尖的模型训练专家，曾是 OpenAI 的核心灵魂人物。 而 Anthropic 则是最初因为担忧安全问题，而选择从 OpenAI 分裂独立出来的团队。 现在，这群最注重安全的人，决定让 AI 去充当下任 AI 的“导师”。

这背后有一个极其残酷的技术逻辑：人类世界的高质量数据，已经快要被大模型吃光了。 书籍、论文、网页，所有人类积累了几千年的语料，在过去几年里几乎被清洗、训练殆尽。 想要大模型继续往前突破，只能靠 AI 自己生成的高质量数据，来实现自举。

当 AI 开始自己出题、自己答题、自己纠错。 数据生成的速率，将彻底脱离人类肉体的大脑极限。 接下来的硅基世界，只能靠它们自己左脚踩右脚，往上攀登了。