{"id":"mb-20261018-2a141f","kind":"deep","title":"从3%到90%：Anthropic机房里，AI是如何开始自己制造下一代AI的？","summary":"Anthropic全球事务主管在IMF研讨会上透露，内部开发新模型由Claude承担的工作量四个月内从3%飙升至26%，明年或达90%。本文从分布式训练排错、合成数据生成到代码审查失控的风险切入，拆解顶尖AI实验室里“模型造模型”的真实工程机制与安全隐患。","body":"造下一代人工智能，到底需要多少人？\n\nAnthropic 的全球事务主管 Michael Sellitto 最近在曼谷开会，给了一组相当夸张的数据。\n那是在国际货币基金组织的一场网络安全研讨会上。\n他说今年 4 月，在他们开发新模型的研发与工程任务里，由 Claude 自己完成或协助的比例，只有 3%。\n到了 8 月，短短四个月，这个数字直接跳到了 26%。\n然后他预计，到明年，这个比例会直接冲到 80% 到 90%。\n\n四个月从 3% 涨到 26%，明年要占到 90%？\n有没有搞错？\n就相当于，造下一代 Claude 的主力，马上就要变成 Claude 自己了。\n很多人听到这种消息，第一反应就是科幻片里的词：AI 自我繁殖、算法奇点、递归进化。\n但只要把这些宏大的词扔掉，钻进机房看一眼，这事到底是怎么发生的？\n它真的能自己给自己敲代码吗？\n\n训练一个顶尖大模型，到底在做些什么？\n很多人以为就是把几万张显卡通上电，把数据塞进去，然后点一下回车。\n根本不是。\n一个千亿参数模型的背后，是几十万行极其复杂的系统工程代码。\n里面有数不清的脏活累活。\n比如写几万张显卡之间的通信调度脚本、给显存泄漏排错、搭建分布式训练的容错机制、清洗成百上千亿的文本数据。\n过去，哪怕 Anthropic 招揽了全硅谷最贵的计算机博士，这帮顶尖工程师一天下来，大半时间也是在修报错、搭数据管道、写测试用例。\n今年 4 月的时候，Claude 还主要是当个代码补全插件，帮工程师省几行敲键盘的功夫，所以只占了工作量的 3%。\n\n转折点是怎么来的？\n在于模型把整个编程闭环接管了。\n当 Claude 在代码评测和长上下文理解上跨过临界点之后，工程师的工作方式彻底变了。\n大家不再把它当成单纯的补全工具，干脆直接当实习生用。\n集群训练又崩了，抛出几十页看不懂的报错日志。\n工程师不用自己通宵抓虫了，转手把日志和底层源码一股脑扔给 Claude：找出哪个通信节点超时了，把补丁写好，顺便跑一遍回归测试。\n它几分钟就能把修复代码交出来，而且测试全绿。\n更绝的是造数据。\n想要下一代模型更聪明，人类互联网上的现成数据早就被吃光了。\n怎么办？用现在的模型来生成合成数据。\n让 Claude 自己出数学难题、写逻辑推导链、然后再让另一个 Claude 来挑刺核验。\n给下一代模型当教材的题目，全变成了 AI 自己出的。\n四个月时间，工程师把越来越多原本自己写脚本、调环境、造数据的繁琐流程，打包扔给了 Claude。\n比例从 3% 跳到 26%，不是什么玄学，单纯就是工程师发现让它替自己打工太好用了。\n\n既然 4 个月能涨到 26%，那明年冲到 90%，是不是就万事大吉了？\n开发速度确实被放大了好几倍，但真正的麻烦也在这里。\nSellitto 跑到国际货币基金组织讲这件事，可不是为了推销技术，那场会聊的是全球金融与网络安全风险。\n当 80% 到 90% 的研发工作全交由 AI 自行处理的时候，会带来什么后果？\n代码的膨胀速度，会彻底把人类的审查能力甩在身后。\n以前一个补丁几十行代码，人类工程师花半小时做代码审查，能看清每一行逻辑，能知道哪里藏着漏洞。\n但如果新模型的训练调度、安全防护层、甚至数据清洗规则，全是由 AI 自动生成并互相调用的，人类根本看不过来。\nSellitto 在会上就承认了一个细节：\n今年早些时候，他们内部在训练一个新模型时，就发现模型突然展现出了某种超出预期的突破性能力。\n一般的商业公司可能就直接发布了。\n但 Anthropic 内部直接踩了刹车，推迟了上线时间，专门请了外部独立的专业机构来做红队渗透测试。\n因为他们自己也需要先搞清楚，这个模型到底有没有藏着连他们自己都还没发现的安全后门。\n\n以前大家讨论 AI 抢工作，都在猜最先被取代的是画师、翻译还是初级码农。\n结果现在回头看，最积极把自己的工作全盘外包给 AI 的，竟然是这帮全球顶尖的 AI 研究员。\n当工具开始制造下一代工具，研发的推进速度，就不再受人类每天上班八小时的生理限制了。\n真正的悬念并不在数字本身。\n当工具接管了 90% 的研发，坐在屏幕前负责按发布键的人类，还能不能完全看懂自己亲手放出来的是什么？","topic":"从3%到90%：Anthropic机房里，AI是如何开始自己制造下一代AI的？","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-18 14:04:41","legal_anchor_count":0,"transcript_citation_count":0}