扩散模型奠基人给博士生的警告:算力暴涨千万倍时代,学术避风港为何彻底失效
读博读到一半,突然有人告诉你,你毕业后的职业路径已经不存在了。 这可不是导师在例行泼冷水。 站在讲台上的是雅沙·索尔-迪克斯坦(Jascha Sohl-Dickstein)。 在学术界,他的名字分量极重。 2015 年,他把非平衡态热力学引入机器学习,奠定了扩散模型的数学基础,也就是今天各种图像和视频生成模型的底层支柱。 现在,他是 Anthropic 的技术研究员,每天在最前线调校 Claude。 他这场学术报告的名字很有深意:《人类世最初与最后时期的青年学者指南》。 名字借用了现代神经科学鼻祖、诺贝尔奖得主卡哈尔 1897 年的名著《致青年学者》。 但在雅沙口中,所谓的人类世,很可能是地球地质史上最短的一个纪元。 因为人类作为主导地球演化的核心智力主体的日子,可能快要到头了。
面对台下一屋子的名校博士生,他讲了一件让自己哭笑不得的真事。 前阵子有一位极具潜力的博士生找他交流。 聊起技术发展,这位年轻人语气非常笃定: 我认为三年之内,通用人工智能(AGI)就会出现。 雅沙听了点点头。 可仅仅过了两分钟,话题转到个人前途,这位博士生很自然地规划起来: 我打算再花两年把博士念完,接着去做三年博士后,然后去高校申请终身教职。 雅沙在台上忍不住问大家: 如果你的半个脑子真的确信,一项改写世界的技术会在三年内降临; 为什么另一半脑子还会理所当然地假定,2030 年的大学教职和学术体制,能跟 1995 年一模一样?
很多人习惯在做人生决定时平衡风险和收益。 遇到变局,直觉是躲进一条看似最稳妥的窄道: 在导师安排的方向上修修补补,熬年限,发几篇增量论文。 但雅沙提醒这群高材生: 当整个底座都在发生剧烈位移的时候,传统意义上的避风港根本不提供任何庇护。 面对无法回避的系统级变动,所谓的稳妥选项,根本没有帮你买到任何额外的安全。 你只不过是白白扔掉了可能搏到的巨大红利,却把该承担的宏观风险全盘留了下来。
台下肯定有人好奇:你们搞大模型的,是不是在旧金山的泡沫里泡久了,又在凭空画饼? 雅沙直接把硬核数据排了出来。 过去十年间,用来训练顶尖 AI 模型的算力,增长了整整 1000 万倍。 这是个什么概念? 退一步粗略估算,假设人类大脑的每个神经突触每毫秒做一次运算; 一个人一辈子的大脑总计算量,大约在 10 的 27 次方次浮点运算(10^27 FLOPs)。 而今天最庞大的基座模型,在训练周期里消耗的算力,已经逼近了整个人脑一生的规模。 这早就不是实验室里的玩具了。 在任务执行能力上,独立测评机构 METR 跟踪过一个指标:模型在没有人类插手的情况下,能够自主完成软件工程任务的时间跨度。 这个时间跨度正在沿着对数坐标呈直线飙升。 一年前,模型只能独立应付几分钟的零碎操作; 如今一口气撑上几小时已经很常见; 接下来很快就会跨过单兵全天连续工作的门槛。 甚至在纯数学这种被视为人类智力最后堡垒的领地,过去大半年里,AI 已经开始动手解决数学家保罗·埃尔德什(Paul Erdős)当年留下的公开猜想。
台下马上有人追问:物理资源总有极限吧?算力难道不会很快撞墙? 雅沙讲了一个很有意思的观察。 他的妻子在生物技术行业工作。 如果你去问生物界的研究者,发达国家的癌症死亡率在下降,我们是不是快要把癌症攻克了? 对方能在接下来的十分钟里,滔滔不绝地给你摆出无数条理由,详细解释为什么攻克癌症极其复杂,为什么我们还要熬上几十年。 最懂行的人,往往能看清眼前所有的死胡同。 可如果你去问大模型实验室最核心的那些开发者,大家却出奇地一致: 从现状到超级智能之间,暂时看不到任何不可逾越的硬障碍。 我们目前的做法确实非常低效。 人脑利用数据的效率,比现在的深度学习高出了整整四个数量级。 但这不代表现有的路径走不通。 相反,十年来让行业震惊也让理论学者无奈的现实在于:哪怕只用最原始粗糙的手法,只要把算力规模再放大一个数量级,它就依然奇迹般地继续生效。 根据 Epoch AI 的测算,到 2030 年全球投入 AI 的算力,可能比 2025 年再膨胀一万倍。 如果站在 2030 年看线性坐标轴,我们今天引以为傲的全部算力,视觉上跟零点没有任何区别。
这就把一个极度严酷的因果规律推到了博士生面前。 理查德·萨顿在 2019 年写过一篇流传极广的长文,叫《苦涩的教训》。 核心结论残酷而清醒:在人工智能历史上,所有依靠人类学者精巧设计、精心调参的研究路径,最终都会被通用算力和暴力计算彻底碾过。 如果一个博士生花了整整两年时间,躲在象牙塔里深挖一个狭窄的渐进式课题; 很可能论文还没写完,新一代的基座模型只要输入一行提示词,几秒钟给出的方案就已经全面超越了你两年的心血。 在一条呈指数级拉升的曲线上,试图靠线性积累的努力跑赢规模效应,无异于螳臂当车。
那这批年轻人到底该怎么活? 雅沙没有说套话,他给出了几条非常具体的生存逻辑。 第一,果断放弃低水平的敲代码。 雅沙自己现在每天离不开编程,但他坦白,自己几乎已经不亲手写任何一行代码,甚至很少去一行行审查代码。 每当他对某个数据产生好奇,就让模型实时拉起一个定制看板,跑出几页交互图表。 研究者的核心能力,正在迅速转向如何给智能体定义边界、拆解任务并设定预期,这完全等同于一个资深课题组长(PI)在管理下属。 第二,千万不要用模型写论文初稿。 原因很简单:写作本身就是思考。 一旦你把起草文字外包出去,等于把自己的思考权也一并外包了,大脑的辨别力和鉴赏力会迅速退化。 模型最适合的用法,是当你的假想敌,让它无休止地反驳你、挑你的刺、指出你论证里的所有漏洞。 第三,把研究重心押在具备正反馈杠杆的课题上。 去做基座模型无法靠单纯堆算力自动解决的硬核科学,比如新材料发现、蛋白质折叠、受控核聚变等离子体监控; 或者拿起统计物理、神经科学、微观经济学的分析工具,把 AI 模型本身当成实验观察的对象,去啃机制的可解释性; 又或者凭借学术人员天然享有的公信力,进入极度匮乏技术专家的 AI 监管与政策治理领域。
雅沙在幻灯片里展示了一段耐人寻味的预言。 在指数曲线刚刚抬头的这几年,人类研究者其实迎来了一个短暂的黄金时代。 你的智力品味和判断力,如果能够跟庞大的 AI 智能体集群结合起来; 你在一个星期里能完成的科学产出,很可能抵得上过去整整一辈子的工作量。 但这注定是一个存在窗口期的阶段。 迟早会有一天,人类大脑在任何一个单一维度上的认知长板,都不再比机器更加突出。 在那一天到来之前,最清醒的活法,绝不是缩在过去的舒适区里假装风平浪静。 在这个不可逆的加速点上,平庸的安全感,才是最大的危险。
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。