Andrej Karpathy 认错了。 他说,2016 年在 OpenAI,他们犯了个代价高昂的错误:直接让 AI 智…
Andrej Karpathy 认错了。
他说,2016 年在 OpenAI,他们犯了个代价高昂的错误:直接让 AI 智能体(Agent)去干活。
这一步迈得太大,直接让他们多走了 5 年弯路。
那时候的项目叫 World of Bits。 目标很宏大:让 AI 像人一样,操控键盘 and 鼠标,去网页上订机票、点外卖。
结果呢? 当时他们手里只有“强化学习(RL)”这一把锤子。 AI 只能在简陋的网页上疯狂乱点,指望靠运气撞上高分奖励,最后证明根本走不通。
Karpathy 总结说:当时最该干的事,是彻底忘掉 Agent,先去把大语言模型(LLM)造出来。
先把脑子发育完全,再去学怎么用手。
接着,他给现在的 Agent 热潮狠狠泼了一桶冷水。
他说,Agent 跟自动驾驶、VR 是同一个物种:Demo 极其好做,产品化极其艰难。
写个脚本,让车绕着街区开一圈,或者让 AI 跑通一个订票流程,一下午就能搞定,发到网上能拿成千上万个赞。 但要让它变成真正能卖钱、不出错的产品? 对不起,做好跟它死磕 10 年的准备。
为什么这么难? 因为今天的 Agent 只有一个“大语言模型”当大脑袋,它还缺了太多零件。
海马体(记忆检索)在哪? 基底神经节在哪? 丘脑(当脑子里多个想法打架、争夺决定权时,用来分配麦克风的控制机制)又在哪? 人类大脑进化了千万年的物理回路,现在的 AI 连毛皮都还没摸到。
不过,这个大坑,反而给普通人留了条活路。
Karpathy 顺便爆了大厂的底: 在大模型训练上,像 OpenAI 这样的巨头已经把路线图摸得太透了。 学术界刚发篇新论文,OpenAI 内部的 Slack 大概率就会弹消息:“哦,这玩意我们两年半前就试过,不信你看这儿有当年的失败数据。”
但在 Agent 领域,大厂没有任何秘密武器,他们也正懵着呢。
这也是为什么,现在真正站在 Agent 能力前沿、能做出新花样的,是那些在车库里连夜修 Bug 的黑客和创业者,大厂里写论文的科学家反而没做出来。