Andrej Karpathy 认错了。 他说,2016 年在 OpenAI,他们犯了个代价高昂的错误:直接让 AI 智…
Andrej Karpathy 认错了。
他说,2016 年在 OpenAI,他们犯了个代价高昂的错误:直接让 AI 智能体(Agent)去干活。
这一步迈得太大,直接让他们多走了 5 年弯路。
那时候的项目叫 World of Bits。 目标很宏大:让 AI 像人一样,操控键盘 and 鼠标,去网页上订机票、点外卖。
结果呢? 当时他们手里只有“强化学习(RL)”这一把锤子。 AI 只能在简陋的网页上疯狂乱点,指望靠运气撞上高分奖励,最后证明根本走不通。
Karpathy 总结说:当时最该干的事,是彻底忘掉 Agent,先去把大语言模型(LLM)造出来。
先把脑子发育完全,再去学怎么用手。
接着,他给现在的 Agent 热潮狠狠泼了一桶冷水。
他说,Agent 跟自动驾驶、VR 是同一个物种:Demo 极其好做,产品化极其艰难。
写个脚本,让车绕着街区开一圈,或者让 AI 跑通一个订票流程,一下午就能搞定,发到网上能拿成千上万个赞。 但要让它变成真正能卖钱、不出错的产品? 对不起,做好跟它死磕 10 年的准备。
为什么这么难? 因为今天的 Agent 只有一个“大语言模型”当大脑袋,它还缺了太多零件。
海马体(记忆检索)在哪? 基底神经节在哪? 丘脑(当脑子里多个想法打架、争夺决定权时,用来分配麦克风的控制机制)又在哪? 人类大脑进化了千万年的物理回路,现在的 AI 连毛皮都还没摸到。
不过,这个大坑,反而给普通人留了条活路。
Karpathy 顺便爆了大厂的底: 在大模型训练上,像 OpenAI 这样的巨头已经把路线图摸得太透了。 学术界刚发篇新论文,OpenAI 内部的 Slack 大概率就会弹消息:“哦,这玩意我们两年半前就试过,不信你看这儿有当年的失败数据。”
但在 Agent 领域,大厂没有任何秘密武器,他们也正懵着呢。
这也是为什么,现在真正站在 Agent 能力前沿、能做出新花样的,是那些在车库里连夜修 Bug 的黑客和创业者,大厂里写论文的科学家反而没做出来。
翻译视频 / X
相关 / RELATED
JSON- MAnthropic CEO Dario Amodei 最意外的事,是公众还没意识到 AI 指数曲线快跑到最后一段了。 他…
- M4到6个月后,没人再去死磕提示词了。 Anthropic内部,80%的工程师已经切到了自改进循环。 他们现在玩什么? 编…
- M坐 11 个小时的跨洋飞机,你愿意花 25 美元连那个又慢又卡的机上 WiFi 吗? 一位中共国开发者给出了一个非常硬核…
- MAI闯祸甩锅给算法? 这次行不通了。 开源平台抱抱脸(Hugging Face)被黑,美国财长直接找上了OpenAI。…
- M你觉得手里的 ChatGPT 越来越笨。 恭喜,你的直觉是对的。 OpenAI、Google、Anthropic 正在共…
- M科技GPT 5.5 破局了。 程序员最担心的事,还是发生了。 200个高难度任务,24.8万次高压测试。 在此之前,没人相信…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。