深度解读AI 与大模型generatedpublished

外行的新手运气:Anthropic创始人Dario Amodei如何靠硬堆参数砸出大模型时代

机制

生物物理博士转行搞AI,靠硬堆参数砸出了大模型时代。

这个人叫 Dario Amodei。 现在他是 Anthropic 的 CEO,掌管着估值几百亿美元的 Claude。 但在 2014 年,他刚从普林斯顿拿完生物物理博士,跑去百度硅谷实验室给吴恩达当研究员。 在当时的 AI 圈子里,他是个彻头彻尾的外行。

那时候整个领域在忙什么? 全在钻研算法。 大家都在设计更精巧的神经网络架构,寻找更高深的数学优化技巧。 几乎所有专家的共识都一样:AI 想变聪明,必须靠更好的算法设计。

Dario 带着生物物理学的视角看这件事。 他觉得那些算法太复杂了,反而提出了一个几乎称得上天真的问题: “如果模型结构一点都不改呢?” “我们只把层数做深、参数做大,同时塞进去更多的数据,会怎么样?”

在他眼里,这根本不需要复杂的算法技巧。 就像设备上的两个独立旋钮。 一个旋钮叫模型规模,一个旋钮叫数据量。 两只手同时往上拧,看看会发生什么。

当时同行们的主流判断出奇一致:别折腾了。 在既有认知里,无脑堆数据容易造成严重过拟合,模型做大了算力吃不消,没有算法层面的创新,算出来的全是一团噪音。 Dario 后来在播客里回忆,听到同行们这样说,他的第一反应其实很怂: “我当时真觉得大概率是我错了,行业里这么多专家,他们肯定是对的。”

但他还是伸手去转了那两个旋钮。 实验跑出来的结果让所有人意外。 模型不仅没有崩溃,反而每加大一倍参数、每多喂一批数据,准确率就跟着往上抬一截。 而且性能提升的趋势极其规律,就像一条确定的物理定律。

到了 2017 年,他在 OpenAI 推动语言模型的实验。 互联网上的文本有几万亿词,这把旋钮的刻度一下子被彻底拉开了。 后来的事情大家都看到了。 从 GPT-1 到后来的万亿参数模型,每当有人断言规模扩张即将见顶,团队就把旋钮再往上拧一格,规模增长每一次都冲破了预想的瓶颈。

这就是后来统治整个 AI 行业的缩放定律(Scaling Law)。 大模型的智能爆发,没靠任何精巧复杂的算法技巧,纯靠最朴素的物理逻辑:把参数做大,把数据喂饱,在算力尺度上硬生生压出智能。

Dario 在访谈里给出了一句很实在的总结: 很多时候,经验反而是一种劣势。 因为懂行的人看得太清楚了。 他们知道过去的每一条理论限制,熟悉过去几十年里碰壁的各种细节,反而不会去问这种简单的问题。 只有带着新手运气的外行,因为没有思想包袱,才敢伸手去转那个没人愿意碰的旋钮。

引用 / CITATIONS

No citations exported.

同领域解读 / AI & LLMS

查看全部「AI 与大模型」解读 →

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情