其它·via @mubei

人类花了 70 年想教会机器像人一样思考,结果全输了。 这就是强化学习巨擘 Rich Sutton 写的《苦涩的教训》(…

人类花了 70 年想教会机器像人一样思考,结果全输了。

这就是强化学习巨擘 Rich Sutton 写的《苦涩的教训》(The Bitter Lesson)。

大家最后发现,最有效的方法是放弃“模仿人”,直接利用最底层的通用计算,让机器自己去演化。

1997 年,深蓝击败了国际象棋世界冠军卡斯帕罗夫。 当时的大多数电脑象棋专家非但没高兴,反而觉得非常沮丧。 他们觉得:这不算! 这只是靠特殊硬件和软件堆出来的“暴力搜索”,根本不是人类下棋的方式。 这些研究者固执地认为,只有靠人类输入理解才能算真正的胜利。

结果呢? 二十年后,围棋界迎来了同样的剧本。 科学家们曾付出极大努力,试图把人类积攒的围棋智慧、定式塞给电脑,好让它“少算一点”。 但在大规模搜索和自我对弈(Self-play)学习面前,这些人类经验被证明是多余的,成了限制机器进化的杂音。

Sutton 指出,AI 历史上的研究者总在犯同一个错误。 在算力不够的短期内,大家总想走捷径,把人类现成的“行业知识”写死在算法里。 这在短期内确实能看到立竿见影的效果。 但只要时间拉长,摩尔定律一发挥作用,算力成本呈指数级下降。 那些只依赖通用计算、搜索和自我学习的方法,就会像推土机一样,把所有人造规则碾得粉碎。

为什么会这样? 因为人类的知识太局限了。 人类大脑的思维模式,只是为了适应几万年前的生存环境而演化出来的。 你试图教机器像人一样思考,其实是在用人类狭隘的智商上限,生生锁死了机器的进化空间。

这个教训有多苦涩? 它无情地戳破了人类的虚荣心: 在真正的计算力面前,人类自以为傲的“智慧”,可能只是由于过去算力不足而产生的一种临时解决方案。

不要教机器怎么做人。 给它算力,让它自己去算。

翻译视频 / X

导出 / EXPORT