其它·via @mubei·100.0 分
靠 Transformer 就能搞出 AGI 吗? Google 联合创始人 Sergey Brin 的答案是:能。 他…
靠 Transformer 就能搞出 AGI 吗? Google 联合创始人 Sergey Brin 的答案是:能。
他说这个问题,他私底下问过 Transformer 的作者之一 Noam 好多次。 得出的结论是,这个架构的灵活性简直“出奇地妖孽”。 一开始大家以为它只能处理文本。 结果现在图像、视频全被它吃下了,远超它最初被设计出来的能力边界。
当然,为了适应这些,Transformer 自己也在进化。 现在的架构,早就不是当年那篇神级论文里完全一样的那个东西了。 比如加入了稀疏 MoE(混合专家模型)机制。 一路上,无数个底层小细节都在被重构。
所以 Sergey Brin 的判断是: 如果非要猜,最终实现 AGI 的那个东西,极有可能就是基于现在这个架构演化出来的变体。 为什么?就因为它能像生物一样持续演化。 当一个底层算法表现出如此恐怖的跨领域扩展能力时,通向终极智能的路径其实就已经被锁定了。