单次提问推演一个月:Sergey Brin 揭秘 Gemini 百万 token 背后的长推理革命
让 AI 解一道难题,它在后台自己推演了整整一个月。
平时我们用大模型,习惯了什么节奏? 打一行字,按回车。 两秒钟后,光标开始往外吐字。 答得越快,显得越聪明。 要是哪次它卡了十秒钟,大家第一反应都是网络掉了。
但 Google 联合创始人 Sergey Brin 最近聊到 Gemini,抛出了一个完全相反的逻辑: 真正有价值的难题,两秒钟根本搞不定。
比如顶级的数学猜想,或者上百万行底层代码的系统重构。 一个顶尖的人类专家坐在桌前,得查资料、列公式、推翻假设。 草稿纸写满几十页,死胡同撞上百次。 折腾几个星期甚至一个月,才能摸出一条可行的路。
以前的大模型没有这个耐心。 你提一个问题,它立刻按概率往下蹦词。 中间没有打草稿的过程。 第一步如果想偏了,后面只能顺着错误一路编下去。 这就像让一个人参加数学奥赛,不给草稿纸,也不准停下来思考,必须张嘴直接报答案。 能做对反倒是运气。
Gemini 现在做的事情,是把单次请求的输出空间,推到一百万个 token。 一百万个 token 是什么概念? 一本大部头中文小说,大概三十到四十万字。 一百万 token,相当于三四本书的文字量。 这一百万字不用全展示给用户,它大部分写在模型自己的草稿纸上。
拿到一道复杂问题,它先建立假设。 推到第五步发现逻辑有漏洞,自己打个叉,退回去重新选路。 试到第十步缺个定理,自己调用工具验证补充。 在后台推演成千上万步,甚至连续运算好几天。 最后端到你面前的,可能只有两页纸的精简解答。 但背后消耗的,已经是相当于一个人类研究员整整一个月的思考过程。
以前整个行业都在卷响应延迟,比谁能在几百毫秒内吐出第一个字。 以后的分水岭可能会掉个头: 比谁能在后台坐更久的冷板凳。 不急着秒回,肯在黑暗里试错一万次,直到把硬骨头啃下来。 这种推理耐力,才是复杂问题真正被解开的开端。
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。