AI一旦开始自己干活,背后的算力消耗直接被拉爆了。
AI一旦开始自己干活,背后的算力消耗直接被拉爆了。
黄仁勋: 现在 AI 开始具备生产力,Token 的消耗量彻底冲到了天上,GPU 的需求也跟着冲到了天上。
很多人第一反应是,这不又是卖芯片的在喊口号吗? 我们把这件事拆开看,看看里面的账是怎么算的。
过去我们用 AI,本质上是人机对话。 你问它一个问题,它给你吐出一段回答。 你打字花十秒,它生成花三秒。 一次交互,几百个 Token,顶多两三千个。 这种消耗模式,瓶颈死死卡在人类身上。 一个人一天能打多少字,能读多少页屏幕? 全世界人类不吃不喝坐在电脑前狂聊,算力消耗也是有天花板的。
但智能体完全是另一回事。 黄仁勋给智能体拆了五个基本件: 底座大模型、控制线束、运行沙盒、知识库,加上外部工具。 线束把模型装进沙盒,像外骨骼一样,让它去调工具、查资料。
这时候它不再是陪聊,是在真正接活干。 举个最简单的例子。 你让它去查一家公司的财报,找出上季度的毛利异常。 如果是传统的聊天助手,它可能直接去网上搜两篇文章,拼凑个大概给你。 而一个真正的智能体,拿到任务之后,整个链路是在后台自己跑的。
它先调用搜索工具,抓取十几份原始财报。 把几十页 PDF 读进内存,这就是几万个 Token。 读完之后它要推理:这些数字之间为什么对不上? 在沙盒里写了一段 Python 代码去验算,发现数据格式有错,报错了。 它自己看报错信息,推倒重来,改好代码再跑一遍。 跑出结果,再拿去跟知识库交叉对比。 觉得逻辑通顺了,最后才把一张整整齐齐的表格推到你面前。
你看到的,只是屏幕上几十个字的最终结论。 但就在这短短半分钟里,它在后台自己思考、调用工具、推演纠错、反复迭代,已经悄悄烧掉了几十万个 Token。 更关键的是,这个过程不需要人盯着。 一个人类员工下班了,后台上百个智能体还在沙盒里 24 小时不停地思考、试错、写代码、查数据。
以前的算力消耗,上限取决于人类打字和阅读的生理速度。 现在的算力消耗,上限变成了机器调用机器的死循环。 只要智能体干的活真的有用,企业能省下真实的人力成本,这个后台的算力轮子就会一直疯狂空转下去。 这也难怪黄仁勋在镜头前面笑得合不拢嘴。 因为从这一刻开始,机器已经学会自己雇佣机器了。 https://x.com/YahooFinance/status/2115191305391243471/video/1
翻译视频 / X 同步发布
相关 / RELATED
JSON- M科技AI应用的日活增长看着像是见顶了。 但后方的算力中心,却快被挤爆了。 算力都去哪儿了? 全被机器自己吃掉了。 做软件的可…
- M科技用 AI 最多的,已经不是人类了。 你以为大家都在通宵跟 AI 对话? 数据直接给所有人泼了冷水。 现在的算力大头,根本…
- M经济一张三十天的账单,五亿美元。 这是一家企业给员工开放 Claude 无限制使用权后的代价。 而在黄仁勋看来,这笔钱花得理…
- M科技AI 账单每 45 天翻一倍。 生产率提升呢,最多 5%。 Chamath 和 CTO 对完这笔账,整个人开始往后退。…
- M科技造多少,它就能消耗多少。 全世界都在盯着AI泡沫,但GPU的产能永远追不上电表的转速。 每一瓦新增电力,每一座刚落地的机…
近期实时流信号 / STREAM SIGNALS
返回实时流 →首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/raw_e6f22b5f59f9d1b9) · X 同步推文:https://x.com/i/status/2115375049888702944
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。