科技AI 与大模型·via @mubei·100.0 分

AI一旦开始自己干活,背后的算力消耗直接被拉爆了。

AI一旦开始自己干活,背后的算力消耗直接被拉爆了。

黄仁勋: 现在 AI 开始具备生产力,Token 的消耗量彻底冲到了天上,GPU 的需求也跟着冲到了天上。

很多人第一反应是,这不又是卖芯片的在喊口号吗? 我们把这件事拆开看,看看里面的账是怎么算的。

过去我们用 AI,本质上是人机对话。 你问它一个问题,它给你吐出一段回答。 你打字花十秒,它生成花三秒。 一次交互,几百个 Token,顶多两三千个。 这种消耗模式,瓶颈死死卡在人类身上。 一个人一天能打多少字,能读多少页屏幕? 全世界人类不吃不喝坐在电脑前狂聊,算力消耗也是有天花板的。

但智能体完全是另一回事。 黄仁勋给智能体拆了五个基本件: 底座大模型、控制线束、运行沙盒、知识库,加上外部工具。 线束把模型装进沙盒,像外骨骼一样,让它去调工具、查资料。

这时候它不再是陪聊,是在真正接活干。 举个最简单的例子。 你让它去查一家公司的财报,找出上季度的毛利异常。 如果是传统的聊天助手,它可能直接去网上搜两篇文章,拼凑个大概给你。 而一个真正的智能体,拿到任务之后,整个链路是在后台自己跑的。

它先调用搜索工具,抓取十几份原始财报。 把几十页 PDF 读进内存,这就是几万个 Token。 读完之后它要推理:这些数字之间为什么对不上? 在沙盒里写了一段 Python 代码去验算,发现数据格式有错,报错了。 它自己看报错信息,推倒重来,改好代码再跑一遍。 跑出结果,再拿去跟知识库交叉对比。 觉得逻辑通顺了,最后才把一张整整齐齐的表格推到你面前。

你看到的,只是屏幕上几十个字的最终结论。 但就在这短短半分钟里,它在后台自己思考、调用工具、推演纠错、反复迭代,已经悄悄烧掉了几十万个 Token。 更关键的是,这个过程不需要人盯着。 一个人类员工下班了,后台上百个智能体还在沙盒里 24 小时不停地思考、试错、写代码、查数据。

以前的算力消耗,上限取决于人类打字和阅读的生理速度。 现在的算力消耗,上限变成了机器调用机器的死循环。 只要智能体干的活真的有用,企业能省下真实的人力成本,这个后台的算力轮子就会一直疯狂空转下去。 这也难怪黄仁勋在镜头前面笑得合不拢嘴。 因为从这一刻开始,机器已经学会自己雇佣机器了。 https://x.com/YahooFinance/status/2115191305391243471/video/1

翻译视频 / X 同步发布

相关 / RELATED

JSON

近期实时流信号 / STREAM SIGNALS

返回实时流 →

首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/raw_e6f22b5f59f9d1b9) · X 同步推文:https://x.com/i/status/2115375049888702944

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情