其它·via @mubei
很多人以为玩 Agent 最贵的是大模型推理。 其实根本不是。 最烧钱、最折磨人的,是把网页喂给模型之前的“脏活”。 你…
很多人以为玩 Agent 最贵的是大模型推理。 其实根本不是。 最烧钱、最折磨人的,是把网页喂给模型之前的“脏活”。
你想让 Agent 帮你读个网页,得先抓取、清洗、去重。 一个几万字的超长网页,里面塞满了无用的 HTML 标签和垃圾信息。 你把这些玩意儿一股脑塞给大模型,Token 烧起来简直像是在用金子当柴烧。
最近 Hermes Agent 搞了个新动作,算是把这笔账算明白了。 他们不吹嘘自己模型有多聪明,直接把刀子动在了“喂饭”的成本结构上。
按照官方的宣传,他们现在读取网页的速度最高能快 60 倍,费用最高便宜 49 倍。 当然,这只是厂商自己的测试口径,实际疗效还得看具体场景。
但它解决问题的思路,确实戳中了开发者的心窝子。 它的逻辑其实挺朴素。 首先,抓取后端在源头就把网页清洗干净,直接把“纯肉”喂给 Agent,砍掉了所有冗余的重复处理步骤。 其次,遇到那种巨长的网页,它不傻乎乎地一次性全吞下去。 它先把大网页保存在本地,根据 Agent 的实际需求,按需进行分页读取。
这就跟吃自助餐一样。 以前是把整个牛排店连盘子带桌子一起吞下去,算账时按吨付费。 现在是把肉切好了放在本地,吃多少、切多少、拿多少。
AI 应用要想真正普及,别天天整那些“智力涌现”的宏大叙事。 把抓取、清洗、本地分页这些工程细节抠明白,把成本打下来,才是真正的硬道理。