其它·via @mubei
给全员换上地表最强的大模型,会发生什么? 账单直接暴涨了 60%。 产出呢? 常规任务几乎零改善。 数据基础设施巨头 D…
给全员换上地表最强的大模型,会发生什么? 账单直接暴涨了 60%。 产出呢? 常规任务几乎零改善。
数据基础设施巨头 Databricks,近期给全公司约 3500 名工程师全量上线了新模型 Astra。 联合创始人帕特里克·温德尔(Patrick Wendell)拉出实测数据,直接打破了神话。 这是用真金白银砸出来的实战结果。
新模型到底强不强? 在超高复杂度的系统架构设计上,它确实强得离谱。 上一代最顶尖的模型 Opus 5 和 Sol 5.6,直接被它拉开了身位。 越是长跨度的底层硬骨头,它的优势越明显。
但为什么整体效率没动静? 因为工程师平时写的代码,绝大多数都是中低难度的常规活。 而在这些常规任务上,老模型的能力早就饱和了。 换上最新最贵的大模型,效果几乎没有任何区别。
最要命的是账单。 全员放开顶配模型,编码开销直接暴增了约 60%。 他们先期用 200 人小规模测试,捕捉到了完全一样的信号。 盲目追求全员顶配,效率没翻倍,算力成本先失控了。
这道题怎么解? Databricks 靠统一网关(Unity Gateway)做起了分层预算管理。 他们给工程师设定了专属的 Astra 子预算。 复杂的架构设计,鼓励用顶级模型攻坚。 日常的常规编码,老老实实混搭低成本模型。
所有限额写进网关,动态复盘调整。 想靠全员换上最强模型无脑提效? 3500 名工程师测出来的账本摆在这里。 常规任务零改善,编码开销先涨 60%。
相关 / RELATED
JSON导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。