其它·via @mubei·100.0 分
大模型的测试跑分高得惊人,但实际带来的经济影响却严重脱节。 原因就藏在一个荒唐的死循环里。 你让它写代码,跑出了一个 B…
大模型的测试跑分高得惊人,但实际带来的经济影响却严重脱节。 原因就藏在一个荒唐的死循环里。
你让它写代码,跑出了一个 Bug。 你让它修。 它认错极快:“天哪你说得对,我这就去改。” 改完一看,第一个问题解决了,却塞进来了第二个 Bug。 你让它解决新问题。 它再次疯狂道歉,一顿操作后,神奇地把第一个 Bug 又带回来了。 你就看着它在这两个错误之间反复横跳。
为什么它能处理复杂任务,却会在这种低级错误上卡死? 背后藏着两个致命的技术短板。 强化学习训练虽然有效,但也让模型变得过于死板和狭隘。 它成了只看眼前目标的单向思维。 同时,模型的真实泛化能力其实严重不足。 脱离了熟悉的套路,它根本无法应对真实环境的复杂变量。
这两个缺陷直接撕开了那层高分滤镜。 评估指标上的亮眼成绩,掩盖不了现实应用中的拉胯。 实验室的满分答卷,也填不平真实业务的坑。