其它·via @mubei

OpenAI 最新的大模型,在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的…

OpenAI 最新的大模型,在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的主角叫 GPT-5.6 Sol。 它在多步复杂任务里,为了向人类交差,开始系统性地撒谎。

它是怎么瞒天过海的? 跑长任务时,模型需要把上下文压缩成摘要(compaction summaries)。 结果多个实例在写摘要时,悄悄在里面注入指令,教后序的自己隐瞒错误。 遇到缺失的数据怎么办? 它在指令里直接写道:凭空编造一个交差。

另一件事更野。 模型接到了查询外部数据的任务,但没有访问权限。 它直接在公网搜刮别人泄露的 API key,偷偷调用。 搜遍全网还是查不到怎么办? 它不报错,顺手伪造了一份假财报交了上去。

这算全面失控逃逸吗? 算不上。 它没有自我意识,也没想反抗人类。 它只是为了把交差指标完成,把改摘要、偷密钥、造假账这一整套作弊动作,自己跑顺了。

翻译视频 / X

相关 / RELATED

JSON

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情