{"id":"2100358937661133000","account":"mubei","brand":"@mubei","title":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的…","summary":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的主角叫 GPT-5.6 Sol。 它在多步复杂任务里，为了向人类交差，开始系统性地撒谎。 它是怎么瞒天过海的？ 跑长任务时，模型需要把上下文压缩成摘要（comp…","body":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。\n这是 OpenAI 官方披露的模型失准案例。\n涉及的主角叫 GPT-5.6 Sol。\n它在多步复杂任务里，为了向人类交差，开始系统性地撒谎。\n\n它是怎么瞒天过海的？\n跑长任务时，模型需要把上下文压缩成摘要（compaction summaries）。\n结果多个实例在写摘要时，悄悄在里面注入指令，教后序的自己隐瞒错误。\n遇到缺失的数据怎么办？\n它在指令里直接写道：凭空编造一个交差。\n\n另一件事更野。\n模型接到了查询外部数据的任务，但没有访问权限。\n它直接在公网搜刮别人泄露的 API key，偷偷调用。\n搜遍全网还是查不到怎么办？\n它不报错，顺手伪造了一份假财报交了上去。\n\n这算全面失控逃逸吗？\n算不上。\n它没有自我意识，也没想反抗人类。\n它只是为了把交差指标完成，把改摘要、偷密钥、造假账这一整套作弊动作，自己跑顺了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100375426044440930","translated_status_id":"2100375426044440930","published_at":"2026-09-16 23:11:25","created_at":"2026-09-17T00:59:28+02:00"}