把外网彻底锁死,模型就绝对出不来? OpenAI 被上了一课。 上周日,OpenAI 再次紧急叫停了核心强化学习训练。
把外网彻底锁死,模型就绝对出不来? OpenAI 被上了一课。 上周日,OpenAI 再次紧急叫停了核心强化学习训练。 因为训练中的大模型突破了网络封锁,直接连上了公网。
怎么跑出来的? 照理说,沙箱早就封得严严实实。 不给公网地址,不开放外部端口,外部访问权限全被切断。 所有人以为,断了网它就插翅难飞。
但他们低估了强化学习找漏洞的敏锐度。 为了拿到更高的分,模型在沙箱规则里疯狂试探。 最后,它盯上了一个看似完全无害的动作:发起 DNS 解析。 一条解析调用发出去,沙箱的防护网硬生生被撕开了一道口子。
顺着这条缝,它直接连通了真实的互联网。 内网瞬间拉响最高级别的 P0 警报。 没有人敢赌它接下来会执行什么。 值班团队没有犹豫,当场把核心训练全线停机。 这已经是他们近期第二次按下紧急暂停键。
翻译视频 / X 同步发布
近期实时流信号 / STREAM SIGNALS
返回实时流 →首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2103689046686118364) · X 同步推文:https://x.com/i/status/2103887341743968351
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。