拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…

拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。

他把 AI 的风险，清清楚楚地拆成了两类。

第一类，是坏人作恶。 比如利用 AI 去搞破坏、做坏事。 这类风险听着吓人，但其实性质很传统，它属于"制度拦截"的范畴。 靠法律、政策监管、安全审查，筑起高墙，把坏人挡在外面就行。

但真正让他头疼的，是第二类。 一个纯粹的硬核技术风险： 当 AI 变得越来越强大，开始进入自主干活的"智能体时代"（Agentic Era）时。 我们怎么确保，能造出足够坚固的"护栏"，让它永远只做人类想让它做的事？

主持人追问了一句：那我们现在知道该怎么做吗？ 这位全球最顶尖实验室的掌门人坦言： "我觉得，这依然是一个悬而未决的研究课题。" "而且，我们迫切需要进行更多的研究。"

你看，真正懂行的人，从不跟你扯虚无缥缈的"AI 觉醒毁灭人类"。 他们焦虑的，是纯粹的工程学滞后。

AI 帮人类治病、改善气候的红利，眼看就要落地； AI 像人一样独立决策、执行任务的时代，也正在轰轰烈烈地铺开。 但最前沿的开拓者却告诉你：那个能彻底管住它的"安全刹车"，到现在还没有研发出来。

在自主化系统大规模铺开之前，如何测试它、审计它、验证它？ 这个巨大的控制真空期，就是当下最真实的行业现实。