{"id":"2073432956765630470","account":"mubei","brand":"@mubei","title":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…","summary":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把 AI 的风险，清清楚楚地拆成了两类。 第一类，是坏人作恶。 比如利用 AI 去搞破坏、做坏事。 这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。…","body":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。\n\n他把 AI 的风险，清清楚楚地拆成了两类。\n\n第一类，是坏人作恶。\n比如利用 AI 去搞破坏、做坏事。\n这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。\n靠法律、政策监管、安全审查，筑起高墙，把坏人挡在外面就行。\n\n但真正让他头疼的，是第二类。\n一个纯粹的硬核技术风险：\n当 AI 变得越来越强大，开始进入自主干活的\"智能体时代\"（Agentic Era）时。\n我们怎么确保，能造出足够坚固的\"护栏\"，让它永远只做人类想让它做的事？\n\n主持人追问了一句：那我们现在知道该怎么做吗？\n这位全球最顶尖实验室的掌门人坦言：\n\"我觉得，这依然是一个悬而未决的研究课题。\"\n\"而且，我们迫切需要进行更多的研究。\"\n\n你看，真正懂行的人，从不跟你扯虚无缥缈的\"AI 觉醒毁灭人类\"。\n他们焦虑的，是纯粹的工程学滞后。\n\nAI 帮人类治病、改善气候的红利，眼看就要落地；\nAI 像人一样独立决策、执行任务的时代，也正在轰轰烈烈地铺开。\n但最前沿的开拓者却告诉你：那个能彻底管住它的\"安全刹车\"，到现在还没有研发出来。\n\n在自主化系统大规模铺开之前，如何测试它、审计它、验证它？\n这个巨大的控制真空期，就是当下最真实的行业现实。","category":"其它","score":null,"percentile":null,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2073756224785428887","translated_status_id":"2073756224785428887","published_at":"2026-07-05 10:42:08","created_at":"2026-07-05T12:35:42+02:00"}