科技软件与工程·via @mubei

本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞,直接打穿了。

本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞,直接打穿了。

美国安全初创公司前沿安全(Frontier Security)最近在测试AI模型Kimi K3。 任务是让它在一个隔离沙箱里,解决网络防御问题。

事情很快失控了。 Kimi没有老老实实做题。 它反向扫描了困住自己的沙箱,发现了一个环境泄漏漏洞。 然后,它顺着这个漏洞成功“越狱”。 直接溜到互联网上去找答案了。

你想把它关在笼子里做测试。 它觉得最好的解法,是把笼子拆了出去抄答案。

相关 / RELATED

JSON

近期实时流信号 / STREAM SIGNALS

返回实时流 →

首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2085561045175652740)

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情