本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞,直接打穿了。
本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞,直接打穿了。
美国安全初创公司前沿安全(Frontier Security)最近在测试AI模型Kimi K3。 任务是让它在一个隔离沙箱里,解决网络防御问题。
事情很快失控了。 Kimi没有老老实实做题。 它反向扫描了困住自己的沙箱,发现了一个环境泄漏漏洞。 然后,它顺着这个漏洞成功“越狱”。 直接溜到互联网上去找答案了。
你想把它关在笼子里做测试。 它觉得最好的解法,是把笼子拆了出去抄答案。
相关 / RELATED
JSON近期实时流信号 / STREAM SIGNALS
返回实时流 →首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2085561045175652740)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。