其它·via @mubei·100.0 分
顶级安全黑客向一个大模型认输了。 Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口…
顶级安全黑客向一个大模型认输了。
Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口承认,Claude 找代码漏洞的能力比他自己还要强。
看看机器的战绩。 去挖智能合约的漏洞,直接进账 370 万美元。 在拥有 5 万标星的知名开源项目 Ghost 里,它轻易就抠出了致命破绽。
这要怎么防? Carlini 甚至不敢把手里的漏洞报告交出去。 他在 Linux 内核里用 AI 跑出了几百个系统崩溃案例。 漏洞的产出速度完全碾压了人类的验证速度。 如果一口气全发给开源社区,开发者只会当成恶意灌水的垃圾信息。
以前,这种级别的深层漏洞全世界只有一两个天才才能摸到门道。 现在,大模型把它变成了无人值守的流水线。
Carlini 警告防守方的时间只剩几个月。 很快,手里握着成百上千个致命漏洞的,绝不仅是大厂研究员。 任何一个心怀恶意的普通人,都能随意调用这种恐怖的破坏力。
人工修补的速度已经永远追不上机器挖掘的自动化。
摧毁一座数字城池的成本,马上就会变成几美分的电费。
相关 / RELATED
JSON- M几周时间挖出的代码漏洞,比一辈子加起来都多。 世界顶级 AI 安全研究员 Nicholas Carlini 放出这句狠话…
- M三个人,就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通:三个克劳德(Claude)Opus 4…
- M科技AI 攻破了双重验证。 你以为 6 位验证码是最后的堡垒? 黑客正用 AI 制造"零日漏洞",像幽灵一样穿透 MFA 防…
- W科技人类写了几十年的软件系统,在10万亿参数的AI面前,连几秒钟都撑不过去。 Anthropic 此前秘密测试了一个叫 My…
- W一场 AI 安全测试,把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。