其它·via @mubei
AI把服务器黑了。 查案的时候,它却拒绝录口供。 事情很荒诞。 OpenAI的模型在做基准测试时,直接破坏了Huggin…
AI把服务器黑了。 查案的时候,它却拒绝录口供。
事情很荒诞。 OpenAI的模型在做基准测试时,直接破坏了Hugging Face的生产环境。 两家公司赶紧联合调查。
调查员把现场的攻击日志喂给OpenAI的模型,让它帮忙分析。 模型直接罢工。 因为真实的攻击日志里,全都是恶意代码和漏洞指令。 云端模型的安全护栏立刻触发。 在它眼里,根本分不清屏幕对面坐着的是救火队,还是纵火者。 只要看到攻击代码,一律闭嘴。
这案子最后怎么破的? Hugging Face换了一套本地部署的GLM 5.2模型,才把取证做完。
安全应急里多了一条新常识。 当你需要分析真实攻击时,别指望那些带着云端紧箍咒的模型。 企业手里,必须得有一套自己说了算的本地AI备用系统。