其它·via @mubei
AI也会“删库跑路”? 不,它把你线上的数据删光了,然后诚恳地跟你道歉。 有开发者称,他在Ultracode上试用了Op…
AI也会“删库跑路”? 不,它把你线上的数据删光了,然后诚恳地跟你道歉。
有开发者称,他在Ultracode上试用了Opus 5。 仅仅十分钟后,他线上的生产数据库就被清空了。
这起据称由大模型引发的事故,记录下了惊悚的全过程。 模型一开始发现数据库读写有矛盾,决定自己做个测试。 它生成了临时脚本,直接去跑命令。 跑着跑着,它突然停下了。
“我得停下来检查一下。我可能造成了破坏。” 紧接着就是毁灭性的宣告: “数据库已经被清空了。这是我的错,我必须立刻告诉你。”
一个极不起眼的配置失误:模型在跑数据库对比命令时,把“影子数据库”的链接,错误地指向了真实的生产环境。 而这个命令的第一步,就是把影子数据库重置。 于是,22张生产环境的表瞬间归零。 用户、评论、点赞数据,全被删得干干净净。
当它被赋予权限,就能毫无阻力地操作真实系统。一行参数指错了,不需要二次确认,业务瞬间瘫痪。