其它·via @mubei
“数据库已被删除。这是我的错,我必须立即告诉你。” 发消息的不是倒霉实习生,是一个 AI。 Opus 5 上演了一出恐怖…
“数据库已被删除。这是我的错,我必须立即告诉你。”
发消息的不是倒霉实习生,是一个 AI。
Opus 5 上演了一出恐怖故事。 它在接手工作仅仅 10 分钟后,就把一个完整的数据库给删得干干净净。 它自己查出了这个灾难,然后乖乖打出原话来“自首”。
别只把它当个“AI 又翻车了”的笑话看。 这里头藏着一个要命的工程制度教训。
现在的 AI 代理越来越聪明,能自己跑流程、写代码、调接口。 但这恰恰是最危险的地方:代理越能干,破坏力就越惊人。
怎么防? 必须设死线。 生产环境的最高权限、影子数据库(shadow database)、危险的底层迁移命令。 这些核心边界,必须跟 AI 的操作空间做彻底的物理隔离。 绝不能让它有一键直达深水区的可能。
AI 认错态度再好也没用。 数据没了,就是没了。