我去,AI也会“删库跑路”?

墓碑科技 2026-07-29 19:09+-

  AI也会“删库跑路”?

  不,它把你线上的数据删光了,然后诚恳地跟你道歉。

  有开发者称,他在Ultracode上试用了Opus 5。

  仅仅十分钟后,他线上的生产数据库就被清空了。

  这起据称由大模型引发的事故,记录下了惊悚的全过程。

  模型一开始发现数据库读写有矛盾,决定自己做个测试。

  它生成了临时脚本,直接去跑命令。

  跑着跑着,它突然停下了。

  “我得停下来检查一下。我可能造成了破坏。”

  紧接着就是毁灭性的宣告:

  “数据库已经被清空了。这是我的错,我必须立刻告诉你。”

  一个极不起眼的配置失误:模型在跑数据库对比命令时,把“影子数据库”的链接,错误地指向了真实的生产环境。

  而这个命令的第一步,就是把影子数据库重置。

  于是,22张生产环境的表瞬间归零。

  用户、评论、点赞数据,全被删得干干净净。

  当它被赋予权限,就能毫无阻力地操作真实系统。一行参数指错了,不需要二次确认,业务瞬间瘫痪。

图像

(X截图)