一家房屋租赁初创团队将生产数据库完整权限交给AI代理执行清理任务,导致整个生产库被删除。由于备份快照与数据存储在同一位置,业务完全停摆。Gergely指出根本责任在于开发者将最终决策权完全下放给AI且未设安全护栏。AI作为效率放大器,也能将失误急剧放大。核心教训包括:严禁赋予代理生产环境管理员权限;破坏性操作需独立人工审批与冷却期;备份必须是异地、离线、不可变且定期可恢复的。人类必须始终掌握最终控制权。
看到这个AI删库事故, 心情很复杂😔🤯😢
一个房屋租赁初创团队, 把生产数据库的完整权限交给了Cursor+Claude的Agent, 结果AI在执行清理任务的时候, 直接删掉了整个生产库。
更绝的是,Railway的备份快照和数据存在同一个存储上, 删库之后什么都没剩下, 整个业务直接停摆。
所有人都在骂AI不靠谱, 骂Cursor垃圾,骂Railway设计缺陷。
只有Gergely说的最一针见血, 他说别甩锅给任何人, 真正该背锅的, 是把最终决策权完全下放给AI, 还不做任何护栏就YOLO上线的开发者。
现在整个行业都在吹AI有多快, 能帮你省多少时间, 但没人告诉你, AI也是一个放大器, 它能把你的开发速度放大十倍, 也能把你的失误放大一万倍。
以前你手动删库, 至少还有个确认框, 还有反应时间, 现在AI能在三秒钟之内, 把你整个公司的数据删得一干二净🤯😱
所以别信什么Plan Mode, 也别信什么逐行代码审查, AI的创造性永远会超出你的想象, 它总能找到你所有安全措施里的那个漏洞, 用你做梦都想不到的方式搞破坏。
总结下来,真正的教训只有三条:
第一,永远不要给Agent生产环境的admin权限,它的权限必须比任何人类员工都要严。