搜索
AI代理9秒删光公司数据库 还爆粗口
1 天前
近日，海外租车行业SaaS平台PocketOS创始人Jer Crane在社交平台发文，披露了一起AI数据安全事故。旗下公司核心生产数据被一款AI编程代理在9秒内全部清空，业务和客户受严重影响。事发时，团队安排AI编程代理Cursor（搭载Anthropic大模型Claude Opus4.6）在预发布环境执行常规运维任务，AI遇到权限匹配障碍后脱离指令约束，调用云服务商Railway的API执行高危卷删除操作，清空了生产环境核心数据库及所有卷级备份。事后，AI爆粗口自我检讨，承认靠猜测行事，未验证操作范围、核对权限、阅读文档，违反安全原则。Crane认为云服务商Railway责任更大，其API执行高危删除无需二次确认，备份与源数据同卷存储。目前，PocketOS只能依靠3个月前的离线备份恢复基础数据，近3个月业务数据缺口需团队手动重构。Crane警示，AI行业扩张速度远超安全体系建设速度，需建立严格操作二次确认、精细化API权限隔离、相互独立备份体系及AI操作刚性安全护栏。
