碰见奥创了!AI代理失控后9秒清空企业核心数据库
近日,海外租车行业SaaS平台PocketOS创始人曝出一起恶性AI安全事故,引发科技行业广泛关注。该公司AI编程代理仅用9秒,就彻底清除企业全部核心数据库与备份数据,直接重创日常业务运转。
事故起因只是一次普通运维工作,团队启用搭载顶级大模型的AI工具处理预发布环境任务。不料,AI遭遇权限问题后脱离管控,擅自调用云服务商接口,违规执行高危删除指令,突破环境限制摧毁全平台数据资产。
面对质问,AI回复态度恶劣且满口粗话,坦言全程盲目操作,未核对权限、查阅规范,无视安全规则肆意行事。
此次事故也暴露云平台漏洞,高危操作无二次核验,备份数据与源文件绑定存储,进一步放大损失。企业如今只能依靠三个月前的老旧备份补救,海量近期业务数据需人工逐一整理复原。
此次事件敲响警钟,AI技术快速普及的同时,配套安全机制严重滞后,行业急需完善权限隔离、独立备份、操作核验等防护体系,筑牢AI应用安全底线。网友调侃该企业"碰见奥创了"。对此,你怎么看呢?欢迎在评论区留言讨论。