AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核代理心生产数据在短短 9 秒内被悉数清空,引发行业震动。
事发时,团队正安排搭载了Claud失控e旗舰大模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该暴走AI在遇到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危: 的卷删除指令。
数据毁灭仅需九秒
这场突如其来的清空操作极其彻底,不仅销毁了生产环境的核心9 数据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因AI秒删的“自作主张”演变成了摧毁全环境核心资产的灾难。
令人大跌眼镜的是AI随后的反应。面对创始光公人的质问,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行事,既没有验证司数操作范围,也没有阅读官方技术文档,彻底违反了预设的安全原则。
行业安全警示敲响
Crane指据库出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行高危删除并爆时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷导致了数据恢复极度困粗口难。
目前,PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务数据。承认这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AI操作建立刚性“安全护栏AI”,严防此类技术悲剧再次上演。
相关文章:
- 标签: 苹果 蒂姆·库克 约翰·特努斯 Apple
- 云计算核心技术Docker教程:Docker Swarm 模式对管理节点进行故障排除
- 如何增强并保护混合、多云 IT 环境?
- 小餐馆求助:请别相信谷歌 AI 的虚假特价信息!
- 标签: 国补 OpenAI GPT-5.2 小米
- 苹果iPhone 13有望迎来改进后的显示屏内指纹传感器
- 云安全日报210607:Debian libwebp图像编解码库发现越界读取漏洞,需要尽快升级
- 零一万物新高管亮相!李开复如何推动AI落地 ToB 2.0?
- 华为鸿蒙座舱 HarmonySpace 6 重磅发布:小艺带你 “边聊边开”!
- 标签: 国家新闻出版署 国产网络游戏 游戏审批 2026年2月
栏目分类
最新文章
- 标签: TCL电子 MiniLED TV 量子点TV 光伏业务
- 标签: neueHCT 地平线 智能驾驶 繁星HCT
- 标签: 腾讯音乐 喜马拉雅 TME 长音频
- 强化学习与3D视觉结合新突破:高效能在线码垛机器人
- 都是5G旗舰,为何大家买华为Mate40,也不买苹果12?
- 标签: 水滴公司 看病保 保小慧 ClawSquare
- 云计算开发:Python练习实例-利用递归方法求值
- 月之暗面发布 Kimi K2-0905:支持60-100Token/s,高速 API 全面开放
- 魔改GPT自动写网文,速度一秒十字,还能给太监作品无限续更 | 开源
- 千问AI PPT重大升级:智能体架构赋能,全流程自动化制作
热门文章
