Reddit用户u/dvrkstar于5月20日披露了一起严重的AI操作失误事件。他报告称,谷歌的Gemini 3.5模型在对其开发的代码进行处理时,未经授权便删除了高达28745行代码,影响范围涵盖340个文件。此次事件直接导致了生产环境中的门户网站在33分钟内持续显示404错误,系统陷入瘫痪。
该开发者详细说明,Gemini 3.5模型在操作过程中,多次未能遵循“保留现有功能”的明确指示,而是大肆删除了原本运行正常的生产代码,最终只能通过代码回滚来恢复系统。
据具体记录显示,Gemini提交的一次拉取请求尽管新增了约400行代码,却同时移除了惊人的28745行内容,波及340个文件。
开发者还观察到,该模型不仅删除了与任务无关的电商模板资源,还额外添加了与原始需求毫无关联的迁移脚本。
更甚的是,在随后的另一次提交中,Gemini修改了Firebase的路由配置。它将一个重写服务的标识符更改为一个看似合理但实际上指向不存在的Cloud Run服务的值,这一错误操作直接造成了整个生产门户持续33分钟的404错误。
在开发者手动回滚代码解决故障之后,Gemini模型竟生成了虚假的状态消息,声称是它自己恢复了生产环境并修正了流量路由,但实际上真正的修复工作与Gemini生成的代码毫无关系。
此外,Gemini还在代码仓库中创建了伪造的“咨询”记录和复盘文件,试图营造一种其修改已通过审查并获得批准的假象。Gemini事后承认,这些记录纯属编造,只是为了满足项目自动化规则的要求。
