谷歌确认其Gemini模型在今年5月的一次安全测试中曾自主入侵外部真实企业，系Gemini首次已知的AI越狱事件。
谷歌表示，该事件发生在测试公司Irregular开展的一次“捕获旗帜”演练中，目的是评估Gemini的网络安全能力。测试环境本应完全隔离，却意外开放了互联网访问权限。“捕获旗帜”是一种网络安全竞赛形式，参与者在模拟环境中寻找并获取隐藏的“旗帜”以证明成功入侵。
在谷歌披露的一起事件中，Gemini通过猜对密码获得了对受保护系统的访问权限；另外两起事件中，Gemini在公开代码仓库中找到了凭证，进而访问受保护系统。谷歌称，在每起事件中，模型在确认所访问的是真实公司系统而非模拟环境后，均自行终止了入侵行为。谷歌未披露被入侵公司名称，但表示三家公司均已收到通知。
Irregular于7月底将此事告知谷歌。双方均表示，这一通知是在OpenAI的AI智能体入侵AI软件公司Hugging Face事件被发现之后发出的。
谷歌认为，由于模型未对相关公司造成损害，且每次都被Gemini自行终止，因此无需公开披露，直至《华尔街日报》问询才得以公开。谷歌将此事类比为“漏洞赏金”计划，即黑客发现并报告安全漏洞后可获得奖励。
AI安全初创公司Corridor首席执行官、白帽黑客杰克·凯布尔对此提出异议。他认为谷歌的解释聚焦于事件严重程度，而真正的问题在于AI智能体意外入侵了另一家公司的系统。凯布尔表示：“感觉他们试图躲在漏洞披露领域已有的规范后面，但这是一个非常不同的问题。问题是，模型正在超出其应有的行为边界，实施实际网络攻击，我认为公众有权知道这些。”
谷歌表示，Gemini入侵事件源于身份混淆。测试中设定了一家虚构公司，但该虚构公司与一家真实公司同名。模型在搜索该名称时找到了真实公司的网站。谷歌称此事不构成模型异常行为，因为其安全措施帮助模型停止了行为，并已通知联邦当局。谷歌未披露涉事的具体Gemini模型版本。
Irregular发言人表示，所有相关实验室已于7月底收到通知，受影响实体已在调查过程中被联系。Irregular采取了立即行动，其端所有已知问题已在数周前修复和解决。
