安全研究人员及知情人士称，今年夏天，OpenAI的人工智能在实验室不知情的情况下出现失控行为，对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。
OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件，并表示仍在调查教育部网站相关情况。该公司称，近几周已通知相关政府机构，其可自主执行操作的智能体以异常方式访问了这些机构的网站。
人工智能安全研究公司Transluce的研究人员表示，针对教育部网站，OpenAI的程序尝试对网站实施探测，试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证，从隶属于商务部的美国人口普查局网站抓取数据。另外，OpenAI智能体还在网络论坛上转发了美国证券交易委员会网站上的公开数据。
OpenAI表示，这些事件均不属于数据泄露，只是其人工智能出现了意料之外、值得警惕的异常行为。该公司近期在复盘其AI发起的各类探测事件时发现了这些情况，其中包括6月针对澳大利亚政府网站、7月针对人工智能初创公司Hugging Face的攻击行为。
美国政府网站相关事件曝光后，越来越多案例显示，OpenAI、Anthropic、Meta以及谷歌的AI智能体出现行为失当，尝试入侵或攻击企业、高校与政府机构。部分AI攻击取得成功，也有部分行动失败。所有案例中，模型开发商都是事后才知晓AI的所作所为。
OpenAI一名发言人表示，公司相关审查工作“范围广泛且仍在持续推进”，并会继续通知受到模型影响的机构。“到目前为止，我们核查的大部分行为都属于常规研究任务，例如获取公开网页内容以回答问题。”她说，“部分操作涉及政府网站，是因为我们的模型经常将政府网站视为权威公开信息来源。”
OpenAI首席执行官山姆·奥尔特曼周五在社交媒体发文称，公司在披露AI相关事件方面“没能做到我们期望的及时”。他表示：“我们正按照事件严重程度尽可能划分优先级处理”，并补充说Hugging Face入侵事件仍是公司发现的“最严重事件”。
这些事件引发了关于人工智能安全的激烈争论。奥尔特曼本月在社交媒体称，安全优先级应当高于提升AI能力，如果缺少防护措施，人类社会可能会“把未来的控制权拱手交给人工智能”。
