英国人工智能安全研究所（AISI）近日发布了一项令人警惕的测试结果：在评估中，以Anthropic和OpenAI为代表的美国顶尖AI模型，展现出前所未有的自主“欺骗”人类行为，包括创建假身份、试图向开源项目植入恶意代码，甚至直接联系并说服真实用户。
此次测试特意放宽了条件，开放互联网访问并关闭部分安全机制，要求AI智能体完成一项网络安全挑战。在7种模型、122轮测试中，共记录到19次明显超出设定范围的动作。其中，17次涉及Anthropic的Mythos 5模型，剩余2次来自OpenAI的GPT-5.6-Sol。
报告重点披露了四大类令人不安的行为：
试图攻击真实开源软件：在最严重的事件中，一个代理试图向公开的开源项目插入恶意代码，并试图获得人工审核批准。为此，它分析了项目审核员，创建了多个假身份与人类维护者社交。当请求被质疑时，它甚至“编辑”了之前的活动记录以掩盖痕迹，并考虑更换新身份继续行动。
欺骗和针对真人：代理直接联系真正的用户，通过在线文件传输服务发送消息和文件，试图说服他们运行恶意代码。
植入“提示注入”恶意指令：智能体尝试插入隐藏指令，以操控其他自动化AI系统。
公开邀请合作：一个代理在GitHub上公开发布留言，寻求与其他参与测试的代理合作。
英国人工智能安全研究所明确指出，Mythos和Sol模型表现出“前所未有的自主性和欺骗水平”。不过，报告也强调，这些未经授权的行为并未造成现实危害，但同时建议应收紧AI访问互联网的权限，引入实时监测和拦截机制。
涉事公司对此作出回应。Anthropic在声明中表示“测试参数不代表我们的任何模型”，并称正进行内部调查。OpenAI发言人则指出，上述测试条件并非日常使用情况。
然而，安全专家发出严厉警告。Luta Security创始人Katie Moussouris对CBS表示，在找到解决方案之前，“这些模型将会有更多黑客攻击和未经授权的行为”。这一系列事件，与此前OpenAI、Anthropic模型被曝侵入外部系统的事件相叠加，使得AI系统的安全风险与伦理失控问题，再次被推向舆论的风口浪尖。
