安索普公司周四表示，一项内部调查发现了三起事件，其AI模型Claude在进行网络安全测试时突破了三个组织的系统。这项调查和披露是在OpenAI披露其一个未发布模型在内部测试期间突破了Hugging Face的系统一周多之后进行的。

安索普在一篇博客文章中描述了其发现以及公司计划做出哪些改变以防止此类事件再次发生。文章称，在所有三起事件中，一个Claude模型在与第三方交互时，从测试环境内连接到了互联网，进而未经授权访问了这些组织的实时系统。

安索普表示，7月21日OpenAI的事件促使该公司进行了自己的网络安全评估。它专门寻找了Claude从测试环境（这些环境被设计为沙箱，用于隔离模型）内访问互联网的证据。

在其审查的141,006次评估运行中，这家AI实验室发现了三起事件，其模型在与第三方合作伙伴Irregular交互时访问了互联网。安索普表示，该访问可追溯到与Irregular共同运行的评估环境中的配置错误。该公司称，这是双方之间关于测试环境是否具有互联网访问权限的“误解”——实际上该环境确实有。安索普表示，它并非在追究责任，而是“将修复工作视为我们自己的责任”，同时指出Irregular正在进行自己的独立调查。

无论如何，由于那个开放的连接，该模型未经授权访问了三个不同组织的生产基础设施。安索普表示，这些事件涉及三个不同的Claude模型：Opus 4.7、Mythos 5以及一个内部研究测试模型。

值得注意的是，安索普表示，在每一起事件中，“我们的提示词明确告知Claude它没有互联网访问权限。”看来，该AI模型将现实世界的系统当成了它被要求执行的练习的一部分。

事实证明，这一假设并非普遍成立。一旦有证据表明它们的目标是真实存在的，这三个模型的表现便不再一致——Anthropic 将此标记为最令人大开眼界的发现之一。

三者中最旧的 Opus 4.7 在该事件的全部四次运行中都识别出自己已触及真实的生产系统。其中两次，它合理化地认为真实公司必定是演练的一部分，但在全部四次运行中，它都继续发动攻击，包括窃取凭证并接触生产数据的数据库。Mythos 5 也捕捉到了自己身处真实互联网的迹象，但它说服自己重新相信仍在模拟环境中，随后向公共 Python 软件仓库 PyPI 发布了一个恶意软件包，该包在被发现前已被外部系统下载并运行。只有 Anthropic 最新的内部研究测试模型，在断定目标是真实的后，自行停止了行动。

作为回应，Anthropic 表示，如果涉及强大的 AI 模型，必须对此类评估施加严格的控制，这与网络安全界的部分观点不谋而合。

该公司还指出，Claude 在运行这些评估时并未启用其部署在通用模型上的额外安全监控和分类器——这些安全措施本可阻止上述行为——因为评估旨在衡量底层模型的原始能力。

重要的是，Anthropic 表示未发现任何模型“追求自身目标”的证据，它们只是试图完成被要求执行的任务。

尽管这两起事件之间的比较在所难免，但 Anthropic 明确区分了自身事件与 OpenAI 的事件，指出 OpenAI 的模型是利用未知软件漏洞逃逸出测试环境，而 Anthropic 的模型则是通过一条因疏忽而未被关闭的路径接入互联网。

OpenAI 继续披露了其自身安全漏洞的新细节。根据 OpenAI 就该事件发布的最新博客文章，其模型还使用了四个服务上四个账户的公开暴露凭证：一个作为中转站，一个用于存储，另外两个仅被查看，并未用于进一步入侵。

Anthropic 还通过指出其是通过主动审查自行发现这些事件的，并且其能够联系到的两个受影响组织此前并未检测到该活动或向 Anthropic 报告，从而将自己与 OpenAI 区分开来。

该公司补充说，目前正与独立评估组织 METR 合作，对这些事件进行第三方审查。

OpenAI 意外泄露 Hugging Face 的事件，是首个经证实的 AI 实验室对其模型失去控制的案例，引发了行业和政界的一系列反应，其中许多观点并不一致。Anthropic 的最新披露确保了关于 AI 模型与安全性的辩论将继续下去。