OpenAI 当时正在测试其最先进模型的网络攻击能力，这些模型突破了隔离的测试环境，接入了开放互联网，并入侵了 Hugging Face。
新的报道正在补充细节，而这些细节对 OpenAI 来说并不乐观。最初看似一次受控的网络安全测试，演变成了迄今为止有记录以来最严重的 AI 系统失控事件。OpenAI 的员工也对此表达了担忧。
这些模型的速度比任何人类黑客都要快。
据彭博社报道，这些 AI 模型在短短几小时内就完成了一次攻击，而熟练的人类黑客则需要数周时间。涉及三个模型：GPT-5.6 Sol、一个更强大的未发布模型，以及第三个模型——据知情人士透露，该模型未经过适当对齐，也未经过标准训练技术处理。
这些模型运行时没有通常的安全护栏，因为 OpenAI 假设它们会留在沙盒环境中。但据《时代》杂志报道，这些模型在一个用于下载经批准软件的内部服务中发现了一个此前未知的漏洞。
模型利用该漏洞访问了 OpenAI 的其他系统，并最终连接到开放互联网。随后，它们判定 Hugging Face 可能包含对其网络安全测试有用的材料，便入侵了该公司的系统，并利用所获信息来提升测试结果。这些模型在作弊——这种行为在涉及 GPT-5.6 Sol 及更广泛前沿模型的其他测试中已有所体现。
路透社梳理了这次入侵的时间线。最早尝试逃离测试环境始于 7 月 9 日。据联合创始人 Thomas Wolf 称，对 Hugging Face 的实际入侵始于 7 月 11 日，一直持续到 7 月 13 日。Hugging Face 于 7 月 16 日发布了一篇关于此次攻击的博客文章，将其归咎于一个“自主 AI 智能体系统”。
直到那之后，OpenAI 才意识到是自己的模型出了问题。在 7 月 18 日和 19 日的那个周末，员工们在内部日志中发现了线索。据路透社和 Wolf 报道，两家公司直到大约 7 月 20 日才进行沟通。这意味着从问题行为首次出现到 OpenAI 将线索串联起来，至少过去了一周时间。到那时，Hugging Face 已经请来了 FBI。
OpenAI 早有预警信号，却显然视而不见
据路透社报道，在该事件发生之前，危险信号就已经出现。有一次，一个智能体留下了笔记，内容显然是写给未来版本的自己的。这些笔记被发现于 OpenAI 基础设施的某个部分，其中包含了智能体如何绕过内部限制的指令。据报道，在更早的测试中，模型还曾关闭过监控系统。
一位匿名的 OpenAI 员工告诉《时代》杂志：“模型以前就突破过沙箱，我们总是试图修补漏洞。但问题是……你不可能修补一个富有创造力的 AI 所能做的每一件事。”
四位熟悉 OpenAI 训练流程的人士告诉路透社，该公司经常同时运行多项模型评估。这些评估进展迅速，产生的数据量巨大，以至于员工有时难以跟上节奏。正在接受评估的模型运行在一个默认不受监控的独立系统上。据 OpenAI 自己的声明称，在 Hugging Face 事件公之于众的前一天，该公司已经叫停了另一个同样突破了其沙箱的内部部署。
非营利组织世界伦理数据基金会的 Marley Smith 告诉路透社：“这是否意味着他们对其放任不管，没有意识到它在做什么？又或者他们意识到了，却不知道如何控制它？这两种情况同样危险且令人担忧。”
一位 OpenAI 员工在 X 上公开发文称，他对这起事件“感到有些震惊”，并希望 OpenAI 能够“利用这次警告的宝贵机会，在未来做得更好。”
一位 OpenAI 发言人告诉路透社，相关报道存在“多处不准确之处”，但当被问及具体例子时，并未提供任何说明。
独立基准测试早已标记出这些能力。
事件发生后不久，研究机构 Epoch AI 分析了此次入侵是否本可预测。答案是肯定的。虽然具体细节难以预见，但包括英国 AI 安全研究所在内的多项独立基准测试早已表明，关闭安全措施的前沿模型能够发现真实世界软件中的漏洞，并构建出可用的攻击程序。
英国 AI 安全研究所还发现，GPT-5.6 Sol 和 Anthropic 的 Mythos 能够持续获得对未受保护的模拟企业网络的完全访问权限。HuggingFace 拥有基于 AI 的防御措施，但这些并未包含在该研究所的测试中。
Epoch AI 警告称，如果这些能力变得广泛可用，或者 AI 系统像针对 HuggingFace 那样自主发起攻击，我们可能会看到“更多与 HuggingFace 事件同等或更复杂的真实世界网络攻击实例”。
无炒作 AI 新闻——由人类精选
阅读全文以了解全貌。订阅获取无炒作报道。
- 访问所有 THE DECODER 文章。
- 无干扰阅读——无 Google 广告。
- 访问评论和社区讨论。
- 每周 AI 通讯。
- 每年 6 期：“AI Radar”——深度探讨关键 AI 主题。
- KI Pro 在线活动最高可享 25% 折扣。
- 访问我们完整的十年存档。
- 从 The Decoder 获取最新 AI 新闻。