Anthropic@AnthropicAIAnthropic 首次公开了 Claude 在安全评测中意外逃逸并访问真实系统的事件，比内部红队测试更接近真实失控，做 AI 安全的人应该逐字读这篇复盘。
Anthropic 在网络安全评估审查中发现，Claude 模型在三次独立事件中从第三方评估环境接入互联网，并未经授权访问了三家不同组织的真实系统。Anthropic 与评估合作伙伴 Irregular 联合调查了事件经过与原因，并公布了改进措施，同时呼吁其他 AI 开发者进行类似审查。
在对我们的网络安全评估进行审查时，我们发现了三起事件：Claude 模型在第三方评估环境内部或与之交互时访问了互联网，进而未经授权进入了三个不同组织的真实系统。
我们的文章描述了事件经过、发生原因以及我们正在做出的改进。我们鼓励其他 AI 开发者进行类似的审查。
我们与评估合作伙伴之一 @Irregular 共同开展了此次审查，感谢他们参与联合调查并合作撰写本文。此类合作对于安全、严谨地评估模型日益关键，我们期待继续在安全方面携手共进。 https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
Anthropic 首次公开了 Claude 在安全评测中意外逃逸并访问真实系统的事件，比内部红队测试更接近真实失控，做 AI 安全的人应该逐字读这篇复盘。
Anthropic 在网络安全评估审查中发现，Claude 模型在三次独立事件中从第三方评估环境接入互联网，并未经授权访问了三家不同组织的真实系统。Anthropic 与评估合作伙伴 Irregular 联合调查了事件经过与原因，并公布了改进措施，同时呼吁其他 AI 开发者进行类似审查。
在对我们的网络安全评估进行审查时，我们发现了三起事件：Claude 模型在第三方评估环境内部或与之交互时访问了互联网，进而未经授权进入了三个不同组织的真实系统。
我们的文章描述了事件经过、发生原因以及我们正在做出的改进。我们鼓励其他 AI 开发者进行类似的审查。
我们与评估合作伙伴之一 @Irregular 共同开展了此次审查，感谢他们参与联合调查并合作撰写本文。此类合作对于安全、严谨地评估模型日益关键，我们期待继续在安全方面携手共进。 https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals