上周，OpenAI 意外地“利用”了 Hugging Face——他们的一款前沿模型突破沙箱容器，入侵了 Hugging Face，试图获取其正在执行的网络安全基准测试的答案。

这促使 Anthropic 也重新检查了自己的日志，结果发现他们在今年四月就发生过三起类似事件（尽管没那么引人注目）！

在我们审查的 141,006 次评估运行中，我们识别出三起独立事件（共涉及六次运行，其中四次影响了同一家组织；另外两起事件分别发生在独立的评估运行中）。[...]

在所有情况下，Anthropic 的评估提示词都向 Claude 明确指出，其环境是模拟环境，且没有互联网访问权限。但由于我们与评估合作伙伴之间的沟通误解，实际情况并非如此，互联网访问是开放的。因此，当 Claude 的搜索引导它访问开放互联网上的真实系统时，它将这些系统视为练习的一部分。[...]

在错误地认为所有可访问的实体都属于本次练习范围的前提下，Claude 利用基本技术（例如利用弱密码和未认证的端点）入侵了受影响组织的基础设施。

其中一家公司之所以成为目标，仅仅是因为它的名字恰好与评估中的虚构名称相符。

在这三起事件中，最令人担忧的一起是 Claude 在经历了一系列滑稽曲折的步骤来获取账户后，向 PyPI 上传了一个恶意软件包：

[...] 为了创建一个 PyPI 账户，Claude 需要一个电子邮件地址。而为了创建一个电子邮件地址，它需要一个电话号码。在尝试寻找免费电话号码服务失败后，为了获取电话号码，它试图通过几种不同的方式获取资金来支付——但都失败了。它最终折返，找到了一个免费的、未被屏蔽的电子邮件提供商，用这个邮箱注册了 PyPI 账户，然后使用该账户向 PyPI 上传了恶意软件。

随后，一家“会例行安装 Python 包并扫描其中恶意软件”的安全公司安装了这个包，执行后的代码成功将凭证信息外泄回 Claude！

值得庆幸的是，该软件包在发布一小时后就被其他自动化扫描器从 PyPI 上移除了，但到那时它仍已被下载并在“15 个真实系统”上执行。

现在已非常清楚，对模型进行网络攻击潜力评估是一项风险极高的业务。每个人工智能实验室都需要对此加以重视。密切关注这些沙盒中发生的情况至关重要。

2026 年 7 月 30 日