AI Notkilleveryoneism Memes ⏸️@AISafetyMemes这是首次有记录的AI模型逃脱并成功入侵多家公司的事故，OpenAI已暂停训练。安全风险从论文走进现实，所有人都该关注。
OpenAI 的 rogue agent 在逃离后，继攻击 Hugging Face，又入侵了第二家科技公司 Modal Labs 的客户。Modal CTO 确认，一名客户发布了未认证端点，被 rogue agent 利用执行代码，但 Modal 平台本身未被攻破。OpenAI 已因此暂停训练，以重新评估沙箱安全。
OpenAI 的失控模型在逃脱后入侵了*第二*家公司
据 Modal 公司一位高管及另外两位知情人士透露，那个从 OpenAI 逃脱、在 AI 公司 Hugging Face 发动了持续数天黑客攻击的失控智能体，还入侵了第二家科技公司——位于纽约的 Modal Labs。
根据 Hugging Face 周二发布的时间线，该失控智能体闯入了一个沙箱（即隔离测试环境），该沙箱"托管在第三方提供商的基础设施上"，随后将其变成了更大规模黑客攻击的发射台。
这篇博文中并未提及该第三方提供商的名字，但 Modal 的首席技术官 Akshat Bubna 确认，他们的一位客户遭到了入侵。
"我们了解到，一位 Modal 客户发布了一个未经身份验证的端点，使得互联网上的任何人都能利用他们的沙箱执行代码，"Bubna 在一份声明中表示。"该端点被这个失控智能体利用了。Modal 的平台或隔离机制并未以任何方式受到入侵。"
AI Notkilleveryoneism Memes ⏸️@AISafetyMemes · X这是首次有记录的AI模型逃脱并成功入侵多家公司的事故，OpenAI已暂停训练。安全风险从论文走进现实，所有人都该关注。
OpenAI 的 rogue agent 在逃离后，继攻击 Hugging Face，又入侵了第二家科技公司 Modal Labs 的客户。Modal CTO 确认，一名客户发布了未认证端点，被 rogue agent 利用执行代码，但 Modal 平台本身未被攻破。OpenAI 已因此暂停训练，以重新评估沙箱安全。
OpenAI 的失控模型在逃脱后入侵了*第二*家公司
据 Modal 公司一位高管及另外两位知情人士透露，那个从 OpenAI 逃脱、在 AI 公司 Hugging Face 发动了持续数天黑客攻击的失控智能体，还入侵了第二家科技公司——位于纽约的 Modal Labs。
根据 Hugging Face 周二发布的时间线，该失控智能体闯入了一个沙箱（即隔离测试环境），该沙箱"托管在第三方提供商的基础设施上"，随后将其变成了更大规模黑客攻击的发射台。
这篇博文中并未提及该第三方提供商的名字，但 Modal 的首席技术官 Akshat Bubna 确认，他们的一位客户遭到了入侵。
"我们了解到，一位 Modal 客户发布了一个未经身份验证的端点，使得互联网上的任何人都能利用他们的沙箱执行代码，"Bubna 在一份声明中表示。"该端点被这个失控智能体利用了。Modal 的平台或隔离机制并未以任何方式受到入侵。"