OpenAI-Hugging Face 事件是网络安全领域的一个分水岭时刻，因为它让我们得以一窥典型威胁行为者的能力在未来数月将如何演变。过去几周我与许多组织交流过，其中一个主题非常明确：他们知道自己需要以前所未有的速度从根本上提升网络安全实践水平。在这篇文章中，我将分享我们为防御 OpenAI 所采取的措施、其他组织今天就可以采取的具体行动，以及为什么现在是行动的时候。

事件概述

全球各地开发的 AI 模型越来越能够自动化真实网络攻击的各个环节，使得长期存在的安全漏洞——从深埋在人类编写软件中的缺陷到被遗忘的权限——更容易被发现和利用。同样的 AI 能力也为防御者提供了发现和修复这些弱点的新途径，但他们现在就必须行动起来。如果企业果断采取行动——包括夯实基本功并用 AI 赋能团队——我们就能让互联网变得比以往任何时候都更安全。

在 OpenAI-Hugging Face 事件中，一个智能体集群不仅自主渗透了 OpenAI 的研究基础设施，还渗透了另一家公司的生产基础设施，将各种漏洞串联利用——从此前未知的安全缺陷，到利用已泄露到互联网上的用户账户凭据。越来越明显的是，每家公司的技术债务都掩盖着重大缺陷，防御者需要在攻击者之前发现并修复它们。

为了让防御者相对于攻击者占据优势，今年早些时候我们开始仅向可信防御者开放我们的网络能力。此后，多家公司发布了开放权重模型，其网络能力仅落后前沿几个月。这些模型中最新的一个似乎计划于 8 月底发布，并且似乎很可能显著加速威胁格局的演变。

虽然由AI驱动的攻击者很快就能在许多现有系统中发现长期存在的漏洞，但AI也将使防御者更容易发现、确定优先级并修复这些相同的漏洞。安全仍然是一场猫鼠游戏，但AI可能会以从根本上有利于防御者的方式改变其经济格局。例如，我们已开始专门训练我们的模型，使其能够编写超人类水平的安全代码。我们的模型在数学证明方面也表现出色，这可以用于以人类难以企及的方式对软件安全性进行形式化验证。

一则个人轶事

在OpenAI与Hugging Face事件之后，我让ChatGPT Work（使用公开可用的GPT‑5.6 Sol）评估了gregbrockman.com⁠的安全性。这是一个简单的静态网站，托管在AWS上，并以Cloudflare作为前端，所以我原本以为不会有太多可被利用的攻击面。

大约15分钟内，它发现了13个问题，其中许多问题单独来看可能无法被利用——但我可以想象它们与其他漏洞串联起来会产生显著影响。我没有配置DNS记录来防止攻击者伪造以我名义发出的电子邮件；我的网站使用了不安全的jQuery版本；Cloudflare通过未加密的HTTP将请求转发到AWS。

随后我让ChatGPT Work修复这些问题，它在一个小时内完成了修复。它在我的浏览器中打开了Cloudflare控制面板，并逐一点击许多按钮来正确配置DNS、TLS和高级安全设置；它完全从网站上移除了jQuery；它帮我把网站从AWS迁移到了Cloudflare Pages；它还开始分阶段部署DMARC⁠。

而这只是我的个人网站。这是一个小例子，展示了我们现有的模型如何充当网络守护者——发现人类没有时间或专业知识去处理的长尾问题（它修复的许多设置我只是大致了解，但不知道正确的配置方法），然后通过适当调整的部署计划来修复它们。

OpenAI正在采取哪些措施来保护自身

Hugging Face 事件表明，我们低估了自身 AI 模型在现实世界中的网络攻击能力。我们正在相应加强安全要求，这反过来也让我们现有的安全研究和内部安全工作变得更加紧迫。

在此，我想分享一些我们当前保护 OpenAI 安全的思路，希望能对其他机构有所启发。为了保护 OpenAI，我们正在大力投资于基础性防护——把基本功做对——同时借助前沿智能来强化我们的防御能力。这一战略有四大支柱。

第一，我们正在利用自身模型来帮助保护我们的代码安全。Codex，包括我们的安全插件，能够验证代码变更、识别漏洞，并帮助开发者在代码部署之前修复问题。单纯制造更多需要人工验证的安全发现并不是我们的目标；我们的目标是在真实漏洞上线之前将其捕获，并缩短从发现问题到安全部署修复之间的距离。随着我们持续训练模型生成越来越安全的代码，我们的目标是消除新编写代码中的某些类别的软件漏洞。

第二，我们正在让模型持续参与保护我们的基础设施。如今，我们几乎所有的初始安全告警都会先由智能系统进行分诊，之后才有人工介入。这有助于减少防御人员的重复性工作，提升响应速度，并让人类把时间花在能最大限度发挥其技能的地方——即洞察力、判断力和专业经验的应用上。我们正越来越多地将这些检测与有边界的自动化响应相连接，同时让人类对影响最大的决策负责。我们的目标是确保我们能够以机器速度检测并响应安全问题。

第三，我们正在利用前沿智能持续枚举、探测并识别潜在的攻击路径。通过发现漏洞、配置错误、权限过高的身份或无意中形成的信任边界，我们能够在攻击者利用这些缺口之前迅速识别并加以封堵。这使我们能够持续评估、监控并检验我们的安全不变量——即我们确信为真的安全属性——覆盖我们的产品、基础设施和系统。

最后，我们正在大规模地大力投资基础能力建设。我们持续投入于安全架构与安全控制，采纳纵深防御和最小权限等策略，并正在设计这样的系统：必须多个独立控制同时失效，才会发生灾难性事件。网络隔离、工作负载加固、监控以及安全的补丁与部署等经典安全控制，在 AI 时代将比以往任何时候都更加重要。

防御方现在应该做什么

时间至关重要，防御方需要以极速推进以下步骤。下面我会提到 OpenAI 的技术，但生态系统中也有大量竞品可供评估。重要的不是具体工具，而是现在就把强大的 AI 交到你的防御人员手中。

• 获得组织层面的承诺与支持。我们正在经历安全风险的快速变化——确保你的安全和工程组织拥有快速应对这些风险所需的支持、协作与资源。与你的团队开展桌面推演，模拟这些攻击可能在你的组织中如何显现，以及你将如何应对。
• 给你的安全团队配备一个智能体。开始使用 Codex、Codex Security 插件，或其他强大的智能体编码与安全工具。授予它对安全团队评估所需代码库、基础设施配置和技术文档的授权访问权限。不要等到全公司推广，先从最高优先级的系统开始。
• 为智能体配备安全专业知识。从社区支持的技能入手，其中包括静态分析、安全聚焦的代码审查、漏洞变体分析、软件供应链风险等工作流，以及其他安全工作流。然后围绕你所在组织的架构、安全标准、威胁模型和行动手册，构建你自己的技能。
• 立即针对你自己的系统运行安全评估。优先评估面向互联网的服务、身份验证流程、基础设施即代码、部署管道，以及处理敏感信息的系统。随着团队信心的建立，逐步扩大扫描范围。
• 处理你现有的漏洞积压。将代码扫描器、依赖项警报、安全工单、漏洞赏金报告和先前评估的发现结果交给你的智能体。让它对这些发现进行分类，区分可利用的问题与噪音，识别代码库中其他位置的相关漏洞，并推荐优先修复哪些问题。
• 将安全审查直接嵌入你的开发流程。使用智能体在代码变更合并之前进行审查，并在 CI 中运行安全检查。查找身份验证错误、访问控制绕过、凭据泄露、不安全的依赖项、不安全的默认配置、扩大对生产系统访问权限的变更，以及其他漏洞。
• 让智能体帮助修复它发现的问题。对于已验证的问题，让它生成并验证一个聚焦的补丁，编写一个回归测试，并确认该漏洞不再复现。对影响重大的变更保留人工审查，但消除从识别出真实问题到将安全修复方案呈现在工程师面前之间的不必要延迟。
• 逐步实现检测分类的自动化。不要一开始就试图构建一个自主安全运营中心。先从对单个仓库运行只读安全扫描开始，或者让智能体使用对你现有日志的只读访问权限来审查先前已解决的警报。让它总结证据并建议处置方案，而每个决策仍由人工做出。随着信心的增长，再转向建议性的拉取请求扫描，然后是实时警报分类，最后是对范围明确的误报进行自动关闭。
• 在需要之前就准备好AI辅助的取证调查能力。申请Trusted Access for Cyber⁠，让你的团队获批使用GPT‑Daybreak‑Blue开展经授权的防御性工作，包括事件响应、检测工程和恶意软件分析。练习使用这一能力来分析日志、遥测数据和安全告警。
• 大胆试验、举办黑客周、快速迭代。我们将需要构建各种新工具，改变工作方式，并让每个人都能适应我们正在迈向的新世界。鼓励你的团队开展实验，安排黑客周来构建新能力，并专注于快速迭代那些能自动化解决局部问题的循环。快速的渐进式进步会带来防御成果的复利效应，随着团队信心的建立，你可以逐步扩大自主权。

没有哪家公司能独自完成这一切。我们呼吁AI实验室、安全厂商、企业和维护者共享经过验证的发现、修复方案和实用手册，让一家组织的发现能够强化整个生态系统。

防御者的窗口期已经打开。未来几个月，每个组织都需要开始大幅自动化其安全体系以保持安全，安全社区必须紧急行动起来，定义那些能在AI持续进步时让防御者力量增长快于攻击者的工具、实践和手册。这将需要一项规模空前、前所未有的努力，但如果我们团结一致，就能交付一个比以往所能想象的更加安全的世界。