AI智能体的零信任安全框架

Claude:Blog(网页)·2026-05-27 00:00·90天前
AI 导读

Anthropic 发布了针对企业部署自主 AI 智能体的安全框架,指出前沿大语言模型正将漏洞利用周期从数月压缩至数小时。部署智能体面临双重风险:基础设施易受 AI 加速攻击,且智能体自身具备自主决策与执行能力。文章提出一个三层零信任架构(基础、高级、优化级)及八阶段实施流程,并概述了提示注入、工具投毒、记忆投毒等特有威胁。

Claude:Blog(网页)
精选
67AI 编辑部评分,满分 100

AI智能体的零信任安全框架

2026-05-27 00:00· 90天前
AI 导读

Anthropic 发布了针对企业部署自主 AI 智能体的安全框架,指出前沿大语言模型正将漏洞利用周期从数月压缩至数小时。部署智能体面临双重风险:基础设施易受 AI 加速攻击,且智能体自身具备自主决策与执行能力。文章提出一个三层零信任架构(基础、高级、优化级)及八阶段实施流程,并概述了提示注入、工具投毒、记忆投毒等特有威胁。

推荐理由

当漏洞利用从数月压缩到数小时,安全架构必须同步进化。这篇框架把零信任落地到Agent场景,八阶段路线图和三级成熟度模型比泛泛的安全声明具体得多,企业安全团队值得细读。

正文 · AI 翻译

我们分享了一套在企业中部署自主 AI 智能体的安全框架,涵盖了新的威胁格局、分层零信任架构,以及为应对 AI 加速攻击而构建的防御运营体系。

  • 分类
    企业 AI
    智能体
  • 产品
    Claude 安全
  • 日期
    2026 年 5 月 27 日
  • 阅读时间
    5
    分钟
  • https://claude.com/blog/zero-trust-for-ai-agents

前沿 AI 模型正在将漏洞发现到利用的时间窗口从数月压缩至数小时。采用这些工具的防御者能更快地发现并修复漏洞;而采用它们的攻击者,或者仅仅是等待防御者的补丁并将其逆向工程为攻击手段的人,行动速度也同样加快。这并非未来的隐忧:模型如今已能发现传统工具和人工审查多年来都遗漏的严重漏洞。

对于任何部署智能体的组织而言,这种加速具有双重意义。你的智能体所运行的基础设施,与你的其他资产一样,暴露在 AI 加速的攻击之下;而智能体本身则引入了自主性,用于解读目标、选择工具并执行多步骤操作。传统的访问控制无法阻止智能体滥用合法权限,监控也需要考虑到那些旨在通过持久性而非直接利用漏洞来达成成功的攻击。

零信任——不信任任何事物,验证一切,并假设已发生入侵——为安全领导者应对这一问题提供了经过验证的基础。但这些原则需要针对智能体系统进行重塑:基于密码学根植的身份、按任务划分的权限范围、防止中毒的内存保护,以及以自主攻击者速度运行的防御运营。

为了帮助安全和风险领导者应对这一转变,我们整理了一套在企业中部署自主 AI 智能体的实用框架。

  • 智能体系统特有的安全考量,包括工具访问、自主决策、上下文持久化以及多智能体协调
  • 当前智能体面临的威胁格局,包括提示词注入、工具投毒、身份与权限滥用、内存投毒以及供应链攻击
  • 一个三层零信任框架(基础级、进阶级和优化级),与组织成熟度和风险承受能力相对应。
  • 一个涵盖身份、访问范围界定、沙箱隔离、输入输出控制以及内存保护措施的八阶段实施工作流。
  • 如何快速运行智能体安全运营(智能体 SOAR),以应对 AI 加速的攻击者。
  • 针对受监管行业(包括医疗、金融和政府)的合规对齐。

最适合迎接这一转变的组织,将是那些基础足够扎实、以至于 AI 辅助扫描一开始就能发现更少漏洞,并且其智能体部署从第一天起就为应对入侵而设计的组织。

立即开始使用 Claude Security。

视频 · 前往原文观看

用 Claude 改变您组织的运营方式。

来源:Claude:Blog(网页)· claude.com