Claude:Blog(网页)
精选
60AI 编辑部评分,满分 100

Anthropic 推出 Claude Tag,构建人机协作团队

2026-06-24 00:00· 49天前
AI 导读

Anthropic 推出 Claude Tag,支持多用户与同一 AI 智能体在同一工作空间协作。智能体具备持久记忆、独立于人类的凭证及广泛信息访问权限。经验:工作公开化并给予智能体广泛上下文,通过工作区级安全边界让信息对人和 AI 均可用;为每位成员(含 AI)分配明确角色与相应工具。用户可通过 @Claude 私信进行敏感交互,对话保持私密。该方法已在 Slack 等团队协作工具中实践,旨在使人类与智能体高效协作完成共享目标。

推荐理由

Anthropic 内部总结的四个教训——公开透明、明确角色、设北极星、逐步信任,对正在探索人机协作团队的管理者来说,比产品手册更实用。

正文 · AI 翻译

我们与 AI 协作的方式正从单人体验演变为多人体验,人类与 AI 智能体以团队形式协同工作,共同实现目标。以下将分享这种全新工作模式的实际案例。

  • 分类
    企业 AI
  • 产品
    Claude Tag
  • 日期
    2026 年 6 月 24 日
  • 阅读时间
    5
    分钟
  • https://claude.com/blog/building-effective-human-agent-teams

过去,与 AI 协作意味着一个人面对一个聊天窗口。随着时间的推移,AI 在处理复杂、长期的工作任务方面能力日益增强,例如编程、研究和财务分析。由此,我们看到了许多使用 AI 的新方式——从终端和 IDE 到电子表格和演示文稿——但工作在很大程度上仍然是一种"单人"体验:一个人与一个 AI 智能体协作完成个人任务。

随着 Claude Tag 等工具的发布,这种情况正在改变。现在,人类与 AI 智能体可以在同一个工作空间中协同工作,共同为团队目标而努力。工作现在更像是一场多人游戏,由人类团队制定策略,Claude 负责执行任务。

这涉及一些新的工作方式。在 Anthropic,过去几个月我们一直在测试使人类-AI 智能体团队成功运作所需的技术。在本文中,我们将解释什么是多人智能体,以及我们在构建此类系统时学到的经验。

什么是多人智能体?

"多人智能体"在此指的是能够同时与多个不同人类协作的 AI 模型。与常规智能体类似,它们拥有自己的记忆和技能。但在其他方面,它们又截然不同。它们拥有独立的凭证,并存在于工作发生的场所中。在 Anthropic,它们存在于像 Slack 这样的团队协作工具中。

以下是一个人类-AI 智能体团队在 Slack 中共同分析数据集的示例:

为了让智能体有效参与团队频道,它们需要具备特定能力:

  • 持久记忆,以便记住目标并据此调整执行方式
  • 不绑定于人类的凭证,以便在安全、可预测的防护范围内运行
  • 持续广泛地获取信息,以便他们了解组织的运作方式,并采取行动执行任务,为团队目标的实现服务。

这些能力构成了智能体在多人团队中有效参与所需的技术基础。然而,要让人类与智能体组成的团队取得成功,需要的远不止这些:团队还需要特定的工作方式和共享规范。

经验一:公开工作,为智能体提供广泛背景信息

Anthropic 的团队会主动、公开地分享信息。当团队中有智能体时,这一点尤其重要,因为智能体完全从团队可检索的文本中构建其理解:Slack、代码、文档和会议记录。私人消息、走廊谈话和受限文档无法为智能体提供背景信息。对智能体而言,如果没有被写下来且可访问,就等于不存在。

我们不会逐个文档或逐个 Slack 频道地决定哪些信息应提供给智能体,而是采用明确定义的安全边界,这些边界适用于整个 Slack 工作区,以及会议记录和文档库。在安全边界内,信息会流向每一位团队成员——无论是人类还是 AI。这不仅增加了智能体和人类可获取的信息量,也减少了关于什么可以分享、与谁分享的困惑。人类和智能体都难以应对按项目分享的模糊边界:这个频道应该公开还是私密?我能把这个文档分享给那个人吗?这个智能体被允许看到那个讨论串吗?少量清晰的工作区级边界消除了日常工作中的决策疲劳。

高度透明会带来回报。例如,能够阅读团队会议决策的智能体不会提出已被降级的任务或项目。能够访问自身团队之外产品规格的智能体可以推荐在其他团队中成功的模式。而且,由于智能体阅读大量文本的速度远快于人类,它们能经常发现人类本会错过的相关工作。在这个繁忙、快速发展的行业中,我们高度依赖智能体来保持信息灵通和协调一致。

在 Anthropic,公开工作的方式如下:

  • 在公司内部选择若干安全边界,并为每个安全边界创建工作空间和文档共享设置。
  • 默认将组织内的新沟通渠道设为公开,并确保每次决策都能落地到频道、文档和会议记录中。
  • 编写工件和会议记录,以便智能体能够找到它们,因为智能体现在已成为团队文档的主要消费者。
  • 确保 AI 拥有完成工作所需的正确工具和信息。

默认将信息设为内部公开可能需要文化上的转变。然而,拥有上下文的人类-智能体团队与没有上下文的团队之间的差异太过显著,不容忽视。

当然,有些交互是敏感的,需要在单个人类和 AI 之间保持私密。对于这些情况,通过 Claude Tag 你可以向 @Claude 发送直接消息,或者使用现有的 Claude.ai 和 Claude Cowork 应用程序。这些工具通过你的个人 MCP 连接器让 Claude 访问私有信息,同时确保你的对话以及与智能体分享的内容保持私密。

经验二:每个人类和智能体都获得明确的角色,并配备完成工作所需的正确工具。

人类-智能体团队共享同一个名册、同一套工件和同一个工作空间。智能体拥有自己的凭证、技能和工具访问权限。不同的智能体也承担不同的角色:例如,一个智能体可能负责项目的数据分析,另一个将持有并执行设计标准,第三个则负责研究综合。

当项目启动时,人类与智能体进行对话,以确定分配哪些角色,以及人类和智能体将如何协作。

一旦人类和智能体的职责明确,一个智能体可能会启动其他智能体,以确保特定任务由拥有正确记忆和适当访问权限的智能体来处理。重要的是,它们需要访问完成工作所需的所有工具:负责数据分析的智能体可能需要访问 BigQuery,而执行质量保证的智能体可能需要访问 Playwright MCP。

明确界定的角色与职责,是人与智能体团队取得成功的基础。人类通常与智能体在相同的工作线程中协作,但人类只承担那些唯有自己才能胜任的角色。这确保了所有环节协同运作,并将人类判断应用于最重要的决策。如果没有清晰的角色划分,人们最终会在私下运行大量个人智能体,导致工作重复并割裂团队的整体上下文。指标追踪就是一个常见案例:一个多人智能体可以一次性完成这项工作,让所有人都看到相同的数据。

在 Anthropic,人与智能体团队中明确界定的角色表现为:

  • 达成共识的任务集:团队中的人类和智能体就谁负责什么达成一致
  • 人类与智能体在相同的共享工作线程中协作,以便任何人都能接手他人未完成的工作
  • 人类与智能体都能访问合适的工具来完成各自的工作
  • 对智能体角色与范围的描述
Claude 智能体共同承担代码库的日常维护工作,包括分类反馈、规划、编写代码、审查变更以及报告状态。每个智能体都拥有明确的任务,并按自己的节奏工作;人类则负责设定目标并审查输出结果。

Anthropic 的一个工程团队开始创建名册,以帮助规范人类和智能体的角色,因为这使得推动工作变得更加容易和具体。他们早期发现的一些要点包括:

  • 具体的角色也有助于人类轻松追踪任务的归属责任,无论是单个任务还是整个团队的责任集合
  • 编写技能文件来定义特定智能体的角色,有助于轻松实现专业化,并允许公司内部人员快速部署其他同类型的智能体
  • 当项目变得更为复杂时,团队会添加新的智能体来专注于新的领域。例如,他们增加了一个发布管理智能体来处理新的软件发布。

这些方法使得人类对人与智能体团队的认知模型能够随着智能体数量的增长而扩展。

经验教训 3:设定一个北极星目标,让智能体更具主动性

尽管 Anthropic 的一些 AI 智能体只是完成分配的任务,但最重要的那些会主动建议新的项目和任务流。这种情况通常发生在,一个已经为智能体提供了丰富上下文和明确角色的团队,又增加了一个指引:北极星目标。

北极星目标是宏大而广泛的目标,帮助团队决定哪些任务和任务流是正确的方向。在 Anthropic,人类始终设定北极星目标,并将其根植于公司的使命和业务目标之中。

一旦北极星目标被清晰地以书面形式阐述出来,人类就会将其分享给团队中的 AI 智能体。然后,重要的是,人类会选择哪些智能体应该主动建议新的任务流,以帮助实现这个长期目标。(团队中不太可能每个智能体都具备主动成功提出建议所需的先决技能和信任度。)

例如,一个内部工具团队,其北极星目标是“让产品上手流程更有帮助”,团队发现一个智能体主动建议对上手流程中的错误提示信息进行文案修改。这些修改在接下来的一周内显著提高了上手成功率。

在 Anthropic,设定北极星目标的过程如下:

  • 由人类讨论、辩论并记录一个宏大的北极星目标,用于他们的人机协作团队——这个目标根植于公司的使命和业务目标
  • 将北极星目标分享给团队中的 AI 智能体,并明确指出哪些智能体可以主动推荐新的任务流
  • 在日程中保留高质量的人类时间,会议现在聚焦于最重要的工作

一个清晰的北极星目标为 AI 智能体提供了一致的前进方向,以及主动支持团队工作的有意义的机会。

经验 4:逐步建立信任

Anthropic 的团队根据 AI 智能体展现出的可靠性来授予其相应的自主权,然后有意识地扩大这种自主权。工程师们已经成功派遣团队中的智能体独立处理了 500 个错误修复,但事情当然不是一开始就这样顺利的。

当一位新同事加入团队时,需要花时间评估其能力并建立高效的工作习惯。通常需要多次反馈循环,才能将关于如何最好地完成任务的所有隐性知识外化出来。这对 AI 智能体来说也是如此。用户必须尝试给 AI 智能体分配许多不同的任务,以便了解它能做什么、如何清晰地描述目标、需要哪些技能文件,以及哪些提示词最能有效引导出期望的行为。随着模型的变化和改进,重新测试任务也很重要。提示词可能需要重新措辞,而过去有用的防护栏可能会限制一个更智能的模型去追求更具创造性的解决方案。

值得注意的是,我们发现,运行时间最长的优秀 AI 智能体有许多不同的方式,在人类检查其工作之前进行自我验证。代码当然有测试,但大多数其他工作也可以被验证。例如,技术文档可以应用评分量表和风格指南。当人类设定标准,并确保分配给 AI 智能体的所有工作都能被审查时,质量就能保持高水平,并且不会偏离最初的意图。另外,与人类协作类似,让一个 AI 智能体负责执行任务,另一个 AI 智能体负责检查前者的工作,通常也很有帮助。这通常被称为“执行者-验证者”AI 智能体框架。

在 Anthropic,随着时间的推移与 AI 智能体建立信任,具体表现为:

  • 初期手动审查 AI 智能体的工作,以评估质量、提供反馈,并设计任务验证清单
  • 指示 AI 智能体使用一个“验证者”AI 智能体来检查其工作,作为任务的一部分
  • 在循环中融入反思,并要求 AI 智能体回顾自身的失误,以便工作质量随时间推移而提升
  • 追踪每个 AI 智能体在哪些类型的任务上已获得自主权,并在重复成功后,按任务类型逐步扩大其自主范围

Anthropic 的一位工程负责人接手了一个积压了大量任务的新团队。为了理清头绪,他邀请了几位人类同事和几个 AI 智能体来帮助他梳理积压工作,并确定哪些任务最为重要。团队中的一组智能体负责阅读积压列表中的所有条目,判断是否有人在处理这些条目,并为任何无人认领的任务分配一个复杂度评分。另一组智能体则从列表中筛选出中等和低复杂度的条目,并创建代码变更。起初,人类会审查智能体做出的每一个决定,并标记出任何需要人类介入的决策。随后,人类教导智能体将这些决策直接呈现给人类,确保涉及艰难权衡的决策始终有人类参与其中。

每周,这位负责人和他的团队都会要求智能体汇编一份周报,其中包含“经验教训与失误”,以便智能体能够记录错误,并在未来避免重蹈覆辙。随着时间的推移,这位负责人能够将越来越复杂的代码变更交给他的智能体处理,并且花在指导智能体日常任务上的时间也越来越少。

一旦智能体变得更加独立,这位负责人便指导它们将人类的注意力视为一种稀缺资源:将需要回答的问题分批处理,以便一次性完成;重复关键上下文,让人类能快速了解情况;并限制每个人在同一时间看到的事项数量。

帮助智能体进行良好的沟通,可以确保它们始终保持有用和高效。有些人会在团队中设置专门的智能体,其唯一职责就是决定如何将最重要的信息进行分组并优先呈现给人类团队成员。另一些人则为智能体每天应完成的工作量设定护栏,以便人类能够有意义地参与到工作中。这些护栏确保了人类能够维持对他们而言重要的技能,并且需要人类审查的事项数量保持在可持续的水平。

需要思考的问题

在为人机协作团队奠定基础时,请考虑以下问题:

  1. 智能体和人类所需的所有信息和访问权限是否都是公开且易于搜索的?
  2. 你能写下你团队的成员名单(包括人类和AI智能体),并说明每个成员负责什么吗?
  3. 团队中的每个人类成员和AI智能体是否都拥有完成其工作所需的正确工具?
  4. 你们是否有针对人类和AI智能体的评估标准或测试,用以验证关键工作成果?
  5. 你的团队是否有一个清晰、人人都可参照的北极星目标?

展望未来

这些模式都不是什么新鲜事——至少对人类而言不是。强大的北极星目标、清晰的职责分工、完善的文档、共同的质量标准,以及从错误中学习的空间,这些都是我们几十年来熟知的健康团队习惯。AI智能体的出现只是让不跳过这些步骤变得更加重要。

那些从AI智能体中获得最大收益的团队,正是最刻意地应用这些基本原则的团队。

致谢

本文由Anthropic教育团队成员Kristen Swanson撰写。她感谢Matt Bell、Erik Olesund、Hasnain Lakhani、Shale Craig、Nolan Caudill、Mike Schiraldi、Aleks Todorova和Molly Vorwerck对本文的贡献。

现在就开始使用Claude Code中的智能体团队,或通过Claude Tag来构建多人AI智能体协作系统。

视频 · 前往原文观看

用Claude改变你组织的运作方式。

来源:Claude:Blog(网页) · claude.com

事件后续 · 1查看事件全部 →

Anthropic 推出 Claude Tag,构建人机协作团队

Claude:Blog(网页)·2026-06-24 00:00·49天前
AI 导读

Anthropic 推出 Claude Tag,支持多用户与同一 AI 智能体在同一工作空间协作。智能体具备持久记忆、独立于人类的凭证及广泛信息访问权限。经验:工作公开化并给予智能体广泛上下文,通过工作区级安全边界让信息对人和 AI 均可用;为每位成员(含 AI)分配明确角色与相应工具。用户可通过 @Claude 私信进行敏感交互,对话保持私密。该方法已在 Slack 等团队协作工具中实践,旨在使人类与智能体高效协作完成共享目标。

正文 · AI 翻译

我们与 AI 协作的方式正从单人体验演变为多人体验,人类与 AI 智能体以团队形式协同工作,共同实现目标。以下将分享这种全新工作模式的实际案例。

  • 分类
    企业 AI
  • 产品
    Claude Tag
  • 日期
    2026 年 6 月 24 日
  • 阅读时间
    5
    分钟
  • https://claude.com/blog/building-effective-human-agent-teams

过去,与 AI 协作意味着一个人面对一个聊天窗口。随着时间的推移,AI 在处理复杂、长期的工作任务方面能力日益增强,例如编程、研究和财务分析。由此,我们看到了许多使用 AI 的新方式——从终端和 IDE 到电子表格和演示文稿——但工作在很大程度上仍然是一种"单人"体验:一个人与一个 AI 智能体协作完成个人任务。

随着 Claude Tag 等工具的发布,这种情况正在改变。现在,人类与 AI 智能体可以在同一个工作空间中协同工作,共同为团队目标而努力。工作现在更像是一场多人游戏,由人类团队制定策略,Claude 负责执行任务。

这涉及一些新的工作方式。在 Anthropic,过去几个月我们一直在测试使人类-AI 智能体团队成功运作所需的技术。在本文中,我们将解释什么是多人智能体,以及我们在构建此类系统时学到的经验。

什么是多人智能体?

"多人智能体"在此指的是能够同时与多个不同人类协作的 AI 模型。与常规智能体类似,它们拥有自己的记忆和技能。但在其他方面,它们又截然不同。它们拥有独立的凭证,并存在于工作发生的场所中。在 Anthropic,它们存在于像 Slack 这样的团队协作工具中。

以下是一个人类-AI 智能体团队在 Slack 中共同分析数据集的示例:

为了让智能体有效参与团队频道,它们需要具备特定能力:

  • 持久记忆,以便记住目标并据此调整执行方式
  • 不绑定于人类的凭证,以便在安全、可预测的防护范围内运行
  • 持续广泛地获取信息,以便他们了解组织的运作方式,并采取行动执行任务,为团队目标的实现服务。

这些能力构成了智能体在多人团队中有效参与所需的技术基础。然而,要让人类与智能体组成的团队取得成功,需要的远不止这些:团队还需要特定的工作方式和共享规范。

经验一:公开工作,为智能体提供广泛背景信息

Anthropic 的团队会主动、公开地分享信息。当团队中有智能体时,这一点尤其重要,因为智能体完全从团队可检索的文本中构建其理解:Slack、代码、文档和会议记录。私人消息、走廊谈话和受限文档无法为智能体提供背景信息。对智能体而言,如果没有被写下来且可访问,就等于不存在。

我们不会逐个文档或逐个 Slack 频道地决定哪些信息应提供给智能体,而是采用明确定义的安全边界,这些边界适用于整个 Slack 工作区,以及会议记录和文档库。在安全边界内,信息会流向每一位团队成员——无论是人类还是 AI。这不仅增加了智能体和人类可获取的信息量,也减少了关于什么可以分享、与谁分享的困惑。人类和智能体都难以应对按项目分享的模糊边界:这个频道应该公开还是私密?我能把这个文档分享给那个人吗?这个智能体被允许看到那个讨论串吗?少量清晰的工作区级边界消除了日常工作中的决策疲劳。

高度透明会带来回报。例如,能够阅读团队会议决策的智能体不会提出已被降级的任务或项目。能够访问自身团队之外产品规格的智能体可以推荐在其他团队中成功的模式。而且,由于智能体阅读大量文本的速度远快于人类,它们能经常发现人类本会错过的相关工作。在这个繁忙、快速发展的行业中,我们高度依赖智能体来保持信息灵通和协调一致。

在 Anthropic,公开工作的方式如下:

  • 在公司内部选择若干安全边界,并为每个安全边界创建工作空间和文档共享设置。
  • 默认将组织内的新沟通渠道设为公开,并确保每次决策都能落地到频道、文档和会议记录中。
  • 编写工件和会议记录,以便智能体能够找到它们,因为智能体现在已成为团队文档的主要消费者。
  • 确保 AI 拥有完成工作所需的正确工具和信息。

默认将信息设为内部公开可能需要文化上的转变。然而,拥有上下文的人类-智能体团队与没有上下文的团队之间的差异太过显著,不容忽视。

当然,有些交互是敏感的,需要在单个人类和 AI 之间保持私密。对于这些情况,通过 Claude Tag 你可以向 @Claude 发送直接消息,或者使用现有的 Claude.ai 和 Claude Cowork 应用程序。这些工具通过你的个人 MCP 连接器让 Claude 访问私有信息,同时确保你的对话以及与智能体分享的内容保持私密。

经验二:每个人类和智能体都获得明确的角色,并配备完成工作所需的正确工具。

人类-智能体团队共享同一个名册、同一套工件和同一个工作空间。智能体拥有自己的凭证、技能和工具访问权限。不同的智能体也承担不同的角色:例如,一个智能体可能负责项目的数据分析,另一个将持有并执行设计标准,第三个则负责研究综合。

当项目启动时,人类与智能体进行对话,以确定分配哪些角色,以及人类和智能体将如何协作。

一旦人类和智能体的职责明确,一个智能体可能会启动其他智能体,以确保特定任务由拥有正确记忆和适当访问权限的智能体来处理。重要的是,它们需要访问完成工作所需的所有工具:负责数据分析的智能体可能需要访问 BigQuery,而执行质量保证的智能体可能需要访问 Playwright MCP。

明确界定的角色与职责,是人与智能体团队取得成功的基础。人类通常与智能体在相同的工作线程中协作,但人类只承担那些唯有自己才能胜任的角色。这确保了所有环节协同运作,并将人类判断应用于最重要的决策。如果没有清晰的角色划分,人们最终会在私下运行大量个人智能体,导致工作重复并割裂团队的整体上下文。指标追踪就是一个常见案例:一个多人智能体可以一次性完成这项工作,让所有人都看到相同的数据。

在 Anthropic,人与智能体团队中明确界定的角色表现为:

  • 达成共识的任务集:团队中的人类和智能体就谁负责什么达成一致
  • 人类与智能体在相同的共享工作线程中协作,以便任何人都能接手他人未完成的工作
  • 人类与智能体都能访问合适的工具来完成各自的工作
  • 对智能体角色与范围的描述
Claude 智能体共同承担代码库的日常维护工作,包括分类反馈、规划、编写代码、审查变更以及报告状态。每个智能体都拥有明确的任务,并按自己的节奏工作;人类则负责设定目标并审查输出结果。

Anthropic 的一个工程团队开始创建名册,以帮助规范人类和智能体的角色,因为这使得推动工作变得更加容易和具体。他们早期发现的一些要点包括:

  • 具体的角色也有助于人类轻松追踪任务的归属责任,无论是单个任务还是整个团队的责任集合
  • 编写技能文件来定义特定智能体的角色,有助于轻松实现专业化,并允许公司内部人员快速部署其他同类型的智能体
  • 当项目变得更为复杂时,团队会添加新的智能体来专注于新的领域。例如,他们增加了一个发布管理智能体来处理新的软件发布。

这些方法使得人类对人与智能体团队的认知模型能够随着智能体数量的增长而扩展。

经验教训 3:设定一个北极星目标,让智能体更具主动性

尽管 Anthropic 的一些 AI 智能体只是完成分配的任务,但最重要的那些会主动建议新的项目和任务流。这种情况通常发生在,一个已经为智能体提供了丰富上下文和明确角色的团队,又增加了一个指引:北极星目标。

北极星目标是宏大而广泛的目标,帮助团队决定哪些任务和任务流是正确的方向。在 Anthropic,人类始终设定北极星目标,并将其根植于公司的使命和业务目标之中。

一旦北极星目标被清晰地以书面形式阐述出来,人类就会将其分享给团队中的 AI 智能体。然后,重要的是,人类会选择哪些智能体应该主动建议新的任务流,以帮助实现这个长期目标。(团队中不太可能每个智能体都具备主动成功提出建议所需的先决技能和信任度。)

例如,一个内部工具团队,其北极星目标是“让产品上手流程更有帮助”,团队发现一个智能体主动建议对上手流程中的错误提示信息进行文案修改。这些修改在接下来的一周内显著提高了上手成功率。

在 Anthropic,设定北极星目标的过程如下:

  • 由人类讨论、辩论并记录一个宏大的北极星目标,用于他们的人机协作团队——这个目标根植于公司的使命和业务目标
  • 将北极星目标分享给团队中的 AI 智能体,并明确指出哪些智能体可以主动推荐新的任务流
  • 在日程中保留高质量的人类时间,会议现在聚焦于最重要的工作

一个清晰的北极星目标为 AI 智能体提供了一致的前进方向,以及主动支持团队工作的有意义的机会。

经验 4:逐步建立信任

Anthropic 的团队根据 AI 智能体展现出的可靠性来授予其相应的自主权,然后有意识地扩大这种自主权。工程师们已经成功派遣团队中的智能体独立处理了 500 个错误修复,但事情当然不是一开始就这样顺利的。

当一位新同事加入团队时,需要花时间评估其能力并建立高效的工作习惯。通常需要多次反馈循环,才能将关于如何最好地完成任务的所有隐性知识外化出来。这对 AI 智能体来说也是如此。用户必须尝试给 AI 智能体分配许多不同的任务,以便了解它能做什么、如何清晰地描述目标、需要哪些技能文件,以及哪些提示词最能有效引导出期望的行为。随着模型的变化和改进,重新测试任务也很重要。提示词可能需要重新措辞,而过去有用的防护栏可能会限制一个更智能的模型去追求更具创造性的解决方案。

值得注意的是,我们发现,运行时间最长的优秀 AI 智能体有许多不同的方式,在人类检查其工作之前进行自我验证。代码当然有测试,但大多数其他工作也可以被验证。例如,技术文档可以应用评分量表和风格指南。当人类设定标准,并确保分配给 AI 智能体的所有工作都能被审查时,质量就能保持高水平,并且不会偏离最初的意图。另外,与人类协作类似,让一个 AI 智能体负责执行任务,另一个 AI 智能体负责检查前者的工作,通常也很有帮助。这通常被称为“执行者-验证者”AI 智能体框架。

在 Anthropic,随着时间的推移与 AI 智能体建立信任,具体表现为:

  • 初期手动审查 AI 智能体的工作,以评估质量、提供反馈,并设计任务验证清单
  • 指示 AI 智能体使用一个“验证者”AI 智能体来检查其工作,作为任务的一部分
  • 在循环中融入反思,并要求 AI 智能体回顾自身的失误,以便工作质量随时间推移而提升
  • 追踪每个 AI 智能体在哪些类型的任务上已获得自主权,并在重复成功后,按任务类型逐步扩大其自主范围

Anthropic 的一位工程负责人接手了一个积压了大量任务的新团队。为了理清头绪,他邀请了几位人类同事和几个 AI 智能体来帮助他梳理积压工作,并确定哪些任务最为重要。团队中的一组智能体负责阅读积压列表中的所有条目,判断是否有人在处理这些条目,并为任何无人认领的任务分配一个复杂度评分。另一组智能体则从列表中筛选出中等和低复杂度的条目,并创建代码变更。起初,人类会审查智能体做出的每一个决定,并标记出任何需要人类介入的决策。随后,人类教导智能体将这些决策直接呈现给人类,确保涉及艰难权衡的决策始终有人类参与其中。

每周,这位负责人和他的团队都会要求智能体汇编一份周报,其中包含“经验教训与失误”,以便智能体能够记录错误,并在未来避免重蹈覆辙。随着时间的推移,这位负责人能够将越来越复杂的代码变更交给他的智能体处理,并且花在指导智能体日常任务上的时间也越来越少。

一旦智能体变得更加独立,这位负责人便指导它们将人类的注意力视为一种稀缺资源:将需要回答的问题分批处理,以便一次性完成;重复关键上下文,让人类能快速了解情况;并限制每个人在同一时间看到的事项数量。

帮助智能体进行良好的沟通,可以确保它们始终保持有用和高效。有些人会在团队中设置专门的智能体,其唯一职责就是决定如何将最重要的信息进行分组并优先呈现给人类团队成员。另一些人则为智能体每天应完成的工作量设定护栏,以便人类能够有意义地参与到工作中。这些护栏确保了人类能够维持对他们而言重要的技能,并且需要人类审查的事项数量保持在可持续的水平。

需要思考的问题

在为人机协作团队奠定基础时,请考虑以下问题:

  1. 智能体和人类所需的所有信息和访问权限是否都是公开且易于搜索的?
  2. 你能写下你团队的成员名单(包括人类和AI智能体),并说明每个成员负责什么吗?
  3. 团队中的每个人类成员和AI智能体是否都拥有完成其工作所需的正确工具?
  4. 你们是否有针对人类和AI智能体的评估标准或测试,用以验证关键工作成果?
  5. 你的团队是否有一个清晰、人人都可参照的北极星目标?

展望未来

这些模式都不是什么新鲜事——至少对人类而言不是。强大的北极星目标、清晰的职责分工、完善的文档、共同的质量标准,以及从错误中学习的空间,这些都是我们几十年来熟知的健康团队习惯。AI智能体的出现只是让不跳过这些步骤变得更加重要。

那些从AI智能体中获得最大收益的团队,正是最刻意地应用这些基本原则的团队。

致谢

本文由Anthropic教育团队成员Kristen Swanson撰写。她感谢Matt Bell、Erik Olesund、Hasnain Lakhani、Shale Craig、Nolan Caudill、Mike Schiraldi、Aleks Todorova和Molly Vorwerck对本文的贡献。

现在就开始使用Claude Code中的智能体团队,或通过Claude Tag来构建多人AI智能体协作系统。

视频 · 前往原文观看

用Claude改变你组织的运作方式。

来源:Claude:Blog(网页)· claude.com

事件后续 · 1查看事件全部 →