Google DeepMind、Schmidt Sciences、合作式人工智能基金会、ARIA 以及 Google.org

面向多智能体世界，规模化推进 AI 安全研究

过去十年间，我们一直致力于让单个 AI 模型变得更强大、更有用、更安全。今天，Google DeepMind 与 Schmidt Sciences、合作式人工智能基金会、高级研究与发明局（ARIA）共同宣布，并在 Google.org 的支持下，面向全球研究人员发起一项新的技术研究资助计划，总额高达 1000 万美元。

随着 AI 技术的规模化发展，我们正在进入一个新时代。很快，由不同组织构建的数百万个 AI 智能体将在数字环境中相互交互，彼此通信、协商并进行交易。

当这些系统进行交互时，它们必须以安全且可预测的方式进行。这一转变创造了一个至关重要的机遇：我们可以从一开始就强化整个 AI 生态系统的安全性与稳定性。

这项资助计划聚焦于研究大规模多智能体 AI 系统作为一个群体如何表现，以及我们如何提供框架来理解并缓解潜在风险。通过赋能全球研究人员，我们旨在解决当独立系统在不同网络中交互时所产生的“隐形”安全风险。

为什么智能体生态系统至关重要

当大量 AI 智能体进行交互时，新的集体行为和能力可能会突然涌现。目前，我们缺乏预测、衡量和监控这些转变的工具。大多数安全评估都是孤立地分析模型。然而，正如我们及其他机构此前所论证的，交互中的自主智能体可能产生复杂且难以预料的“涌现”行为。

由于这是一个全新的研究领域，理解这些转变如何发生至关重要。例如，它们是否可能引发不可预测的经济活动浪潮，或导致新的安全挑战？理解如何管理这些系统层面的行为是我们的核心目标。

拓展多智能体安全研究的前沿

尽管多智能体安全的基础框架已经存在，但这些系统的快速演进要求我们立即开展大规模的研究扩展。

我们2025年的研究建立了一个理解这些交互的框架，而近期关于AI智能体陷阱的工作则探讨了智能体在对抗性环境中面临的脆弱性。现在，我们必须加快步伐。我们正处于一个关键节点，多智能体交互的复杂性正在超越现有的安全模型。

本次资助计划旨在通过支持一个全球性的独立研究人员网络来加速进展。多元化的社区对于确保安全标准对所有人透明且稳健至关重要。

这项工作也推进了施密特科学基金会“可信AI科学”和“AI智能体”项目的使命——这些项目支持理解并减轻前沿AI系统风险的基础性工作——同时推进了ARIA的“规模化信任”计划，该计划旨在解锁网络-物理多智能体协同的新形式。

一项协作行动号召

没有任何一个实验室能独自解决多智能体安全问题。我们邀请学术界和独立研究人员在四个优先领域提交提案：

• 沙盒与测试平台：构建逼真、可复现的环境，以评估、比较并加速多智能体安全所有领域的进展。这包括虚拟市场、模拟生态系统以及多组织工作流。
• 智能体网络科学：理解交互中智能体群体的安全相关特性，包括研究集体能力如何涌现和扩展、网络如何失效或变得不稳定，以及如何检测危险且不可预见的群体层面特性。
• 强化智能体基础设施：对跨平台安全智能体交互所需的身份、信誉和承诺协议进行压力测试。
• 监督与控制：开发用于监控已部署智能体群体并大规模减轻集体危害的方法。

如何参与

我们邀请研究人员查阅我们的提案征集，并加入我们，共同为多智能体的未来奠定安全基础。

申请截止日期为2026年8月8日，获奖者预计将于2026年秋季公布。

有关技术要求及申请流程的更多详情，请访问我们的申请门户。