当百万AI智能体开始互相交易：Google DeepMind为何押注千万美元研究多智能体安全

从单模型安全到群体行为：一个被忽视的风险盲区

过去十年，AI安全研究的主线一直是让单个模型更可控、更可靠。但 Google DeepMind 近期联合 Schmidt Sciences、Cooperative AI Foundation、ARIA（英国高级研究与发明署）以及 Google.org，宣布了一项最高达 1000 万美元 的全球技术研究资助计划，目标指向一个全新的命题：当成千上万由不同组织构建的 AI 智能体在同一数字环境中互相通信、谈判、交易时，整个系统会表现出什么样的集体行为？

这不是一个遥远的假设。智能体之间的互操作已经在虚拟市场、自动化工作流和跨平台协议中逐步落地。真正的问题在于：我们目前几乎没有工具去预测、测量和监控这些交互中突然涌现的集体行为。

现有的安全评估方法，绝大多数是在隔离环境中单独测试一个模型。然而，当多个自主智能体持续互动时，系统层面可能产生难以预料的「涌现」行为——这既可能是经济活动的突然爆发，也可能是新的安全漏洞。Google DeepMind 将这一方向定义为「多智能体安全」，并认为它是当前 AI 生态中最紧迫却最缺乏研究投入的领域之一。

为什么「看不见的风险」比单点故障更危险

单个模型出错，影响通常是局部的、可追溯的。但当大量智能体跨网络交互时，风险变得分散且难以归因。一个智能体的行为可能触发另一个智能体的连锁反应，最终在系统层面形成无人能完全解释的结果。

Google DeepMind 在 2025 年发布的研究中，已经为理解这类交互建立了初步框架；其近期关于「AI Agent Traps」的工作，则进一步揭示了智能体在对抗性环境中面临的脆弱性。但这些只是起点。该团队明确指出，多智能体交互的复杂度正在超过现有安全模型的覆盖速度，必须立即进行大规模的研究扩展。

这也是为什么本次资助特别强调「全球独立研究者网络」。单一实验室无法独自解决多智能体安全问题——不同组织构建的智能体、不同司法管辖区的协议、不同应用场景下的激励机制，都需要多元视角的参与。Schmidt Sciences 的「可信 AI 科学」与「AI 智能体」项目、ARIA 的「Scaling Trust」计划，都与这一目标形成互补。

四个优先研究方向：从沙盒到群体监控

这项资助计划明确了四个重点领域，研究者需要在这些方向下提交提案：

1. 沙盒与测试平台 构建真实、可复现的环境，用于评估和比较多智能体安全的各种方案。具体包括虚拟市场、模拟生态系统和多组织工作流。没有可靠的测试床，任何安全结论都缺乏说服力。

2. 智能体网络科学 研究大量智能体交互时与安全相关的属性：集体能力如何涌现和扩展？网络在什么条件下会失效或变得不稳定？如何检测危险的、意料之外的群体级特征？这本质上是在建立一门「智能体群体行为学」。

3. 强化智能体基础设施 对身份、声誉和承诺协议进行压力测试，确保跨平台智能体交互的安全。当智能体代表不同主体进行交易时，身份伪造、声誉操纵和承诺违约都可能成为系统性风险的来源。

4. 监督与控制 开发对已部署智能体群体进行监控的方法，并大规模缓解集体危害。这需要新的可观测性工具和干预机制，而不是简单地把单模型监控方案放大。

申请截止日期为 2026 年 8 月 8 日，获奖者预计在 2026 年秋季公布。

国内视角：多智能体安全在中国同样进入视野

值得注意的是，多智能体协同并非海外独有议题。国内主要大模型厂商和科研机构也在快速推进智能体框架与多智能体协作能力。例如，百度的文心智能体平台、阿里通义千问的 Agent 生态、字节跳动的豆包智能体、月之暗面的 Kimi 以及智谱 GLM 等，都在探索让多个智能体分工协作完成复杂任务。DeepSeek 等团队则在推理效率和成本控制上持续突破，为大规模智能体部署提供了底层支撑。

差异在于侧重点：海外此次资助更强调「群体涌现风险」的前瞻性基础研究，而国内目前更多聚焦于智能体在具体业务场景中的落地效率与可控性。两者并不矛盾——如果没有对群体行为的深入理解，智能体规模越大，系统性风险就越难管理。国内研究者和开发者同样可以从这项全球资助计划中获取框架参考，甚至参与提案，推动多智能体安全成为跨区域的共同课题。

这不是某一家公司的事

Google DeepMind 在公告中反复强调一个判断：没有任何单一实验室能独自解决多智能体安全。 这句话的分量在于，它承认了当前安全研究的结构性缺口——模型能力在快速扩展，但评估和监控方法仍停留在单模型时代。

对于研究者而言，这是一个明确的信号：多智能体安全正在从边缘话题变成核心议程。对于开发者和企业而言，理解智能体群体的涌现行为，将逐渐成为部署任何大规模自动化系统前的必要功课。

更多关于 AI 安全研究的背景，可参考 Wikipedia 上关于 AI 安全的条目 以及 Google DeepMind 官方研究页面 获取持续更新。

常见问题

什么是多智能体 AI 安全？

多智能体 AI 安全研究的是当大量由不同组织构建的 AI 智能体在同一环境中互相通信、谈判和交易时，系统整体可能出现的安全风险。它关注的是群体层面的涌现行为，而不是单个模型的表现。

Google DeepMind 这次资助计划的核心目标是什么？

核心目标是加速多智能体安全的基础研究，通过最高 1000 万美元的资助，支持全球独立研究者研究智能体群体的涌现行为、测试平台、基础设施安全和监督控制方法。

这项资助计划面向哪些研究者？

面向全球的学术研究者和独立研究者，优先方向包括沙盒与测试平台、智能体网络科学、智能体基础设施强化以及大规模监督与控制。申请截止日期为 2026 年 8 月 8 日。

为什么单模型安全评估不够用？

因为单模型评估在隔离环境中进行，无法捕捉多个自主智能体交互时产生的集体行为和涌现风险。这些系统级行为难以预测和归因，需要全新的评估框架。

国内有类似的多智能体安全研究吗？

国内厂商如百度、阿里、字节、月之暗面、智谱等都在推进智能体协作能力，但当前重点更多在业务落地效率。多智能体安全作为前瞻性基础研究，在国内仍处于早期阶段，有较大的参与空间。

关于 Bingdada

Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。

编辑团队：内容策划 · 技术编辑 · AI 研究组
网站：bingdada.com

© 2026 Bingdada. 保留所有权利。