OpenAI 拨款750万美元推动AI对齐独立研究

推动AI对齐领域的独立研究：OpenAI的750万美元承诺

随着人工智能系统日益强大和自主，对齐研究不仅需要跟上发展步伐，更要实现多样化的规模扩展。OpenAI（开放人工智能研究中心）始终将前沿对齐与安全研究作为核心使命，投入大量资源。然而，我们深知，确保通用人工智能（AGI）对所有人安全且有益，绝非任何单一组织能够独立完成。因此，我们致力于支持那些可以在前沿实验室之外开展的独立研究与概念探索。

今日宣布：向“对齐项目”提供750万美元资助

今天，我们正式宣布向“对齐项目”（The Alignment Project）提供750万美元资助。该项目由英国AI安全研究所（UK AISI）创立，是一个全球性的独立对齐研究基金。文艺复兴慈善基金会（Renaissance Philanthropy）将协助这笔资助的行政管理。此次捐赠使“对齐项目”成为迄今为止规模最大的独立对齐研究专项资助之一，有力强化了更广泛的独立研究生态系统。

前沿实验室与独立研究的互补优势

像OpenAI这样的前沿实验室，在开展依赖前沿模型和大量算力的对齐研究方面具有独特优势——这类工作对独立研究者而言往往难以触及。我们将大量内部对齐工作投入到开发可扩展方法上，确保对齐进展与能力提升同步。我们坚信，迭代部署——即逐步增强能力的同时强化安全防护——有助于及早发现问题，并提供关于实际有效方法的实证依据。负责任的发展需要将大量对齐与安全工作紧密融入模型构建和部署流程。

与此同时，该领域也亟需对独立探索性研究的持续投入——这可以拓展思路空间，发掘全新方向。独立研究始终至关重要；在许多有用的探索中，实验室并不具备比较优势。一个健康的对齐生态系统，离不开独立团队测试不同假设、开发替代框架，以及探索那些可能不与任何单一组织路线图完全契合的概念性、理论性和前瞻性想法。

应对AGI发展中的根本性突破

由于AGI的进展最终可能依赖于根本性突破——这些突破可能改变对齐问题的形态以及最有效的方法——因此，支持那些即使当前主流方法未能按预期扩展时仍具重要意义的研究至关重要。在这种情况下，拥有一个强大的外部生态系统，从事基础性、概念性和非相关性工作，就显得尤为重要。AI对齐与安全问题具有前所未有的重要性，我们需要全员参与，因为随着能力持续进步，我们尚不清楚哪些方法最为持久有效。

资助细节与全球影响

我们的资助——按当前汇率约合560万英镑——将与公共、慈善和行业资助者共同资助“对齐项目”。该基金总额超过2700万英镑，旨在支持全球范围内广泛的对齐研究项目组合，涵盖计算复杂性理论、经济理论与博弈论、认知科学、信息理论与密码学等多个领域。单个项目通常获得5万至100万英镑的资助，还可能获得可选的算力资源和专家支持。

我们的资金不会创建新的项目或遴选流程，也不会影响现有流程；它只是增加了本轮中可资助的、已经过审查的高质量项目数量。

英国AI安全研究所的关键角色

英国AI安全研究所（UK AISI）具备在此规模和范围内指导对齐资金的能力。它建立了涵盖政府、学术界、慈善机构和工业界的跨部门联盟，拥有已启动的资助流程和大量经过专家评审的提案库。作为英国科学、创新与技术部（DSIT）下属的政府研究机构，它专注于应对严重AI风险，并在运行研究资助项目方面经验丰富。

展望未来：民主化、AI韧性与迭代部署

由于AI的未来发展不会完全按照任何人的预测展开——且可能进展极为迅速——我们坚信民主化、“AI韧性”和迭代部署至关重要。在OpenAI持续推进前沿对齐与安全研究的同时，一个强大、多元、独立的生态系统，在能力进步过程中探索互补方法，将使整体进展受益匪浅。这笔资助正是朝着这一目标迈出的一步。我们期待随着领域的不断发展，继续与更广泛的研究社区合作。

延伸阅读

• 如何通过启用两项设置，在ARC-AGI-3基准测试中得分提升三倍（研究，2026年7月29日）
• 借助ChatGPT for Academic Researchers加速科学发现（公司，2026年7月29日）
• 智能体AI时代的科学计算（出版物，2026年7月28日）