OpenAI 公共政策议程：推动 AGI 惠及全人类

使命与原则

OpenAI 的使命是确保通用人工智能 (AGI) 惠及全人类。我们的工作由五大核心原则指导，这些原则塑造了我们构建 AI 以及参与公共政策的方式：

• 民主化：我们将抵制这项技术将权力集中在少数人手中的潜在风险。
• 赋能：我们相信 AI 可以赋能每个人实现目标、学习更多、更快乐、更充实，并追求梦想，整个社会也将从中受益。
• 普遍繁荣：我们期望一个每个人都能拥有美好生活的未来。
• 韧性：AI 将带来新的风险，我们将与其他公司、生态系统、政府和社会合作，共同解决这些问题。
• 适应性：我们仍然相信，应对不可预测未来的唯一方法，是在不断学习中随时准备更新我们的立场。

我们坚信 AI 有潜力重塑人们工作、学习、创造和参与社会的方式，而民主制度将在帮助扩大机会、降低风险以及确保人们真正有能力塑造他们想要的 AI 未来方面发挥关键作用。因此，我们致力于让我们的技术自由且安全地可用。我们的用户基础反映了这一承诺：使用我们工具的女性与男性数量相当，30 岁以下和 30 岁以上的用户均多于其他任何 AI 平台，收入低于 10 万美元的用户也多于收入高于 10 万美元的用户——这与更广泛的全球劳动力结构一致。

这也是 OpenAI 与全球各国政府和公民社会互动的原因：帮助政策制定者理解我们的技术及其影响，改善政府运作方式并为其选民提供价值，扩大人们参与民主制度并从中受益的能力，以及制定有助于实现我们确保 AGI 惠及全人类使命的政策。

我们的政策优先事项

以下优先事项反映了我们如何将使命和原则转化为公共政策。我们支持那些能帮助政府和社会应对 AI 带来的机遇与挑战、降低风险、扩大机会获取，并确保人们能够有意义地参与并从 AI 经济中受益的政策。这些优先事项旨在帮助政府更好地服务其选民，同时推进我们确保 AGI 惠及全人类的使命。它们代表了我们目前最积极参与的一些领域，但这份清单并非详尽无遗。随着 AI 的发展，我们预计我们的政策优先事项和参与领域也将继续演变。

安全

前沿模型安全、保障与问责

我们认为，前沿 AI 安全是一个国家安全和公共安全问题，尤其是对于最先进的通用 AI 模型，这些模型可能带来与网络、化学、生物、放射性和核武器 (CBRN) 相关的风险。在美国，我们支持各州围绕共同框架的努力，例如加州 SB 53、纽约 RAISE 法案和伊利诺伊州 SB 315，这些法案强调透明度、围绕灾难性风险评估和安全事件的公开报告、举报人保护，以及对未能履行安全与保障责任的开发者进行可执行的问责。这些州级方法有助于建立统一的标凖，减少碎片化，并为最终形成联邦框架铺平道路。我们还支持国会采取行动，建立一个全面的联邦框架，利用州前沿安全法律中反映的共识；加强 AI 标准与创新中心 (CAISI) 作为美国联邦政府在前沿 AI 安全方面的主要机构；并在政府范围内动员更广泛的韧性计划，以应对前沿 AI 带来的国家安全和公共安全挑战。该框架应要求 CAISI 对最强大的前沿模型进行评估，指导 CAISI 创建一个独立的评估生态系统，并优先监控递归自我改进 (RSI) 的进展。在建立全面的联邦框架后，我们支持优先于试图监管相同前沿安全风险的州法律。

我们还支持美国联邦政府在制定共同国际标准方面发挥主导作用，并且我们是首家签署欧盟 AI 法案实践准则的美国公司。我们也是最早与美国 CAISI 和英国 AI 安全研究所 (UK AISI) 签署自愿协议的公司之一。展望未来，我们认为政策制定者应开始考虑更具雄心的想法，例如模型遏制方案、事件报告，或促进围绕前沿 AI 风险、保障措施和安全事件进行协调的国际治理机构。

特别是在网络安全方面，我们支持扩大对 AI 驱动的网络防御工具的可信访问，并加强政府、研究人员和行业之间的合作，以进行评估、深化信息共享，并建立韧性措施以加强网络防御。我们还支持对过时的公共部门网络安全系统进行现代化改造，并与美国联邦、州和地方各级政府以及国际合作伙伴进行合作。

青少年安全

我们相信 AI 可以帮助年轻人学习、创造，并发展他们在未来经济中茁壮成长所需的技能和创业心态——前提是它能在强有力的保障和年龄适当保护下部署。青少年应该能够在家中、学校以及为进入劳动力市场做准备时，获得安全可信的 AI，同时应保护他们免受潜在伤害。我们支持针对青少年安全制定强有力、可执行、基于风险的法规，以及将强大的保障措施与年龄验证、家长控制和教育内容相结合的框架。