OpenAI 原则：确保通用人工智能惠及全人类

引言

人工智能（AI）有潜力显著改善社会的诸多方面。与之前的蒸汽机或电力等技术一样，AI 将赋予人们更强的能力和自主权；而人们利用 AI 所能实现的事情，将远超蒸汽机或电力时代。

我们设想一个目前难以想象的、普遍繁荣的世界——在这个世界中，个人潜能、自主权和成就感将大幅提升。许多我们仅在科幻小说中敢于梦想的事物都可能成为现实，大多数人的生活将比今天更有意义。

然而，这一结果并非必然。未来的权力，要么被少数掌控超级智能的公司所垄断，要么以去中心化的方式掌握在民众手中。我们坚信后者更优，我们的目标是将真正的通用人工智能（AGI）交到尽可能多的人手中。如同当下，未来不会全然美好或糟糕，但我们现在所做的决策能最大化善果。

我们的使命是确保 AGI 惠及全人类。以下是我们指导工作的原则。

1. 民主化：抵抗权力集中

我们将抵制这项技术可能导致的权力集中在少数人手中的趋势。

这意味着，除了让每个人都能够使用 AI，我们还需确保关于 AI 的关键决策通过民主程序和平等原则制定，而非仅由 AI 实验室决定。

2. 赋能：释放个人潜力

我们相信 AI 能够赋能每个人实现目标、学习新知、更快乐、更充实，并追求梦想，整个社会也将从中受益。

实现这一点需要让人们探索眼前的巨大潜力，我们需要构建能够实现这一点的产品。用户应能可靠地使用我们的服务完成越来越有价值的任务。

世界是多元的，人们的需求各不相同。我们希望给予用户所需的自主权，并在合理范围内尽可能允许自由使用。

尽管我们希望给予用户广泛的使用自由，并坚信 AI 总体将带来巨大益处，但我们有责任以最小化伤害的方式构建和部署它。这当然包括防止灾难性伤害，也包括减少局部伤害，避免潜在的社会腐蚀效应。这意味着在不确定性面前偏向谨慎，并在获得更多证据后放宽限制。

3. 普遍繁荣：让每个人都能拥有优质生活

我们期望一个每个人都能过上优质生活的未来。

通过将易于使用且算力强大的 AI 系统交到每个人手中，我们相信人们将找到新的价值创造方式，并大幅提升所有人的生活质量，尤其是在新科学发现方面。

为了使繁荣得以充分实现并广泛共享，我们认为：1）政府可能需要考虑新的经济模式，确保每个人都能参与到我们面前的价值创造中；2）我们需要建设大量的 AI 基础设施，并开发新技术以大幅降低 AI 基础设施的成本。

我们许多看似“奇怪”的举动——在收入相对较小时大量购买算力、垂直整合以降低成本并简化技术使用、推动在全球建设数据中心等等——都源于我们对普遍繁荣未来的根本信念。

4. 韧性：共同应对新风险

AI 将带来新风险，我们将与其他公司、生态系统、政府和社会共同解决这些风险。我们将大量利用基金会资源支持这项工作。

没有一个 AI 实验室能独自确保美好的未来。例如，可能出现极其强大的模型，使制造新病原体变得更加容易，我们需要全社会共同采取不针对特定病原体的应对措施。另一个例子是，随着模型网络安全能力的提升，我们需要迅速利用这些模型来保护开源软件和关键基础设施，同时训练模型帮助每个人创建更安全的软件。

这是我们长期坚持的迭代部署策略的延伸：我们认为社会需要应对每一级 AI 能力，理解它、整合它，并共同找到最佳的前进道路。这不能在真空中完成；社会与技术共同进化，这需要时间。

我们并非将此作为唯一的安全策略；我们还需要构建安全的系统，并在技术对齐方面继续做出出色工作。

我们预计在某些时期，需要与政府、国际机构和其他 AGI 项目合作，确保在继续推进工作之前，充分解决严重的对齐、安全或社会问题。

5. 适应性：拥抱不确定性

我们仍然相信，应对不可预测未来的唯一方法是随着学习不断更新我们的立场。我们也承认，OpenAI 现在是世界上一个比几年前大得多的力量，我们将透明地公布我们的运营原则何时、如何以及为何变化。一个具体的例子是：虽然我们确信普遍繁荣将始终非常重要，但我们可以想象未来某些时期，为了增强韧性，我们不得不牺牲一部分赋能。

AI 开发带来了许多惊喜，未来还会有更多。随着技术发展，其涌现行为将越来越难以预测。我们通过谨慎推进能力、迭代部署系统、并从与世界的互动中学习来拥抱这种不确定性。

就在不久前，我们还因为不确定对社会的影响而紧张地不敢发布 GPT-2 的权重。

结语

OpenAI 的这五项原则——民主化、赋能、普遍繁荣、韧性和适应性——共同构成了我们确保 AGI 惠及全人类的行动指南。我们深知，通往 AGI 的道路充满挑战与不确定性，但通过坚持这些原则，并与全球社会共同努力，我们有望将 AI 的潜力转化为全人类的福祉。