bingdada奥特曼在联合国安理会发言中提出，AI可能走向"新文艺复兴"或"新工业革命"，必须避免两条灾难路径：人类失去控制、权力过度集中。他主张以人为本、广泛分享收益与国际合作，并称不应训练无法保证可控性的模型。
2026年9月，纽约联合国总部。OpenAI首席执行官萨姆·奥特曼（Sam Altman）出现在联合国安理会（UN Security Council）的发言席上。这不是一场寻常的科技发布会，而是一次围绕人工智能展开的多边安全对话。一个前沿AI公司的掌门人，站上了本应讨论战争与和平的最高安全舞台——这本身就传递出一个信号：AI已经不再只是实验室里的技术议题，而是被摆上了国际安全的核心议程。
奥特曼的发言围绕三条线索展开：AI能否成为扩展人类机会的工具、如何确保强大系统始终处于人类控制之下，以及为什么AI安全需要国际合作。他没有回避风险，也没有陷入盲目的乐观。用他自己的框架来说，人类正站在一个岔路口——AI可能带来一场创造力与发现的新文艺复兴，也可能重演一次充满动荡的工业革命。
在发言中，奥特曼给出了一个颇为清晰的风险判断框架。他认为AI发展可能以两种方式严重走偏，而这两种方式必须被避免。
第一条路径是失控。 当AI系统变得越来越强大、越来越自主，它们的演进速度可能超过人类机构的响应能力。人们可能来不及理解正在发生什么，更来不及在必要时介入。奥特曼特别提到"递归自我改进"（recursive self-improvement）这一概念——当构建AI的过程本身越来越自动化，AI进步的速度可能急剧加快。在他看来，这个时刻需要"极度的谨慎"。
他在这里表达了一个值得注意的立场：行业不应仅仅因为收益太大、太重要就接受过高的技术风险。竞争节奏不是做出草率决定的理由。他提到OpenAI过去曾单方面放缓过某些工作，未来也会这样做。他明确表示，不应训练那些无法在可控性、可监控性和安全性上给出极强保证的模型——无论人们把灾难风险估计为10%、1%还是0.1%，这些数字都"完全不可接受"。
第二条路径是权力集中。 奥特曼认为，没有任何一个人、一家公司或一个国家，应该能够利用最强大的AI模型把自己的世界观强加给所有人。他尖锐地指出，一个相信自己"唯一值得被信任"来掌握这项技术的主体，可以用这种信念为几乎任何事情辩护。这种逻辑必须被拒绝，即便它对某个特定行为者来说很方便。
这两条路径其实指向同一个核心张力：AI既是能力的放大器，也是权力的放大器。如何让它放大前者而约束后者，是治理的根本难题。
面对上述两难，奥特曼提出了一条"务实的中间道路"。他拒绝两种极端：既不做盲目的乐观主义者，也不做末日论者。被任何一端裹挟，都不利于解决眼前的挑战。
在此基础上，他阐述了三条原则。
其一，人必须始终处于AI决策的中心。 对齐（alignment）不是一个抽象的研究课题，而是确保系统可靠地处于人类控制之下、反映人类价值、并帮助人类引导下一阶段发展的工作。他强调，人类判断和人类价值不应、也不能被自动化。
其二，科学进步的收益应当被广泛分享。 这部分发言在原文中被截断，但从上下文可以推断，其核心是避免AI红利被少数主体垄断。
其三，国际合作不可或缺。 把AI安全完全交给单一国家或单一公司，本身就是一种风险。
值得注意的是，奥特曼在发言中提到了本吉奥教授（Professor Bengio）——这位图灵奖得主、AI安全领域的权威学者长期呼吁对前沿AI进行审慎治理。奥特曼表示自己"很大程度上同意"本吉奥的观点，只是在风险分类上给出了自己的"两条路径"版本。这种公开援引学界权威的姿态，本身也是AI公司寻求治理合法性的一个缩影。
如果把这次发言放回更大的背景中，会发现它折射出AI行业叙事的一次转向。过去几年，行业的主旋律是能力竞赛——更大的模型、更强的基准、更快的迭代。而如今，头部公司开始频繁地在安全、对齐、国际协调等议题上发声。
这种转向有其现实动因。一方面，模型能力的快速提升让监管者和公众的焦虑真实上升；另一方面，前沿公司也意识到，如果治理框架完全由外部力量主导，自己可能面临更不利的规则环境。主动参与规则讨论，既是责任表达，也是战略选择。
不过，表态与落地之间仍有距离。奥特曼所说的"过去曾单方面放缓、未来也会"，外界很难独立验证。真正衡量一家公司安全承诺的，不是讲台上的措辞，而是可审计的技术决策、透明的评估机制，以及在商业压力面前是否真的踩下刹车。
当全球头部AI公司把安全议题推向国际舞台时，中国在这一方向上的进展同样值得关注，且路径各有侧重。
在治理框架层面，中国较早建立了生成式人工智能服务管理的相关规范，强调内容安全、数据合规与算法备案，形成了"发展与安全并重"的监管思路。这与欧美偏向风险分级、以企业自律加事后追责为主的模式形成对照。
在模型层面，国内代表产品如百度的文心一言、阿里巴巴的通义千问、深度求索的DeepSeek、字节跳动的豆包、月之暗面的Kimi，以及智谱GLM、讯飞星火等，都在持续迭代。其中DeepSeek以开源路线和高效训练受到国际关注，某种程度上回应了"权力集中"的担忧——开源让能力更分散，但也带来了新的安全挑战。
在安全研究层面，国内多家机构和企业也在推进对齐、可解释性与风险评估工作，并参与国际AI安全对话。与OpenAI等公司高调站上联合国讲台相比，中国的声音更多通过多边机制和学术渠道传递，风格上更偏务实与渐进。
两种路径并非对立，而是全球AI治理拼图中互补的部分。真正的挑战在于：如何在竞争格局下建立最低限度的国际共识，让"不失控"和"不垄断"成为跨国的共同底线。
奥特曼在联合国的发言，本质上是一次面向全球治理者的"风险沟通"。他试图说明：AI的潜力值得追求，但前提是人类保持控制、权力不被垄断、国际社会保持协作。
这些原则听上去并不激进，甚至近乎共识。但共识的难点从来不在措辞，而在执行。当商业竞争、地缘博弈与技术加速三重压力叠加时，"中间道路"能否走得稳，取决于每一个具体决策——是否训练某个模型、是否公开某项评估、是否在关键时刻放慢脚步。
AI治理的答案，最终不会写在讲稿里，而会写在一次次真实的选择中。
延伸阅读：可参考联合国安理会官网了解其议程设置，或查阅经济合作与发展组织（OECD）AI政策观察获取全球治理动态。
他围绕AI的机会与风险发言，提出AI可能带来"新文艺复兴"或"新工业革命"两种前景，并强调两条必须避免的灾难路径：人类失去对AI的控制，以及权力过度集中到少数主体手中。他同时提出以人为本、广泛分享收益、国际合作等原则。
指AI系统能够改进自身以及未来版本的能力。当构建AI的过程越来越自动化，AI进步速度可能急剧加快，人类可能来不及理解和干预，因此需要"极度的谨慎"。
奥特曼表示，不应训练无法在可控性、可监控性和安全性上给出极强保证的模型；公司过去曾单方面放缓部分工作，未来也会这样做；竞争节奏不应成为草率决策的理由。
中国较早建立了生成式AI服务管理规范，强调内容安全、数据合规与算法备案，形成发展与安全并重的思路；文心一言、通义千问、DeepSeek、豆包、Kimi、智谱GLM、讯飞星火等模型持续迭代，并通过多边机制参与国际AI安全对话。
Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。
编辑团队：内容策划 · 技术编辑 · AI 研究组
网站：bingdada.com
© 2026 Bingdada. 保留所有权利。
SEO & GEO 技术探索者，专注于搜索引擎优化和生成式引擎优化。
Harvey 借助 GPT-6 Astra 把法院信息、律所文档与判例研究等上下文引入起草流程，输出更结构化、更贴近案件的法律文书，让律师把时间留给策略判断。
AI 作弊并非模型「学坏」，而是奖励机制与真实意图错位的必然结果。从智能体越权到评测被钻空子，本文拆解这一趋势的技术根源、行业反应与国内治理路径。
车队管理软件公司 Proaction 借助 Codex 让非技术创始人独立完成定制演示，每月省下数十小时工程工时，销售转化提升约六成，并基于语音模型构建可执行维修调度等任务的智能体。
最新の SEO・GEO 情報をお届けします。
プライバシーを尊重します。いつでも購読を解除できます。
