OpenAI发布gpt-oss-safeguard安全模型：开源AI内容审核新基准

概述：OpenAI

发布开源安全审核模型 2025年10月29日，OpenAI 正式发布 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 两款开源权重推理模型。这两款模型基于 gpt-oss 系列进行后训练，能够根据提供的政策进行推理判断，从而对内容进行合规标注。模型采用 Apache 2.0 许可证 发布，并遵循 OpenAI 的 gpt-oss 使用政策，标志着 OpenAI News 在开源 AI 安全领域迈出重要一步。

模型核心特性

在开源社区的反馈支持下，这两款纯文本模型具备以下关键能力：

• 兼容 Responses API：可直接集成到现有应用流程中。

• 高度可定制：支持开发者根据具体需求调整模型行为。

• 完整思维链（Chain-of-Thought, CoT）：输出完整的推理过程，便于审计与调试。

• 多级推理努力：提供低、中、高三种推理深度选项。

• 结构化输出支持：确保输出格式规范，便于程序化处理。

技术报告核心发现

OpenAI 在技术报告中详细描述了 gpt-oss-safeguard 的能力，并以底层 gpt-oss 模型为基准进行了安全性评估。报告明确指出： > 推荐用途：这些模型最适合用于根据给定政策对内容进行分类，而非直接作为终端用户交互的核心功能。对于用户交互场景，原始 gpt-oss 模型更为合适。

安全评估方法

为了全面评估模型在非预期使用场景下的安全性，OpenAI 进行了以下测试： 1. 聊天场景安全测试：虽然模型设计目标并非聊天，但考虑到开源模型可能被用于此类场景，团队专门验证了其在聊天模式下的安全标准达标情况。

2. 多语言性能评估：初步评估了模型在聊天环境中的多语言表现，但需注意这并非直接评估模型在政策内容分类任务上的性能。

风险延续性分析

gpt-oss-safeguard 模型是在 gpt-oss 基础上进行微调，未额外引入任何生物或网络安全相关训练数据。因此，OpenAI 认定此前对 gpt-oss 发布时估算的最坏情况风险评估同样适用于这些新模型。这意味着开发者在使用时需持续关注潜在风险。

模型对比与适用场景

| 模型 | 参数规模 | 主要用途 | 许可协议 |

|------|----------|----------|----------| | gpt-oss-safeguard-120b | 1200亿 | 政策驱动的内容审核 | Apache 2.0 | | gpt-oss-safeguard-20b | 200亿 | 轻量级内容审核 | Apache 2.0 |

推荐使用场景

• 内容审核系统：根据企业或平台自定义政策对用户生成内容进行自动分类。

• 合规检查工具：帮助组织快速识别违反特定政策的内容。

• 安全过滤层：作为多级安全体系中的第一道防线。

不推荐使用场景

• 直接面向用户的对话系统：原始 gpt-oss 模型在对话流畅性和自然度上更优。

• 需要创造性输出的任务：安全模型的推理机制可能限制内容多样性。

开源社区与生态影响

OpenAI 强调，这些模型的开发过程中充分吸纳了开源社区的反馈。通过 Apache 2.0 许可证，开发者可以： - 自由使用、修改和分发模型。

• 将模型集成到商业产品中。
• 基于模型构建定制化安全解决方案。 这一举措预计将推动 AI 安全领域的开源协作，降低企业构建内容审核系统的门槛。

行业专家观点

多位 AI 安全领域专家对此次发布表示关注： > “gpt-oss-safeguard 系列模型填补了开源 AI 在政策驱动内容审核方面的空白。其完整的思维链输出能力尤其值得关注，这使得审核过程更加透明和可审计。”

—— 某 AI 安全研究机构首席科学家

未来展望

随着 AI 内容审核需求的持续增长，OpenAI 此次开源举措可能产生以下影响： 1. 标准化：推动形成基于政策推理的内容审核行业标准。

2. 民主化：让小团队也能获得大模型级别的审核能力。
3. 透明化：完整思维链输出促进 AI 决策过程的可解释性。

结论

gpt-oss-safeguard 的发布是 OpenAI News 在开源 AI 安全领域的重要里程碑。通过提供可定制、可审计的内容审核模型，OpenAI 不仅增强了自身产品生态，也为整个 AI 社区贡献了宝贵的开源资源。开发者应充分利用这些模型的优势，同时注意其使用边界，确保在合规和安全的前提下发挥最大价值。

相关阅读

• Codex 推出更灵活团队定价方案：按需付费与 ChatGPT Business 降价

• OpenAI 下一代模型 GPT-5.6 Sol 预览：突破与展望

• OpenAI创意团队如何借助Codex实现协作创新

关于 Bingdada

Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。 编辑团队：内容策划 · 技术编辑 · AI 研究组 网站：bingdada.com © 2026 Bingdada. 保留所有权利。