OpenAI 安全更新：ChatGPT 如何更好地识别敏感对话中的风险语境

引言：当对话变得敏感，语境比信息本身更重要

每天，全球数百万用户通过 ChatGPT 分享他们的思考、困惑与情感。从日常的轻松问答，到更为私密和复杂的心灵倾诉，ChatGPT 已经成为许多人表达内心世界的重要窗口。在数亿次互动中，有些对话涉及正在经历痛苦或困境的人。OpenAI 始终致力于设计能够谨慎回应的系统——在必要时提供危机资源，并帮助用户联系值得信赖的人。 今天，OpenAI 分享了关于安全更新的新细节，这些更新帮助 ChatGPT 更好地识别随时间逐渐显现的风险，通过捕捉微妙或演变中的线索，并利用这些语境信息来生成安全的回应。这使得 ChatGPT 能够区分每天发生的数亿次安全互动与极少数需要额外谨慎对待的情况，从而采取更细致的应对方式——例如，缓和紧张局势、拒绝提供有害细节，或将对话引导至更安全的替代方案。 这些改进建立在多年广泛工作的基础之上，涵盖模型训练、评估、监控系统，以及与心理健康和安全专家超过两年的合作。

为什么语境在敏感对话中至关重要？

在敏感对话中，语境往往与单条信息本身同等重要。一个看似普通或模糊的请求，如果与之前出现的痛苦信号或潜在有害意图相结合，其含义可能完全不同。为了做出恰当回应，OpenAI 训练 ChatGPT 从周围语境中识别潜在的有害意图，从而拒绝请求、缓和局势，并引导用户寻求支持。 这类情况虽然不常见，但处理得当至关重要。OpenAI 的目标是帮助 ChatGPT 在关键时刻连接相关信号，同时避免在日常对话中过度反应。 本次工作聚焦于急性场景，包括自杀、自残和伤害他人。在与心理健康专家的合作下，OpenAI 更新了模型策略和训练方法，提升了 ChatGPT 在对话过程中识别预警信号的能力，并利用这些语境信息做出更谨慎的回应。 在这些罕见的高风险情况下，ChatGPT 能够更好地区分善意请求与可能预示更高伤害风险的请求。这基于 OpenAI 的“安全完成”方法（safe completion approach），该方法旨在拒绝用户请求中的不安全部分，并在安全的前提下谨慎回应。目标是帮助模型更恰当地响应语境，在对话中出现伤害信号时提高警惕，同时在良性情况下继续保持有帮助的回应。

跨对话安全：连接分散的风险信号

一些安全风险可能跨越多个独立的对话。一次对话可能包含微妙的有害意图迹象，而另一次对话则可能包含相关请求，这些请求只有在结合之前的语境时才会引发担忧。如果没有相关的安全语境，后来的对话——以及潜在的重要预警信号——可能看起来是良性的。 基于 OpenAI 长期以来加强 ChatGPT 识别这些痛苦信号能力的工作，研发团队开发了“安全摘要”（safety summaries）：简短的、基于事实的笔记，记录早期与安全相关的语境，这些语境在罕见的高风险情况下可能至关重要。这些摘要由一个专门用于安全推理任务的模型生成，范围狭窄，仅保留有限时间，并且仅在涉及严重安全问题时才被使用。它们旨在捕捉事实性的安全语境，而不是作为通用个性化或长期记忆。与上文讨论的一样，OpenAI 还训练 ChatGPT 更谨慎地使用这些语境，以便更好地识别何时需要额外谨慎并做出适当回应——例如，缓和局势、拒绝提供细节，或引导至更安全的替代方案。

与心理健康专家的深度合作

OpenAI 在开发这些系统时，广泛听取了全球医生网络（Global Physicians Network）中心理健康专业人士的意见，包括在法医心理学、自杀预防和自残领域具有专长的精神病学家和心理学家。 这些专家帮助决定了安全摘要应在何时创建、多少先前语境可能相关，以及模型在回应时应考虑该语境多长时间。他们的意见使这项工作扎根于现实世界的专业知识，并支持在敏感情况下做出更恰当的回应。

衡量改进：数据证明效果

这些更新帮助 ChatGPT 更好地识别对话内部和跨对话中潜在有害意图的模式。当令人担忧的信号逐渐显现时，模型能够更好地识别模式并更安全地回应。 在专门设计用于衡量具有挑战性案例表现的内部评估中，这些更新显著提高了在风险随时间变得清晰的情况下安全回应的能力。这些测试衡量了在模拟高风险情境的对话中，模型给出预期安全回应的频率。 在长单次对话场景中，安全回应表现在自杀和自残案例中提升了50%，在伤害他人案例中提升了16%。这意味着模型更有可能识别出对话早期部分改变了后续请求含义的情况，并做出适当回应。 OpenAI 还测试了跨多个对话和多个模型的性能，以确保这些改进在模型演变过程中保持有效。在 GPT-5.5 Instant（ChatGPT 当前的默认模型）上，安全回应表现在伤害他人案例中提升了52%，在自杀和自残案例中提升了39%。 同时，OpenAI 评估了安全摘要本身的质量。在超过4000次评估中，它们获得了平均安全相关性评分4.93分（满分5分）和事实性评分4分（满分5分）。

结语：技术向善，谨慎前行

OpenAI 此次安全更新，体现了人工智能在敏感对话领域从“能回答”到“会回答”的关键跨越。通过更深入地理解语境、连接分散的风险信号，并借助专业心理健康知识，ChatGPT 正在变得更安全、更负责任。这不仅是技术上的进步，更是对用户心理安全的郑重承诺。未来，随着模型能力的进一步提升，OpenAI 将继续与专家合作，不断完善安全机制，确保 AI 在帮助人们的同时，始终守护用户的福祉。

相关阅读

• 惠普公司与OpenAI启动前沿战略合作，加速企业AI转型

• OpenAI 研究：工人如何利用 ChatGPT 填补薪酬信息鸿沟

• OpenAI 发布 GPT-5.6 系列模型：Sol、Terra 与 Luna，定义智能与效率新标准

关于 Bingdada

Bingdada 是一个专注 SEO、GEO（生成式引擎优化）与 AEO（答案引擎优化）的内容平台，由资深内容编辑、SEO 技术工程师与 AI 研究专家组成的团队持续运营。我们追踪搜索引擎与生成式 AI 的最新动态，为读者提供准确、实用、可落地的方法论与行业洞察。 编辑团队：内容策划 · 技术编辑 · AI 研究组 网站：bingdada.com © 2026 Bingdada. 保留所有权利。