bingdadaOpenAI 发布 ChatGPT 安全更新，通过改进语境识别能力，帮助模型在敏感对话中更准确地识别风险信号。新系统能捕捉对话内外的微妙线索，区分良性互动与高风险情境，并在必要时缓和局势、拒绝有害请求或引导用户寻求支持。在内部测试中，自杀与自残场景的安全回应表现提升达50%，伤害他人场景提升52%。
每天，全球数百万用户通过 ChatGPT 分享他们的思考、困惑与情感。从日常的轻松问答，到更为私密和复杂的心灵倾诉，ChatGPT 已经成为许多人表达内心世界的重要窗口。在数亿次互动中，有些对话涉及正在经历痛苦或困境的人。OpenAI 始终致力于设计能够谨慎回应的系统——在必要时提供危机资源，并帮助用户联系值得信赖的人。
今天，OpenAI 分享了关于安全更新的新细节，这些更新帮助 ChatGPT 更好地识别随时间逐渐显现的风险，通过捕捉微妙或演变中的线索，并利用这些语境信息来生成安全的回应。这使得 ChatGPT 能够区分每天发生的数亿次安全互动与极少数需要额外谨慎对待的情况，从而采取更细致的应对方式——例如，缓和紧张局势、拒绝提供有害细节，或将对话引导至更安全的替代方案。
这些改进建立在多年广泛工作的基础之上，涵盖模型训练、评估、监控系统，以及与心理健康和安全专家超过两年的合作。
在敏感对话中，语境往往与单条信息本身同等重要。一个看似普通或模糊的请求，如果与之前出现的痛苦信号或潜在有害意图相结合，其含义可能完全不同。为了做出恰当回应，OpenAI 训练 ChatGPT 从周围语境中识别潜在的有害意图，从而拒绝请求、缓和局势，并引导用户寻求支持。
这类情况虽然不常见，但处理得当至关重要。OpenAI 的目标是帮助 ChatGPT 在关键时刻连接相关信号，同时避免在日常对话中过度反应。
本次工作聚焦于急性场景，包括自杀、自残和伤害他人。在与心理健康专家的合作下，OpenAI 更新了模型策略和训练方法，提升了 ChatGPT 在对话过程中识别预警信号的能力，并利用这些语境信息做出更谨慎的回应。
在这些罕见的高风险情况下，ChatGPT 能够更好地区分善意请求与可能预示更高伤害风险的请求。这基于 OpenAI 的“安全完成”方法（safe completion approach），该方法旨在拒绝用户请求中的不安全部分，并在安全的前提下谨慎回应。目标是帮助模型更恰当地响应语境，在对话中出现伤害信号时提高警惕，同时在良性情况下继续保持有帮助的回应。
一些安全风险可能跨越多个独立的对话。一次对话可能包含微妙的有害意图迹象，而另一次对话则可能包含相关请求，这些请求只有在结合之前的语境时才会引发担忧。如果没有相关的安全语境，后来的对话——以及潜在的重要预警信号——可能看起来是良性的。
基于 OpenAI 长期以来加强 ChatGPT 识别这些痛苦信号能力的工作，研发团队开发了“安全摘要”（safety summaries）：简短的、基于事实的笔记，记录早期与安全相关的语境，这些语境在罕见的高风险情况下可能至关重要。这些摘要由一个专门用于安全推理任务的模型生成，范围狭窄，仅保留有限时间，并且仅在涉及严重安全问题时才被使用。它们旨在捕捉事实性的安全语境，而不是作为通用个性化或长期记忆。与上文讨论的一样，OpenAI 还训练 ChatGPT 更谨慎地使用这些语境，以便更好地识别何时需要额外谨慎并做出适当回应——例如，缓和局势、拒绝提供细节，或引导至更安全的替代方案。
OpenAI 在开发这些系统时，广泛听取了全球医生网络（Global Physicians Network）中心理健康专业人士的意见，包括在法医心理学、自杀预防和自残领域具有专长的精神病学家和心理学家。
这些专家帮助决定了安全摘要应在何时创建、多少先前语境可能相关，以及模型在回应时应考虑该语境多长时间。他们的意见使这项工作扎根于现实世界的专业知识，并支持在敏感情况下做出更恰当的回应。
这些更新帮助 ChatGPT 更好地识别对话内部和跨对话中潜在有害意图的模式。当令人担忧的信号逐渐显现时，模型能够更好地识别模式并更安全地回应。
在专门设计用于衡量具有挑战性案例表现的内部评估中，这些更新显著提高了在风险随时间变得清晰的情况下安全回应的能力。这些测试衡量了在模拟高风险情境的对话中，模型给出预期安全回应的频率。
在长单次对话场景中，安全回应表现在自杀和自残案例中提升了50%，在伤害他人案例中提升了16%。这意味着模型更有可能识别出对话早期部分改变了后续请求含义的情况，并做出适当回应。
OpenAI 还测试了跨多个对话和多个模型的性能，以确保这些改进在模型演变过程中保持有效。在 GPT-5.5 Instant（ChatGPT 当前的默认模型）上，安全回应表现在伤害他人案例中提升了52%，在自杀和自残案例中提升了39%。
同时，OpenAI 评估了安全摘要本身的质量。在超过4000次评估中，它们获得了平均安全相关性评分4.93分（满分5分）和事实性评分4分（满分5分）。
OpenAI 此次安全更新，体现了人工智能在敏感对话领域从“能回答”到“会回答”的关键跨越。通过更深入地理解语境、连接分散的风险信号，并借助专业心理健康知识，ChatGPT 正在变得更安全、更负责任。这不仅是技术上的进步，更是对用户心理安全的郑重承诺。未来，随着模型能力的进一步提升，OpenAI 将继续与专家合作，不断完善安全机制，确保 AI 在帮助人们的同时，始终守护用户的福祉。
SEO & GEO 技术探索者，专注于搜索引擎优化和生成式引擎优化。
OpenAI销售团队规模一年增长三倍，通过构建GTM Assistant智能助手，将顶尖销售经验系统化，实现销售生产力提升20%，让销售代表每周多出一天时间专注于客户关系。
OpenAI 正式发布 AI 视频生成模型 Sora，通过水印溯源、肖像权控制、青少年保护、内容过滤等多维安全策略，在推动视频创作创新的同时，构建了负责任的 AI 应用框架。
OpenAI 发布 Sora 2，视频生成模型迎来 GPT-3.5 时刻。新模型在物理准确性、可控性上大幅提升，支持同步音效和对话，并推出基于‘角色’功能的社交 iOS 应用。
获取最新的 SEO 与 GEO 技术资讯。
我们尊重您的隐私，随时可以取消订阅。
