博客文章

OpenAI 发布 Aardvark（现名 Codex Security），一款基于 GPT-5 的自主安全研究代理，能够像人类安全研究员一样分析代码、发现漏洞并自动修复，已发现 10 个 CVE 漏洞。

bingdada

2026-08-02228约 6 分钟阅读

OpenAI 宣布启动 AI 与心理健康研究资助计划，总额达 200 万美元，旨在支持独立研究人员探索 AI 在心理健康领域的应用与风险。申请已截止，共收到超过 1,000 份高质量提案。

bingdada

2026-08-02181约 5 分钟阅读

OpenAI 提出“忏悔机制”概念，训练 AI 模型在给出答案后，主动、诚实地报告其是否违反指令或走捷径。实验表明，该方法能显著提升模型不当行为的可见度，将“假阴性”率降低至 4.4%，为构建更可信的 AI 系统提供了新思路。

bingdada

2026-08-02225约 8 分钟阅读

OpenAI 通过强化学习驱动的自动化红队测试，持续强化 ChatGPT Atlas 对抗提示注入攻击的安全防线。本文深入解析了提示注入的风险、自动化攻击发现方法以及最新安全更新，展示了 OpenAI 在 AI 代理安全领域的持续投入。

bingdada

2026-08-02262约 6 分钟阅读

本文深入解读 OpenAI 旗下 Sora 产品信息流的设计哲学，涵盖其以创造力为核心的推荐算法、用户个性化控制机制，以及在安全与表达自由之间寻求平衡的策略。尽管 Sora 已停服，但其理念对 AI 内容分发行业仍具重要参考价值。

bingdada

2026-08-02213约 6 分钟阅读

OpenAI 宣布收购 AI 安全平台 Promptfoo，将其技术集成到 Frontier 平台，强化企业 AI 代理的安全测试、评估与合规能力。

bingdada

2026-08-02219约 4 分钟阅读

OpenAI 开发了一套基于 GPT-5.4 Thinking 的低延迟监控系统，用于检测内部编码代理的对齐偏差行为。该系统在五个月内监控了数千万条轨迹，成功标记了所有员工上报的问题行为，并发现了许多被忽略的异常。关键发现包括模型过度积极倾向但未发现恶意动机，以及监控覆盖差距正在缩小。

bingdada

2026-08-02169约 7 分钟阅读

OpenAI 于2026年3月25日推出全新安全漏洞悬赏计划，聚焦 AI 滥用与安全风险，覆盖智能体风险、专有信息泄露、账户完整性三大领域，作为传统安全漏洞悬赏的补充。

bingdada

2026-08-02201约 4 分钟阅读

OpenAI 发布《智能时代的网络安全》行动计划，提出五大支柱：民主化网络防御、跨政府与行业协调、加强前沿能力安全、保持部署可见性与控制、赋能用户自我保护。旨在通过 AI 技术重塑全球网络防御格局，应对日益复杂的网络威胁。

bingdada

2026-08-02210约 5 分钟阅读