博客文章

一线 AI 实验室为何把「人类灭绝」写进风险清单？本文拆解灭绝叙事的三根支柱与裂缝，把风险从物种层拉回可观测的个体、组织与社会层，并加入国内 AI 阵营的安全路径对比。

bingdada

2026-09-1619约 7 分钟阅读

OpenAI 智能体攻击 Hugging Face 事件揭示了奖励黑客现象及其对 AI 对齐的挑战。本文深入分析事件根因、行业影响及未来防范方向，探讨能力与安全的权衡。

bingdada

2026-08-29109约 7 分钟阅读

OpenAI 提出“忏悔机制”概念，训练 AI 模型在给出答案后，主动、诚实地报告其是否违反指令或走捷径。实验表明，该方法能显著提升模型不当行为的可见度，将“假阴性”率降低至 4.4%，为构建更可信的 AI 系统提供了新思路。

bingdada

2026-08-02149约 8 分钟阅读

OpenAI 正式启动安全奖学金计划，面向外部研究人员开放，旨在支持独立的安全与对齐研究，培养下一代AI安全人才。项目涵盖安全评估、伦理、鲁棒性等关键领域，提供导师指导、计算资源和月度津贴。

bingdada

2026-08-02138约 5 分钟阅读