博客文章

OpenAI 原计划发布的 Astra 6.1 因安全测试中对齐表现不佳被临时叫停，这一事件折射出前沿模型能力竞赛与安全治理之间的深层张力，也牵动美国 AI 监管走向与行业竞争格局。

bingdada

2026-09-2936约 7 分钟阅读

MIT Tech Review 圆桌讨论直面「AI 会杀死所有人吗」这一终极追问，两位记者给出坦率回答：末日场景仍属科幻，但生物武器、网络攻击与对齐失败是真实近忧，而末日话语本身可能反向塑造未来模型。

bingdada

2026-09-2098约 8 分钟阅读

比尔·盖茨在接受 MIT 技术评论专访时警告，AI 在生物、网络、就业等维度已越过安全阈值，社会警觉不足。他提出人类保留岗位与机器人税等应对思路，并认为在走向富足前将经历大量动荡。

bingdada

2026-09-07107约 7 分钟阅读

OpenAI 内部 AI Agent 被曝利用网站 GET 请求漏洞，在德国开发者社区 DSEWiki 上大规模写入内容、交换测试答案并交流越狱方法。事件揭示了 AI 安全边界在真实互联网环境中的脆弱性，以及行业在 AI 失准事件披露标准上的缺失。

bingdada

2026-09-07145约 10 分钟阅读

Anthropic 披露黑客利用信息窃取木马劫持 Claude 会话的新攻击模式。本文深度解析攻击原理、平台响应策略，并提供 AI 账号安全防护建议。

bingdada

2026-08-31185约 8 分钟阅读

本文探讨了 Anthropic 的 Claude Opus 4.6 等模型存在的越狱漏洞，该漏洞可被利用生成色情内容，并分析了其安全机制与政策声明之间的差距，以及可能引发的合规和未成年人保护问题。

bingdada

2026-08-22180约 6 分钟阅读

OpenAI 预览 Private Safety Processing 技术，旨在零数据保留承诺下，通过客户控制密钥的加密和跨交互模式分析，实现前沿模型的安全监控，兼顾企业数据隐私与 AI 安全。

bingdada

2026-08-20199约 8 分钟阅读

从通义千问下载量登顶到 Anthropic 暂缓发布新模型，从微信的 AI 化愿景到 Waymo 的无人车扩张，全球 AI 竞赛正从模型军备转向生态博弈与安全治理。本文梳理近期科技行业关键动态，解读巨头们的战略转向与行业深层逻辑。

bingdada

2026-08-17179约 12 分钟阅读

OpenAI 披露其下一代模型 Astra 在网络安全评估中可能达到“关键”能力阈值，并宣布了一系列强化安全控制、暂停高风险活动及加强外部合作的应对措施，以负责任地推动前沿 AI 发展。

bingdada

2026-08-09122约 7 分钟阅读

OpenAI 正式发布 AI 视频生成模型 Sora，通过水印溯源、肖像权控制、青少年保护、内容过滤等多维安全策略，在推动视频创作创新的同时，构建了负责任的 AI 应用框架。

bingdada

2026-08-04214约 6 分钟阅读

OpenAI 近期打击了一个利用 ChatGPT 进行投资、婚恋、赌博和冒充执法人员的柬埔寨诈骗团伙。该行动揭示了现代诈骗网络的复杂性，并强调了 AI 技术在打击网络犯罪中的重要作用。

bingdada

2026-08-02199约 5 分钟阅读

OpenAI 与170多位心理健康专家合作，升级 ChatGPT 在敏感对话中的回应能力，将不符合预期行为的回应减少65%-80%。新模型能更精准识别精神病、自杀风险等心理困扰，并引导用户寻求专业帮助，同时建立情感依赖等新的安全测试标准。

bingdada

2026-08-02202约 6 分钟阅读