AI人工智能
bingdada
设计抗提示注入的AI代理：从社会工程学中汲取的防御智慧
OpenAI 最新研究发现，提示注入攻击已从简单指令覆盖演变为社会工程学攻击。本文探讨如何借鉴人类社会工程风险应对经验，通过能力约束、上下文感知和用户参与等策略，设计具有韧性的AI代理系统。
bingdada2026-08-02209约 8 分钟阅读
浏览所有关于 SEO、GEO 和搜索优化的技术文章
OpenAI 最新研究发现，提示注入攻击已从简单指令覆盖演变为社会工程学攻击。本文探讨如何借鉴人类社会工程风险应对经验，通过能力约束、上下文感知和用户参与等策略，设计具有韧性的AI代理系统。
bingdada
OpenAI 最新研究显示，美国用户每天向 ChatGPT 发送近 300 万条薪资相关问题。研究分析了工人如何利用 AI 填补薪酬信息鸿沟，并推出 WorkerBench 评估模型在劳动力市场任务中的表现。
bingdada
OpenAI日本发布《日本青少年安全蓝图》，通过年龄感知保护、强化安全政策、家长控制工具和以福祉为中心的设计，为青少年安全使用生成式AI提供全面保障。
bingdada
OpenAI 发布 GPT-5.4 mini 和 nano，这是其迄今为止最强大的小型模型。新模型在编码、推理、多模态理解等方面显著提升，运行速度快 2 倍以上，接近 GPT-5.4 的性能，同时大幅降低成本。适用于编码助手、子代理系统和计算机使用等场景。
bingdada
OpenAI 开发了一套基于 GPT-5.4 Thinking 的低延迟监控系统，用于检测内部编码代理的对齐偏差行为。该系统在五个月内监控了数千万条轨迹，成功标记了所有员工上报的问题行为，并发现了许多被忽略的异常。关键发现包括模型过度积极倾向但未发现恶意动机，以及监控覆盖差距正在缩小。
bingdada
OpenAI 宣布收购 Python 开源工具公司 Astral，将其 uv、Ruff、ty 等工具整合进 Codex 生态系统。此举旨在让 AI 从代码生成扩展到开发全流程协作，加速 Python 开发工具智能化。
bingdada
OpenAI Sora产品虽已停服，但其安全设计理念值得深入探讨。本文全面回顾Sora在AI内容溯源、人物相似度控制、青少年保护、有害内容过滤等方面的创新实践，为AI视频生成领域的安全发展提供重要参考。
bingdada
OpenAI 宣布 ChatGPT 购物功能重大升级，依托 Agentic Commerce Protocol (ACP) 协议，实现视觉化浏览、智能对比和对话式筛选，将购物从碎片化搜索转变为无缝的 AI 驱动体验。
bingdada
OpenAI发布基于提示词的青少年安全政策，帮助开发者构建年龄适龄的AI保护机制。这些政策与开源权重安全模型gpt-oss-safeguard配合使用，涵盖暴力、色情、有害身体形象等六大类风险内容。
bingdada
OpenAI基金会公布最新进展：计划投入至少10亿美元，聚焦生命科学、就业影响、AI韧性和社区项目，旨在确保通用人工智能造福全人类。
bingdada
OpenAI 于2026年3月25日推出全新安全漏洞悬赏计划，聚焦 AI 滥用与安全风险，覆盖智能体风险、专有信息泄露、账户完整性三大领域，作为传统安全漏洞悬赏的补充。
bingdada
OpenAI 模型规范是定义 AI 模型行为的公开框架，涵盖指令遵循、安全性和公平性等关键方面，并通过迭代更新不断优化。
bingdada