OpenAI呼吁全球行动：设立青少年AI安全国际机构，推动全球领导力保障青年机遇与安全

引言：AI为青少年打开机遇之门

人工智能（AI）可以成为年轻人的强大工具。它可以帮助学生理解复杂概念、练习新语言、准备求职面试、探索创意想法或学习新技能。正如20世纪中叶全球扫盲运动需要大量印刷文本和受过培训的教师一样，如今提供安全的AI将解锁个性化学习的新机遇，帮助减少弱势群体的障碍，并提升劳动力准备度。

核心问题：青少年AI安全需要全球协同

鉴于潜在益处如此显著，确保年轻人能够以安全、适龄且支持健康成长的方式使用AI至关重要。这一责任不应主要落在家长或年轻人自己身上。包括OpenAI在内的公司有责任默认构建带有适当保护措施的产品，同时为家庭提供工具和信息，指导AI的使用方式。

当各国元首本月晚些时候齐聚法国埃维昂参加G7领导人峰会时，青少年AI安全将成为关键议题。OpenAI将参与讨论如何加强青少年安全方面的合作，如何共同提高行业标准，以及OpenAI关于设立国际青少年安全研究所的新呼吁。

G7峰会：全球协调的难得契机

G7领导人峰会为青少年安全领域的全球协调提供了难得机遇。但一个专门的研究所将提供超越单一峰会的连续性和后续行动，帮助政府、研究人员、民间社会和行业持续合作，共享证据、制定指南并随时间推移提高标准。

可行方案：国际青少年AI安全研究所

实现这一目标有几种可信的方式：通过设立新的国际研究所，或赋予现有或新成立的国家AI研究所全球使命，与全球合作伙伴共享研究、证据和指南。最重要的是其发挥的功能。青少年AI安全需要持续关注、可靠证据和能够跟上技术发展的实用指南。

这样的研究所可以建立在现有倡议基础上，例如由OpenAI基金会支持的Common Sense Media青少年AI安全研究所，以及与教育工作者的实际合作，包括OpenAI与美国教师联合会的工作。它还应借鉴实际部署经验，例如爱沙尼亚在全国学校推广ChatGPT，OpenAI正与斯坦福大学和爱沙尼亚研究人员合作研究影响，为更安全、更有效的学习使用提供信息。

OpenAI欢迎与法国政府、其他G7国家政府以及民间社会、学术界和行业伙伴合作开展这项重要工作，并提高青少年安全的全球标准。

设定青少年AI安全的全球标准

我们认为，强有力的青少年AI安全框架，包括G7会议可能达成的任何协议，应遵循我们在此提出的原则：

1. 年龄识别与适龄保护

公司应知道用户是否为未成年人，并应用适龄保护措施。这意味着要求提供商使用有效且保护隐私的年龄估计方法区分未成年人和成年人，并在无法确定用户年龄时默认采取保护性措施。没有这一基础，即使最善意的青少年保护措施也可能无法触及目标群体。

2. 定期风险评估与预防

公司应定期评估对年轻人的风险和益处，并在伤害发生前采取措施。这意味着要求提供商完成年度青少年安全风险评估，并根据识别出的风险实施相应的保护措施。此类评估应考虑基于发展阶段的青少年风险、实际使用的经验证据以及相关研究或监管指南。评估不仅应考虑潜在危害，还应考虑AI是否支持学习、创造力、技能发展和机会获取等积极成果。

3. 家长控制与信息透明

家长和监护人应拥有易用、便捷的控制工具，帮助他们指导孩子的体验，同时支持适龄的独立性。这些工具应包括管理关键设置的功能，如记忆、数据使用和时间限制。应积极推广家长工具，让家长知道其存在并了解如何使用。家庭应获得清晰易懂的信息，了解公司如何保护年轻用户，并提供关于年轻人使用AI的益处和风险的有意义信息。公司应发布安全政策，解释保护年轻人的措施、可用的家长工具以及保护措施如何随风险演变而更新。这种透明度建立信任，帮助家长做出明智选择。

4. 安全协议与内容防护

公司应制定明确的协议处理严重安全情况，包括自残、剥削、诱骗、性剥削内容和其他高风险互动。这些应包括服务内支持、转介至适当资源以及适时通知家长。公司还应设计系统，防止生成对儿童不安全或发育不适当的内容，包括露骨的性内容或暴力材料。

5. AI作为辅助工具而非替代品

年轻人使用的AI系统应旨在支持学习、发展和现实世界关系，而非取代它们。AI应作为帮助年轻人学习、创造、培养技能和为未来做准备的工具。同时，公司应在依赖人类判断、现实世界关系和专业支持的健康发展领域设定明确边界。

结语：全球行动，守护未来

AI为青少年带来的机遇前所未有，但安全挑战同样不容忽视。通过全球领导力、国际合作和明确的标准，我们可以确保年轻人在享受AI红利的同时，得到充分保护。OpenAI呼吁各方共同努力，让AI成为赋能下一代、而非危害他们的工具。