OpenAI 发布社区安全报告并限制青少年接触枪支内容

ChatGPT 是全球使用最广泛的 AI 产品之一，我们投入建设了业内一些最先进的系统，用于检测潜在危害、审查可疑活动并升级可信威胁。我们在此领域推进工作，现发布两项公告：一份新的《社区安全防护报告》，以及对未成年人枪支相关内容的更多限制。

守护社区安全⁠始终是 OpenAI 的首要任务。我们的工作包括将迫在眉睫的暴力威胁提请执法部门注意，并且我们在 2026 年第三季度向执法部门提交了 200 多份转介。这些转介正在产生积极的⁠（在新窗口中打开）影响⁠（在新窗口中打开）在阻止暴力阴谋方面，我们继续依靠心理健康和行为专家来帮助我们评估疑难案件。

我们认识到，AI 公司与执法部门、家庭成员、心理健康专业人士和政策制定者一样，扮演着独特的角色，后者带来了关键的权威、背景信息和现实世界的影响力。我们致力于充分发挥这一作用，持续强化我们的系统、分享我们所学到的经验，并直接与那些最有能力在现实世界中采取行动的人合作。

我们不断强化为保护个人和社区所采取的措施。这意味着要建立强有力的防护机制，同时也要透明地说明这些机制的效果如何，以及我们正在做哪些工作来改进它们。我们希望让人们清楚地了解我们的方法、我们的模型如何识别和应对有害行为、我们在实践中看到的风险，以及我们为应对这些风险所采取的步骤。

我们承诺发布《社区安全报告》，内容涵盖暴力预防及其他社区安全问题，以及我们防护机制的有效性。该报告将说明我们如何训练系统来检测、调查和应对社区安全问题。我们将分享暴力相关危害如何表现的匿名示例以及我们从中获得的经验，重点介绍新的缓解措施和政策变化，并纳入相关数据来支持这些发现。

我们将在 2027 年初发布首份报告，覆盖 2026 年下半年，此后每六个月更新一次。我们的承诺是分享关于我们如何识别、审查和回应潜在有害内容的有意义发现。

我们的模型经过训练，不会提供有助于他人策划或实施暴力的指令。我们现在对 ChatGPT 如何回应有关过去大规模袭击及其实施者的问题施加了额外限制，指示模型在这些领域提供更少细节的信息，即使这些信息可以从其他在线来源获取。人们应该能够请 ChatGPT 帮助他们理解这些事件、受害者和社区如何受到影响，并了解如何识别警告信号和预防未来的暴力。但我们正在收紧政策，限制对过去大规模袭击的重建，包括所用武器和装备及其获取方式的细节，以及可能放大袭击者恶名的伤害规模详细比较。这些限制适用于所有用户，无论其年龄或提问原因。

有时，一个单独看来普通的请求，结合先前的对话就会呈现出不同的含义。今年 5 月，我们分享了如何ChatGPT 可以使用简短的事实性摘要⁠来在后续对话中更谨慎地回应先前的警告信号。我们正在此基础上继续推进，当近期聊天显示出可能的暴力警告信号时，ChatGPT 在分享可能被滥用的信息时会更加保守地回应。我们还在努力将那些更严格的限制应用于我们预测未满 18 岁的用户，即使他们的聊天没有显示出暴力意图的迹象。

我们会封禁经我们判定违反暴力活动政策的账户⁠我们还在与心理健康和暴力预防专家合作，探索更多自动化的早期干预方式。当对话显示某人正执着于暴力或严重伤害他人的想法时，ChatGPT 将能够自动结束该对话，以在当下打断这一模式。如果 ChatGPT 因此多次结束对话，我们可能会暂时暂停该账户。这是一项持续进行的工作，我们将继续加强并投入技术与实践层面的保护措施，包括如何可靠地识别警示信号，以及确定何时、如何介入。

面向青少年的 ChatGPT⁠为 18 岁以下用户提供适龄的安全保障，并设有更强的保护和额外限制，以减少其接触敏感内容。我们现在进一步限制青少年可获取的武器相关信息，即使某个问题看起来无害。

我们的政策已禁止帮助任何人策划或实施暴力，并限制帮助青少年寻找或获取武器。我们正在扩展这些保护措施，限制可能被滥用来助长暴力的武器和安全系统的实用信息，即使没有暴力意图的迹象。青少年仍可使用 ChatGPT 帮助预防和缓和暴力、寻求支持，并与可信赖的成年人联系。

我们推出了年龄预测⁠该功能于去年上线，会分析行为模式等多种信号，以估计用户可能未满或已满 18 岁。我们加强了年龄预测系统，使其能在人们使用 ChatGPT 时持续评估新信号，并在适当时将青少年转入 18 岁以下体验。被错误归入 18 岁以下体验的用户，始终可以通过我们的年龄验证合作伙伴 Persona 以快速、保护隐私的方式确认自己已成年，并移除额外的青少年保护。

我们的家长控制⁠功能让家长可以将自己的 ChatGPT 账户与青少年的账户关联，并共同管理安全设置。关联账户包括安全提醒⁠当受过专门训练的审核人员发现严重的自残担忧以及可能与饮食失调相关的行为时，可能会发送这些提醒。7 月，我们扩展了这些提醒，以便在青少年的账户因违反我们关于暴力的使用政策而被停用时通知家长。我们正在努力推出通知功能，以便在我们因青少年反复讨论暴力而暂停其账户时告知家长，具体如上所述。

现实世界中的暴力行为令人心碎且成因复杂，涉及诸多因素。它们也鲜明地提醒我们，必须继续设计和迭代我们的系统，以应对人类行为本身固有的复杂现实。在 AI 系统中开发有效的暴力防护措施，需要解决识别风险和恰当应对方面的新问题，我们将继续投入、迭代并分享关于如何最好地落实我们所推进的保护措施的经验。本文详述的保护措施将在未来几周内开始逐步推出，我们将继续完善它们。我们始终致力于减轻 ChatGPT 中的伤害风险、加强我们的多层防护、监控滥用行为、执行我们的规则，并在情况需要时引入现实世界的支持与干预。