AI 资讯
OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号
OpenAI 近日正式宣布，将在未来几周内全面升级并加强 ChatGPT 对暴力相关内容的限制，同时针对未成年人用户推出更加严格的武器和安全系统信息防护机制。
此次政策调整的核心，在于对高风险对话采取更果断的干预手段。根据新公布的措施，如果系统检测并评估用户的对话显示出持续聚焦于暴力或严重伤害他人想法的倾向，ChatGPT 将具备主动结束对话的能力。更为严厉的是，若用户因这类问题被系统多次终止对话，其账号将面临被暂停使用甚至直接封禁的处罚。
在具体的内容过滤边界上，原有政策一如既往地禁止提供任何帮助用户策划或实施暴力行为的操作指导。而在此次调整中，限制范围进一步扩大到了历史层面——模型针对“过去大规模袭击事件及其实施者”相关问题的回答细节将被大幅缩减，甚至直接选择拒绝回答。具体受限内容不仅涵盖了重现袭击过程所涉及的武器、装备及其获取途径，还包括限制用户查询旨在放大袭击者知名度的伤害规模详细比较。需要注意的是，这一系列限制适用于全体用户，不区分年龄段与提问目的，即便是成年用户在进行相关查询时也将受到相同的约束。
除了面向所有用户的通用限制外，针对被识别为未满18周岁的青少年群体，OpenAI 进一步加码了精细化保护。系统将针对性地限制可能被用于实施暴力的武器和安全系统的实用信息，即便相关提问表面上看起来并未直接显露暴力意图，该项保护也会自动触发。不过，OpenAI 强调，青少年依然可以正常通过 ChatGPT 寻求帮助，例如学习如何预防或缓和暴力，或是获取与可信赖成年人取得联系的有效指导。
为了确保青少年保护机制的精准落地，OpenAI 引入了改进后的年龄预测机制。该机制能够结合用户的日常行为等多维度信号，持续对账号是否属于未成年人进行动态评估，并在适当时机自动匹配相应的保护措施。如果用户的账号不幸被系统误判为未成年人，也可以通过主动提交身份信息的方式进行验证与调整。
本文由 AI 自动聚合与摘要，内容仅供参考。