ChatGPT 将自动掐断涉暴对话、多次后暂停账号，写悬疑比聊大案更容易踩雷

10 月 30 日，OpenAI 宣布了一组针对暴力内容的新限制，接下来几周陆续上线，后续还会继续调整：只要一段对话流露出某人执着于暴力，或者执着于严重伤害他人的念头，ChatGPT 就能当场结束这段对话；如果因为这个原因结束了多段对话，OpenAI「可能会暂时暂停这个账号」。原本违反暴力政策的账号就会被封禁，这次联手心理健康和暴力预防专家在封号前加一道「掐断对话—暂停账号」，按官方说法是为了「在当下打断这种模式」。麻烦在于，OpenAI 自己也承认还在摸索怎样可靠地识别预警信号、什么时候介入，既没公布判断准确率，也没交底掐断几次算「多段」、停号要停多久。

查真实大案不看提问理由，声明在写小说也拿不到凶器细节

先把平时聊新闻、查案子这件日常事说清。以后问起过去发生的大规模袭击事件和行凶者，哪怕相关资料在网上别处能查到，ChatGPT 给的细节也会变少：重建袭击过程、用了什么武器装备、怎么弄到手的，还有那些会放大行凶者「名气」的伤亡规模细致比较，统统都在限制之列。

OpenAI 在原文里把话写得很死——「这些限制不论用户年龄或提问理由都适用」。先说明自己在写小说或者在做研究，在这条规则面前都不管用。好在它锁住的只是作案工具和过程重建，如果你想让 ChatGPT 帮忙梳理事件本身、受害者和社区受到的影响，或者怎么识别预警信号、预防暴力，这些照样能问。

跨对话记账加上机器误判，写悬疑情节的人容易被误伤

不查真实大案，自己编一段虚构的凶案总行吧？写犯罪、悬疑、战争题材的人，偏偏是这次新规里处境尴尬的一群人。

这跟 ChatGPT 跨对话看上下文的机制有关。今年 5 月 OpenAI 就介绍过，ChatGPT 可以把之前对话里预警信号的简短事实摘要留下来，在后来的对话里更谨慎地回应；这次又在此基础上加码——只要最近的对话出现可能有暴力倾向的预警信号，后面提供可能被滥用的信息时就会更保守。打个比方，就像你前一天刚在五金店问了半天怎么撬锁，第二天再去买锤子，店主看你的眼神就不对了。

要是系统分得清编故事和真想伤人，这倒也没什么。可写作者去年就吃过过滤规则的亏：2025 年 10 月 8 日，OpenAI 官方社区论坛有用户发帖抱怨新的内容过滤正在毁掉创作和叙事角色扮演，直言「过滤系统已经分不清虚构描写和现实意图了」；同一帖里一位叫 Ledrake 的用户也提到，角色的内心独白「我要杀了他们！」被当成威胁屏蔽了。一句反派视角的台词就能触发警报，要是写手连着开几个窗口推敲凶手心理，正好撞在多段对话被结束就可能暂停账号这条线上。

被错划成未成年，连安防常识都问不动

还有一种情况没到暂停账号那一步，但用着会突然觉得处处碰壁：明明问的是看上去完全无害、没有半点暴力意图的武器或安防系统问题，ChatGPT 却不肯给实用信息。其中一个原因，是系统把你当成了未满 18 岁的人。

这次新规给未成年人上了单独的锁，只要被判断未满 18 岁，哪怕问题毫无恶意，武器和安防系统方面的实用信息也会受限，只保留寻求支持、化解冲突、联系可信大人这些求助用途；已经和孩子账号绑定的家长，除了 7 月起孩子因违反暴力政策被停用账号会收到通知，接下来连孩子因为反复谈论暴力被暂停账号，OpenAI 也在做通知家长的功能。容易误伤成年人的是它的年龄判断方式：OpenAI 去年上线了靠行为模式等多种信号估算年龄的预测系统，这次加强成在使用过程中持续评估新信号，随时可能把人移进未成年模式。成年人要是发现自己被错放进去，通过 OpenAI 的年龄验证合作方 Persona 确认自己是成年人，就能解除这层限制。

封号拦不住换号重来，新规是在补加拿大枪击案的窟窿

OpenAI 突然把防线往前推这么多，背后有一桩绕不开的命案。2026 年 2 月 10 日，加拿大不列颠哥伦比亚省 Tumbler Ridge 发生枪击案，8 人遇难。据报道，行凶者的第一个 ChatGPT 账号早在 2025 年 6 月就因违反政策被封，之后她又注册了第二个账号，绕过了 OpenAI 防止被封用户重新注册的系统。

当时外界追问为什么只封号不报警，OpenAI 全球政策副总裁 Ann O'Leary 的说法是，按封号时能看到的信息，没有发现可信、迫在眉睫的计划，没达到向执法部门转介的门槛；按现在加强后的流程，如果今天发现，就会转介给执法部门。一封了之的结果是人换个号又回来了，OpenAI 现在只能在封号前多加几道关口，一边在对话里提前掐断苗头、暂停账号，一边更积极地往外移交线索——仅 2026 年第三季度，OpenAI 就向执法部门转介了 200 多起案件，还承诺从 2027 年初起每半年发一份《社区安全报告》，第一份先覆盖 2026 年下半年。

对平时拿 ChatGPT 聊新闻大案的读者来说，以后只是问不到行凶武器和获取渠道，正常讨论案情犯不着担心账号安全。真正得换个习惯的是写犯罪和悬疑小说的创作者：接下来几周新规陆续上线期间，尽量别在连续多个对话里密集测试第一人称的伤人独白或作案细节；毕竟掐断几次会触发暂停、一停停多久、被误判后怎么申诉，OpenAI 原文里全都没写，这些盲区要等功能真正上线、或者 2027 年初第一份安全报告出来才会清楚。