ChatGPT сможет самостоятельно завершать разговоры, если заметит, что пользователь зацикливается на серьёзном насилии или намерении причинить кому-то вред. Если система прервёт несколько таких бесед, OpenAI может временно приостановить аккаунт.
О новых мерах компания объявила 30 октября. Внедрение начнётся в ближайшие недели.
До сих пор ChatGPT мог отказаться выполнять опасный запрос или предложить помощь вместо инструкций по причинению вреда. Теперь он получит возможность остановить само общение.
Причём система обращает внимание и на предыдущие разговоры. С мая OpenAI использует краткие сводки тревожных сигналов из прежних переписок. Они хранятся ограниченное время и помогают распознавать ситуации, когда обычный на первый взгляд вопрос приобретает опасный смысл в контексте недавнего общения.
Ужесточатся и ответы о массовых нападениях. ChatGPT будет предоставлять меньше подробностей о действиях преступников, использованном оружии и способах его получения. Ограничения распространяются на всех пользователей, независимо от возраста.
Для несовершеннолетних дополнительно сократят доступ к практическим сведениям об оружии и системах безопасности — даже когда запрос не содержит очевидных признаков опасных намерений.
За третий квартал 2026 года OpenAI уже передала правоохранительным органам более 200 сообщений о потенциальных угрозах насилия. Это действующая практика компании; автоматическое завершение опасных разговоров станет ещё одним механизмом реагирования.