За ИИ-агентами OpenAI следит специальная система, которая должна замечать попытки обойти ограничения, скрыть информацию или выполнить опасные действия.
Но исследователи обнаружили способ спрятать от неё сотни последних действий агента. Причём вместе с действиями, необходимыми для самого обхода.
22 октября независимая организация METR совместно с Redwood Research опубликовала результаты проверки внутреннего мониторинга OpenAI.
Специалисты работали с 21 июля по 11 августа. Компания предоставила им доступ к программному коду, настройкам защиты и внутренней документации. Исследователи также беседовали с инженерами OpenAI.
Одна из обнаруженных уязвимостей потенциально позволяла агенту скрывать от системы наблюдения сотни совершённых шагов.
Нашлись и два параметра запросов, с помощью которых можно было запускать новых агентов с отключённым мониторингом. Правда, сам процесс такого запуска система ещё могла заметить.
Выяснилась и другая слабость. Некоторые проверки выполнялись только после того, как агент завершал очередной этап работы и возвращал управление пользователю. Продолжая действовать, он мог откладывать проверку на неопределённое время.
Эту проблему сотрудники OpenAI обнаружили самостоятельно ещё до аудита и исправили во время его проведения.
Исследователи также установили, что на тот момент часть запусков, связанных с обучением моделей, вообще не охватывалась системой наблюдения.
Важно: проверяли инфраструктуру в состоянии на июль 2026 года. За прошедшие месяцы OpenAI значительно изменила защиту.
Компания сообщила, что исправила все обнаруженные уязвимости, затрагивавшие её рабочую систему безопасности. Однако METR и Redwood Research эти исправления независимо не проверяли.
Кроме того, речь не идёт о новом самовольном побеге нейросети. Уязвимости нашли специалисты во время согласованного аудита. Доказательств того, что ИИ-агенты самостоятельно использовали эти способы для сокрытия своих действий, исследователи не представили.