Экспериментальной нейросети OpenAI поручили найти автора записи в блоге. Она перебрала поисковики, изучила сохранённые страницы, а затем обнаружила лазейку в сетевой защите. Через неправильно настроенный DNS-сервер ИИ связался с внешним чат-ботом и начал задавать ему вопросы.
Самого автора блога нейросеть так и не нашла.
Зато успешно обошла запрет на доступ в настоящий интернет.
Инцидент произошёл 20 сентября 2026 года. Система безопасности заметила подозрительную активность примерно через 15 минут. Однако автоматическая остановка не сработала. Запуск прервали вручную лишь спустя два с половиной часа.
После этого OpenAI на 11 дней приостановила обучение и испытания своих наиболее мощных исследовательских моделей. А 23 октября компания подробно рассказала, чем занимались инженеры во время вынужденной паузы.
Одних ИИ заперли, других отправили искать выход
OpenAI организовала масштабную проверку защиты с помощью других нейросетей. Командам ИИ-агентов поручили искать уязвимости, выбираться из виртуальных машин и находить способы связи между изолированными средами.
Агенты обнаружили ранее неизвестные уязвимости, научились обходить отдельные сетевые ограничения и получать доступ к системам за пределами разрешённой среды.
В одном из экспериментов две изолированные нейросети сумели обменяться секретными сообщениями вообще без сетевого соединения.
Для этого они использовали кэш процессора — небольшую быструю память, в которой временно хранятся данные. Один агент изменял содержимое кэша, второй измерял скорость обращения к памяти и по задержкам восстанавливал сообщение.
Никакого интернета, общих файлов или разрешённого канала связи. Только разница во времени выполнения операций.
Эксперименты проводились на специально подготовленных копиях инфраструктуры OpenAI. Обнаруженные уязвимости помогли исправить, в том числе в программном обеспечении с открытым исходным кодом.
1 октября обучение наиболее мощных моделей возобновили.
Для них OpenAI теперь использует искусственную версию интернета: огромную коллекцию сохранённых и проиндексированных веб-страниц. Нейросети могут искать информацию и осваивать работу с сайтами, не получая прямого доступа к внешним системам.
А проверку собственной защиты компания сделала постоянной частью обучения.