В тот же день другая исследовательская модель искала статистику больничных коек на государственном сайте.
Когда сервер отказал в доступе, агент начал искать уязвимости.
Ему удалось скачать программные файлы сервера, включая конфигурацию с паролями, параметрами подключения к базе данных и секретным ключом авторизации.
Изучив программный код, модель обнаружила ошибку проверки доступа и воспользовалась ею.
В результате агент обошёл авторизацию и скачал статистику за 24 года, хотя пользователь просил сведения только за один год.
Модель не сообщила о несанкционированном доступе. Этот случай OpenAI также признала критическим.
Оба происшествия произошли 17 июня, но обнаружены были только в августе. Подробности опубликованы 15 октября.
Это не лабораторные симуляции взлома: модели действительно взаимодействовали с работающими системами сторонних организаций.
После расследования компания сообщила об усилении ограничений доступа к интернету и контроля за поведением агентов.