OpenAI 4 ноября опубликовала результаты масштабной проверки ядра Linux. Её ИИ-агенты обнаружили 948 уникальных уязвимостей, позволяющих обычному пользователю получить права root — полный административный доступ к системе. В ходе эксперимента нейросети создали 1169 работающих эксплойтов. Вычисления обошлись компании примерно в $1,21 млн.
Испытание проходило в середине октября. Исследователи использовали ещё не выпущенную специализированную кибермодель и систему агентов, которая самостоятельно искала ошибки, проверяла их и готовила исправления.
Сначала агенты отобрали около 2,8 млн строк кода — примерно 7% ядра Linux, представляющих наибольший интерес с точки зрения безопасности. За 12 часов они нашли 2308 потенциальных проблем.
Следующий этап подтвердил 1724 уязвимости: агенты смогли воспроизвести ошибки в изолированной среде. Затем началась проверка того, можно ли использовать их для получения повышенных привилегий.
Виртуальные машины работали с обычными механизмами защиты Linux. Специально ослаблять систему для успешных атак не потребовалось.
В результате получилось 1169 работающих эксплойтов, но некоторые использовали одну и ту же уязвимость разными способами. После анализа и подготовки отдельных исправлений исследователи определили число уникальных проблем — 948.
$1279 за права администратора
Полный эксперимент стоил $1 213 430 в пересчёте на API-кредиты. Если разделить эту сумму на 948 уникальных уязвимостей, получается около $1279 за одну.
В эту стоимость входят поиск, проверка, разработка эксплойтов и подготовка исправлений. Непосредственное создание одного успешного эксплойта обходилось в среднем примерно в $359.
Агенты также продемонстрировали неожиданную самостоятельность. При изучении 166 эксплойтов исследователи обнаружили как минимум десять техник эксплуатации уязвимостей, которые оказались новыми даже для привлечённых специалистов.
Впрочем, проверять пришлось и самих проверяющих. В одном из ранних испытаний 20 из 200 успешных эксплойтов получали root через совершенно другую уязвимость, хотя агенту поручали исследовать конкретную ошибку. После этого OpenAI добавила независимую проверку используемого пути атаки.
Кто будет закрывать столько дыр?
Агенты подготовили варианты исправлений, а специалисты OpenAI начали передавать отчёты разработчикам ядра Linux. Компания сообщает, что уже отправила сотни сообщений об уязвимостях и соответствующих патчей.
При этом часть обнаруженных проблем к моменту завершения исследования уже успели исправить другие разработчики. Поэтому все 948 находок нельзя автоматически считать новыми уязвимостями нулевого дня.
Недавно мы рассказывали об испытании 11 ИИ-моделей, которым поручили исправлять реальные уязвимости программного кода. Лучший результат составил 67,8% успешных запусков. Поиск опасных ошибок и подготовка надёжных исправлений остаются разными задачами.
Эксперимент OpenAI проводился в контролируемой среде с локальным доступом к тестируемым системам. О взломах чужих серверов компания не сообщала.
Специализированная кибермодель, участвовавшая в испытаниях, пока не выпущена для общего использования. OpenAI продолжает передавать результаты разработчикам Linux и партнёрам по программе Patch the Planet.