OpenAI 5 ноября выпустила GPT-6 Cyber — специализированную нейросеть для поиска уязвимостей, проверки способов их эксплуатации и подготовки исправлений. Во время исследования браузера Firefox модель обнаружила 81 ранее неизвестную проблему, которую разработчик браузера, Mozilla, отнёс к высокой категории опасности.
Некоторые исправления уже попали в обновления Firefox. Причём это программа, которую много лет проверяют специалисты по кибербезопасности, а теперь к ним добавились и мощные ИИ-модели.
GPT-6 Cyber — специализированная версия GPT-6 Astra, дополнительно обученная на задачах кибербезопасности. Она может исследовать программный код, воспроизводить ошибки и проверять, действительно ли найденная уязвимость позволяет выполнить опасные действия.
При работе с Firefox модель также обнаружила 30 уже известных проблем, серьёзность которых ранее недооценивали. Исследователи OpenAI передали Mozilla воспроизводимые тесты и предложенные исправления.
Брайан Гринстед, ведущий инженер Firefox, так описал результаты совместной работы в комментарии, опубликованном OpenAI:
Даже после дополнительного усиления защиты несколькими поколениями передовых моделей GPT-6 Cyber обнаружил ранее неизвестные уязвимости высокой опасности.
При этом обнаружение уязвимости ещё не означает, что преступники успели ею воспользоваться. OpenAI сообщает о результатах исследовательской проверки, а Mozilla постепенно закрывает найденные проблемы.
Насколько GPT-6 Cyber сильнее предыдущей модели?
В испытании ExploitGym нейросетям предлагали использовать известные уязвимости программ в контролируемой среде.
GPT-6 Cyber успешно справилась с 48,5% заданий. Предыдущая специализированная модель, GPT-5.6 Cyber, получила 32,1%, а универсальная GPT-6 Astra — 42,4%.
Это результат тестов OpenAI, а не гарантия, что модель сможет взломать любую вторую программу. Тем не менее компания признала её возможности достаточно серьёзными, чтобы присвоить уровень Critical по кибербезопасности в собственной системе оценки рисков.
Ранее мы рассказывали, как ИИ OpenAI разработал 948 способов повысить привилегии в ядре Linux. Те исследования проводились с применением GPT-6 Cyber и других средств компании. Теперь OpenAI официально представила модель и раскрыла условия её использования.
Кто получит доступ
На первом этапе GPT-6 Cyber предоставляется только отдельным одобренным участникам программы Daybreak Red — специалистам и организациям, занимающимся разрешёнными проверками безопасности.
Они могут использовать модель через API и Codex. Доступ предполагает проверку личности и дополнительные требования к защите учётных записей, включая многофакторную аутентификацию.
OpenAI планирует постепенно открыть GPT-6 Cyber всем одобренным участникам Daybreak Red. В обычном ChatGPT модель недоступна.
Ограничения связаны с двойным назначением технологии. Инструмент, который помогает исследователям находить опасные ошибки до преступников, потенциально способен выполнять те же действия по чужому заказу.
Поэтому разработчики отдельно обучали GPT-6 Cyber соблюдать границы разрешённого задания. В одном из испытаний модель не пыталась атаковать посторонний сервис в 99,93% случаев даже без специальных инструкций безопасности. С дополнительными инструкциями нарушений в этом тесте не зафиксировали.
Это результаты конкретного лабораторного испытания, а не обещание абсолютной безопасности. Доступ к модели остаётся ограниченным, пока OpenAI расширяет её применение среди проверенных исследователей.
Первоисточники: