Хакеры двое суток атаковали OpenCode с помощью искусственного интеллекта. Разработчики отправили на защиту собственных ИИ-агентов. И тут выяснилось, что у цифровых защитников имеются моральные принципы.
История, которую ещё недавно сочли бы сценарием сатирического сериала, произошла в октябре 2026 года.
Компания OpenCode, разрабатывающая ИИ-инструменты для программирования, столкнулась с серьёзной кибератакой. По словам её сооснователя Дакса Раада, злоумышленники пытались проникнуть в системы компании на протяжении 48 часов.
Причём действовали не в одиночку. Атакующим помогали ИИ-агенты — программы, способные самостоятельно выполнять целые последовательности действий.
Разработчики решили отвечать тем же способом: использовать собственных ИИ-помощников для расследования и защиты.
И вот тут начался анекдот.
Простите, но это против моих принципов
Поначалу нейросети исправно помогали специалистам разбираться в атаке. Анализировали подозрительный код, изучали происходящее.
А потом начали отказываться выполнять некоторые запросы.
Дело в том, что современные ИИ-модели имеют защитные ограничения. Они могут отклонять просьбы, связанные со взломом компьютерных систем, вредоносными программами и поиском способов обхода защиты.
Вполне разумная мера.
Но при расследовании настоящего взлома защитникам приходится изучать ровно те же вещи, которыми пользуются преступники.
И нейросеть не всегда способна определить, кто перед ней: злоумышленник, желающий взломать сервер, или специалист, пытающийся понять, как его уже взломали.
Получилась замечательная картина.
Хакеры атакуют. Их ИИ-агенты работают. Защитники пытаются разобраться в происходящем, а их электронный помощник в какой-то момент решает, что такие запросы выглядят подозрительно.
Спасибо за заботу. Нас тут, правда, взламывают.
Пришлось получать специальное разрешение
Раад рассказал, что ситуация улучшилась после получения доступа к OpenAI Daybreak Blue.
Это специальный режим для проверенных специалистов по кибербезопасности. Он позволяет использовать определённые ИИ-модели с меньшим количеством отказов при выполнении разрешённых защитных задач.
То есть для эффективной борьбы с хакерами разработчикам понадобилось официально подтвердить нейросети, что они действительно борются с хакерами.
И это ещё не самая неприятная часть истории.
Пока ИИ спорил с правилами, пострадали реальные пользователи
17 октября OpenCode сообщила о взломе старой системы, затронувшем 1,4% пользователей OpenCode Console — онлайн-платформы, через которую можно подключать сторонние ИИ-сервисы.
Под угрозой оказались API-ключи — своеобразные цифровые пароли, позволяющие обращаться к платным нейросетям.
Некоторые пользователи обнаружили неожиданные списания со своих счетов. В отдельных сообщениях фигурировали суммы свыше тысячи долларов.
Важно, что речь шла именно об онлайн-сервисе Console, а не о взломе самой программы OpenCode. И пока не установлено окончательно, как связаны все эпизоды атаки.
Защитники будущего
У этой истории есть проблема посерьёзнее забавных отказов.
ИИ становится инструментом обеих сторон кибервойны. Атакующие могут поручать агентам искать уязвимости круглосуточно. Защитникам тоже нужны быстрые автоматизированные помощники, способные изучать опасный код.
Вот только ограничения, призванные не допустить использования ИИ во вред, иногда мешают тем, кто пытается этот вред остановить.
И универсального решения пока нет.
Это как пожарная сигнализация, которая запрещает пожарным пользоваться топором, потому что портить имущество нехорошо.
Интересно, что будет следующим: ИИ-полицейский, который откажется преследовать преступника из-за превышения скорости?