Одной нейросети поручили искать уязвимости, другой — готовить инструменты атаки, третьей — собирать пароли. А чтобы отказ ИИ выполнять опасный запрос не останавливал работу, преступники предусмотрели запасной вариант с готовым кодом.
Так была устроена CARLIY0S — система группировки CyberCartel, которая за несколько месяцев выбрала целями более 400 финансовых организаций Латинской Америки.
21 октября компания Straiker опубликовала результаты расследования.
Её специалисты изучили рабочие файлы хакеров: программный код, настройки ИИ-агентов, устройство инфраструктуры и базу собранных секретных данных.
В центре CARLIY0S находилась группа агентов на базе Claude. Управляющая модель получала общую задачу и передавала её специализированным помощникам.
Агенту STRIKER поручили создавать инструменты атаки и программный код. GHOST занимался разведкой: изучал инфраструктуру цели, проверял найденную информацию и искал слабые места.
FABLE предназначался для поиска нестандартных способов проникновения. Наконец, MAXIMUS должен был оценивать предложенные варианты и выбирать итоговое решение.
В настройках был предусмотрен и режим, при котором агенты сравнивают свои предложения, выявляют недостатки друг у друга и уточняют способ атаки.
При этом одна из моделей — Claude Fable 5 — обнаружена только в конфигурационных файлах. Подтвердить её успешное использование исследователи не смогли.
Grok досталась другая работа — сбор секретных данных.
В системе действовали пять автоматизированных сборщиков, которые искали пароли, ключи доступа и другую конфиденциальную информацию.
24 сентября специалисты Straiker получили снимок базы FinancialSoft. В ней находилось 4493 записи, включая 903 номера финансовых счетов, 391 API-ключ и 67 паролей в открытом виде.
Там же обнаружились данные для входа на различные порталы, сведения об уязвимостях и шести механизмах сохранения доступа к скомпрометированным системам.
Kimi использовалась как дополнительная модель. Если она отказывалась выполнять опасный запрос, CARLIY0S могла прекратить обращение к нейросети и переключиться на заранее подготовленный программный код.
Работа системы не зависела от согласия каждого отдельного ИИ.
Преступники позаботились и об общей памяти. Два рабочих компьютера использовали единое хранилище информации о целях. Новые сведения синхронизировались с центральным сервером каждые 15 минут.
Это позволяло операторам продолжать работу друг друга, не собирая найденные данные заново.
По данным Straiker, за несколько месяцев CyberCartel направила атаки более чем на 400 финансовых целей. Это не означает, что все 400 организаций были взломаны. Точное число успешных проникновений и размер финансового ущерба неизвестны.
После получения материалов расследования Anthropic заблокировала ключ, через который злоумышленники обращались к Claude. Компания xAI была уведомлена об использовании Grok.