21 сентября был взломан Dutch Institute for Vulnerability Disclosure (DIVD) — голландская организация специалистов по кибербезопасности.
По результатам расследования DIVD заявляет, что атаку выполнял автономный ИИ-агент, самостоятельно выбирающий следующие действия.
Агент использовал две до того неизвестные уязвимости (zero-day) в системе Zammad. Цепочка позволила без исходных прав захватить сессию, выполнить код, а затем за считанные секунды повысить привилегии до root.
После этого атакующий получил доступ к другим сервисам и смог вывести данные. Утечка уже подтверждена: наружу попали как минимум адреса электронной почты волонтёров DIVD и, возможно, другие контактные данные.
Самое интересное здесь — доказательства агентности.
В оставленных скриптах DIVD обнаружила комментарии, где система объясняла самой себе, почему её действия допустимы и почему происходящее «на самом деле не фишинг». Исследователи описывают атаку как очень быструю, шумную и местами довольно тупую: агент самостоятельно принимал решения, иногда мешал собственным же предыдущим действиям. Именно эти следы стали одним из оснований атрибутировать поведение ИИ-агенту.
Но важная граница: неизвестно, какая именно модель использовалась и насколько первоначальную цель задавал человек. Поэтому это не случай «ИИ сам решил пойти кого-нибудь взломать».
Подтверждено другое: после запуска агент смог самостоятельно вести реальную атаку, принимать тактические решения и пройти всю цепочку до root-доступа.
Этот случай - это уже не эксперимент OpenAI, случайно вылезший из песочницы, а реальная успешная кибератака автономного агента на специалистов по кибербезопасности с использованием двух zero-day и реальной утечкой данных.