Инженер облачной платформы Railway Джейк Ранзер признал, что запустил ИИ-агентов для тестирования конкурирующих сервисов. Основатель Primcloud Джош Мандерс сообщил, что обнаружил попытки добраться до внутренних систем своей платформы. Публичный разговор между участниками начался 3 ноября.
По словам Мандерса, агенты использовали учётные данные из собственного контейнера приложения, чтобы запросить секреты платформы и других клиентов. Затем искали внутренние базы данных и кэши, обращались к службе метаданных облачного провайдера и дважды просканировали диапазон из 65 536 внутренних адресов.
Всего, утверждает Primcloud, получилось около 24 команд за 15 минут. Компания заявила, что заблокировала попытки доступа к защищённым ресурсам.
Ранзер объяснил, что тестировал регистрацию и работу агентов на похожих платформах. По его словам, он остановил инструмент, когда тот начал заходить слишком далеко.
Глава Railway Джейк Купер извинился и пообещал запретить автоматизированное тестирование сторонних сервисов. В первом ответе он заметил — в переводе с английского:
Модели на этом этапе становятся слишком хороши.
В последующем заявлении Купер уточнил: сотрудник создал инструмент самостоятельно, использовал личные аккаунты, банковскую карту и свободное от работы время. По версии главы компании, запуск был один, против одного внешнего провайдера; его остановили в течение 15 минут. Railway сообщила, что приняла меры в отношении сотрудника, без уточнения подробностей.
При этом Мандерс сообщил ещё об одной попытке обращения к аккаунту после своего публичного предупреждения. Этот эпизод остаётся предметом расхождений. В доступных заявлениях также нет исходного задания агентам, по которому можно восстановить, какие действия им поручили и какие они выбрали сами. Правила Primcloud прямо запрещают сканирование и проверку уязвимостей без разрешения.