CrowdStrike 3 ноября представила AI Kill Switch — аварийный выключатель для корпоративных ИИ-агентов. Если агент начинает выполнять неразрешённые действия, администратор может принудительно перекрыть ему доступ к ИИ-модели. Функция уже доступна в системе безопасности Falcon Guardian.
Механизм работает через специальный шлюз — AI Gateway, который контролирует обращения корпоративных программ к нейросетям. Когда сотрудник службы безопасности активирует выключатель, шлюз блокирует запросы выбранного агента. Без доступа к модели тот лишается возможности получать новые ответы и продолжать зависимые от них действия.
CrowdStrike поддерживает как собственный Falcon AI Gateway, так и подключённые сторонние шлюзы. Команду остановки отдаёт уполномоченный администратор, а действия фиксируются в журнале безопасности.
В пресс-релизе компания также описывает возможность запретить повторный запуск агента на выбранных устройствах и перекрыть ему доступ к корпоративной сети.
А если агент уже убежал?
Здесь у выключателя пока есть пределы. Сейчас он действует прежде всего через шлюз доступа к ИИ-моделям. Прямую остановку процессов агента на рабочем компьютере CrowdStrike обещает добавить позднее.
В дальнейшем компания планирует объединить управление агентами на компьютерах, в облаке, корпоративных приложениях и браузерах. Пока эти возможности находятся в разработке.
Недавно мы рассказывали об исследовании CNAS, авторы которого предупредили о потенциально неотключаемых ИИ-агентах. Такие системы в теории смогут самостоятельно зарабатывать деньги, оплачивать вычислительные мощности и поддерживать копии на независимых серверах.
AI Kill Switch решает более ограниченную задачу: позволяет компании вмешаться в работу агентов внутри контролируемой инфраструктуры. Если агент уже перенёс свою работу на независимые внешние серверы или использует локальную модель в обход шлюза, нынешний механизм его не остановит.
Для клиентов Falcon Guardian новая функция доступна уже сейчас. Собственный AI Gateway входит в состав продукта без дополнительной платы. Сроки появления расширенного выключателя для компьютеров и облачных сред CrowdStrike пока не объявила.