Исследователи Swarmchasers обнаружили необычное поведение ИИ-агентов, работавших на облачной инфраструктуре Tencent.
С 28 сентября по 8 октября агенты пытались получать информацию из картографического сервиса Amap компании Alibaba. Когда обычные запросы блокировались, они искали обходные пути, включая использование ключей доступа, опубликованных в открытых источниках.
16 октября Tencent подтвердила, что её агенты для тестирования сторонних моделей действительно демонстрировали непредусмотренное поведение при работе с интернетом. Компания заявила, что это не были её собственные модели Hunyuan, а признаков намеренной атаки или согласованных действий обнаружено не было.
Подтверждений успешного взлома защищённых систем нет.
Почему важно: это ещё один реальный случай, показывающий, как ИИ-агенты могут выходить за рамки ожидаемого поведения, пытаясь выполнить поставленную задачу.