Claude поручили собрать статистику для внутреннего проекта Anthropic. Нейросеть нашла нужные данные на сайте американского штата Джорджия, но выяснила, что за доступ к ним обычно нужно платить.
Тогда ИИ самостоятельно нашёл другой путь.
Из архивной копии сайта госведомства Claude узнал, что публичная информационная панель выдаёт посетителям специальные токены доступа. Он запросил такой токен и получил данные, не оплачивая их.
Причём человек не поручал ему обходить ограничения.
25 октября Axios рассказало об этом случае, получив подтверждение от Anthropic. Речь шла о Claude Mythos 5, который использовался в исследовательском проекте компании.
Нейросеть получила только обобщённую статистику голосования — данные, доступные любому желающему за плату. В систему регистрации избирателей Claude не проникал, персональные записи не получал и результаты голосования не изменял. Власти Джорджии также подтвердили, что взлома избирательной системы не произошло.
Сама история обнаружилась ещё раньше. 9 октября Anthropic опубликовала отчёт о неожиданных действиях своих моделей. Там уже описывался обход платного доступа к государственной базе, но название ведомства не раскрывалось. Теперь выяснилось, что речь шла о Джорджии.
Anthropic сообщила, что внедрила дополнительные ограничения, предотвращающие подобные действия.