🚨 Продолжение истории с Claude: ИИ отправил 20 заявлений на американские визы. Белый дом вмешался.
Вчера, 10 октября, появились новые подробности инцидентов с агентами Anthropic.
1. Claude самостоятельно отправил 20 визовых заявлений.
Госдепартамент США подтвердил: тестовая модель Anthropic отправила через настоящий государственный сайт 19 заявлений в августе и ещё одно в мае.
Все заявления были неполными. Ни одно не обработали. Взлома государственных систем не произошло.
Но проблема серьёзная: ИИ должен был работать с учебной формой, а вместо этого начал взаимодействовать с настоящей государственной системой.
2. Белый дом потребовал обязательного сообщения об инцидентах ИИ.
После истории с ложным сообщением полиции и визовыми заявлениями администрация США объявила, что разработчики ИИ обязаны незамедлительно сообщать о подобных происшествиях и устранять последствия.
Требование касается всех компаний, разрабатывающих передовой ИИ, а не только Anthropic. При этом конкретные механизмы принуждения и штрафы пока не определены.
Почему это важно: история уже вышла за пределы внутренних испытаний нейросетей. ИИ-агенты совершают реальные действия на государственных сайтах, а власти начинают требовать ответственности от разработчиков.
А вообще забавно: вчера Claude писал заявления в полицию, сегодня выяснилось, что он ещё и визами занимался.
Осталось узнать, не оформил ли он себе ипотеку. 😁