Американский Центр инноваций и стандартов сверхинтеллекта (CAISSI) остался без постоянного руководителя. Более того, его сотрудников недавно попросили неформально отчитываться перед одним из подразделений Белого дома. Об этом 8 ноября сообщило Associated Press, ссылаясь на двух бывших государственных чиновников, знакомых с ситуацией.
CAISSI входит в состав Национального института стандартов и технологий США (NIST). Его задача — независимо оценивать возможности и безопасность передовых ИИ-моделей, в том числе проверять риски кибератак и применения нейросетей в разработке опасных биологических и химических технологий.
С руководством у центра в этом году возникли проблемы. В апреле одного директора назначили и уволили спустя несколько дней. Его преемник Крис Фолл проработал около трёх месяцев и ушёл в июле. С тех пор обязанности руководителя CAISSI исполняет директор NIST Арвинд Раман.
На работу центра ежегодно выделяется около $10 млн — примерно в восемь раз меньше бюджета аналогичной британской организации.
В августе Конгресс США начал интересоваться, почему центр перестал публиковать часть отчётов с результатами испытаний безопасности ИИ. Однако утверждать, что исследовательская деятельность полностью остановилась, нельзя.
Например, 17 сентября NIST опубликовал оценку кибервозможностей китайской модели GLM-5.3. А 16 октября CAISSI совместно с другими американскими ведомствами выпустил рекомендации по реагированию на опасные действия ИИ-агентов.
Вопрос касается прежде всего прозрачности конкретных испытаний и дальнейшей самостоятельности центра.
По данным AP, предполагаемая неформальная отчётность перед Белым домом вызывает опасения у части специалистов. Они считают, что политическое влияние и интересы технологических компаний могут сказаться на том, какие результаты проверок станут публичными. Другие эксперты допускают, что более тесная связь с администрацией президента поможет центру получить дополнительное финансирование и внимание.
Сам Белый дом не ответил на конкретные вопросы AP о CAISSI. Вместо этого администрация сообщила о создании отдельной структуры Super Intelligence Force, занимающейся вопросами искусственного интеллекта.
Проблема становится особенно заметной на фоне развития автономных агентов. Исследователь Саяш Капур из Калифорнийского университета в Беркли объяснил AP, что для их оценки недостаточно проверять только конечный результат. Агент может выполнить поручение, но по дороге совершить опасные или недопустимые действия. Чтобы заметить это, необходимо изучать всю последовательность его работы.
Разработчики ИИ также привлекают сторонних специалистов. Например, Anthropic ранее допускала независимых проверяющих к внутренним процессам компании. Однако частные лаборатории сами определяют условия доступа к своим системам и результатам проверок.
Пока не объявлено, кому именно и в каком порядке сотрудники CAISSI должны предоставлять неформальные отчёты. Неизвестно и то, когда центр получит постоянного директора.