Anthropic объявила о новом формате независимой проверки безопасности своих моделей.
Шесть сотрудников исследовательской организации METR получили оборудование, рабочие места и доступ к внутренним инструментам, сопоставимый с доступом собственных специалистов Anthropic по оценке рисков.
Проверяющие смогут публиковать результаты исследований. Anthropic не вправе запрещать публикации целиком, но может требовать удаления некоторых заранее определённых категорий конфиденциальной информации.
Доступность: сотрудничество уже началось. Результаты оценок будут публиковаться METR.
Почему важно: независимые исследователи получают возможность изучать риски мощных моделей глубже, чем при обычном тестировании через публичный интерфейс.