12 октября Anthropic рассказала о новых механизмах защиты Claude от так называемой дистилляции.
Речь о массовом извлечении ответов и рассуждений сильной модели для обучения другой нейросети.
По предварительным внутренним оценкам Anthropic, новые защитные механизмы сократили объём извлекаемых данных примерно на 90–99%.
Компания также утверждает, что подобные методы использовались конкурентами для ускорения разработки собственных моделей.
Почему важно: борьба за возможности передовых моделей теперь идёт не только через исследования, но и через защиту результатов обучения от копирования.
При этом независимого подтверждения заявленной эффективности пока нет.