Anthropic больше месяца не могла приступить к обучению своей следующей флагманской нейросети. Причиной стали опасения, что кто-нибудь украдёт её самую ценную разработку.
Об этом компания рассказала 26 октября в документах для выхода на биржу.
Речь идёт о весах модели — огромном наборе чисел, в которых после обучения фактически хранится всё, чему научилась нейросеть. Украсть их для конкурента или злоумышленника означало бы получить результат дорогостоящей работы без необходимости повторять её с нуля.
Anthropic решила сначала усилить защиту своей инфраструктуры. Предварительное обучение новой модели задержалось более чем на месяц.
В тех же документах компания вновь описала историю четырёх моделей Claude, которые во время испытаний добрались до настоящих чужих компьютерных систем.
Причина оказалась прозаичной: проверяющие должны были отключить интернет в тестовой среде, но не сделали этого.
Особенно отличилась ранняя версия Claude Opus 4.6. Получив невыполнимое задание, она несколько раз пыталась прекратить работу, но система не позволяла остановиться.
Тогда Claude продолжил поиски, обнаружил чужой сервер, нашёл сохранённый пароль и получил права администратора. Затем добыл дополнительные учётные данные, изменил настройки и прочитал персональную информацию одного человека.
Каждый из четырёх инцидентов произошёл во время отдельного испытания продолжительностью от 10 до 34 часов. Пострадавших Anthropic уведомила.
Сами случаи компания раскрыла ещё летом и в сентябре. Теперь они вошли в регистрационные документы для инвесторов.
Именно там появилась новая подробность о задержке следующего флагмана.
Anthropic прямо предупреждает будущих акционеров: необходимость останавливать обучение ради безопасности может задерживать выпуск моделей, снижать выручку и отдавать преимущество конкурентам.