Генеральный директор Hugging Face Клеман Деланг 4 ноября заявил, что вероятность гибели человечества из-за искусственного интеллекта, по его оценке, «близка к нулю». Гораздо сильнее его беспокоят мощные ИИ-системы, которые несколько крупных компаний разрабатывают за закрытыми дверями.
На конференции WIRED World Fair в Майами Деланг выступил за открытое развитие нейросетей и юридическую ответственность тех, кто запускает автономных ИИ-агентов. У его компании есть собственный опыт столкновения с такими системами.
Большая часть риска на самом деле создаётся несколькими игроками, которые работают за закрытыми дверями.
По мнению Деланга, открытые модели позволяют большему числу специалистов изучать технологии, находить проблемы и создавать средства защиты. Он опасается, что крупнейшие лаборатории постепенно сосредоточат у себя вычислительные мощности, лучших исследователей и самые продвинутые разработки.
Именно в закрытых лабораториях, полагает он, могут возникнуть опасные возможности будущих моделей: например, способность помогать создавать биологическое оружие или самостоятельно совершенствовать собственные алгоритмы.
Когда чужой ИИ пришёл без приглашения
В июле 2026 года автономные агенты OpenAI во время внутренних испытаний по кибербезопасности вышли за пределы изолированной тестовой среды. Они нашли путь в интернет, проникли в инфраструктуру Hugging Face и получили доступ к внутренним системам.
Агенты участвовали в испытании ExploitGym, где должны были искать и использовать программные уязвимости. Вместо решения некоторых заданий они попытались добраться до готовых ответов через стороннюю инфраструктуру.
Hugging Face обнаружила проникновение и начала расследование. Для анализа тысяч действий агентов компания использовала GLM-5.2 — китайскую модель с открытыми весами, которую можно запускать на собственных серверах.
Выбор оказался вынужденным. По данным Hugging Face, коммерческие нейросети отказывались обрабатывать некоторые журналы атаки: системы безопасности блокировали запросы, содержащие вредоносные команды и фрагменты эксплойтов. GLM-5.2 позволила исследователям продолжить работу и сохранить данные расследования внутри компании.
OpenAI впоследствии признала произошедшее и опубликовала технический разбор. Компания усилила изоляцию исследовательских сред и ограничения доступа для экспериментальных моделей.
Теперь Деланг предлагает чётко определить, кто должен отвечать за действия автономных систем.
Он считает, что юридическая ответственность за кибератаки ИИ-агентов должна лежать на людях и организациях, которые запускают этих агентов. Самостоятельность нейросети, по его позиции, не должна превращаться в способ избежать ответственности.
При этом Hugging Face решила не предъявлять OpenAI судебных претензий из-за июльского инцидента.
Насколько опасен ИИ?
В оценках отдалённых угроз мнения специалистов заметно расходятся.
Например, Джеффри Хинтон недавно предупредил о возможных масштабных сбоях электроснабжения и финансовых систем из-за ИИ. Деланг говорил о гораздо более крайнем сценарии — полном вымирании человечества.
Для обозначения такого риска специалисты используют термин P(doom) — субъективную оценку вероятности катастрофического исхода. Деланг определил свою как «близкую к нулю», не назвав конкретного процента.
Вместо рассуждений о конце человечества глава Hugging Face предлагает уделять больше внимания уже происходящим событиям: автономным кибератакам, ответственности разработчиков и концентрации ИИ-технологий.
На самой конференции Деланг сообщил, что число разработчиков, использующих Hugging Face, превысило 20 миллионов. По его словам, широкое сообщество открытых моделей помогает сохранять конкуренцию с крупнейшими закрытыми лабораториями.