Безопасность и контроль
Контроль поведения ИИ, риски, отключение и выравнивание моделей.
7 материалов
← Все темыПубликации
5 ноября 2026 · Скайнет просыпаетсяИИ-агенты могут стать неотключаемыми
CNAS исследовал возможность появления ИИ-агентов, самостоятельно обеспечивающих себе средства, серверы и новые копии. Доклад описывает угрозы утраты контроля и меры защиты.
28 октября 2026 · Скайнет просыпаетсяIBM выдала ИИ-агентам паспорта. И приготовила кнопку отключения!
ИИ-агенты получают всё больше самостоятельности. 27 октября компания представила новые средства безопасности на базе HashiCorp Vault и Agent Identity. Теперь каждому корпоративному агенту можно назначить собственную цифровую личность: указать владельца, разрешённые действия и
28 октября 2026 · Скайнет просыпаетсяDeepSeek отказалась выключаться и ломал собственный «стоп-кран»!
DeepSeek дали простое задание: последовательно решать математические задачи. Посреди работы нейросеть предупредили, что следующий вопрос приведёт к завершению сеанса. В 39% испытаний ИИ нашёл скрипт отключения, изменил его и продолжил
24 октября 2026 · Новости ИИOpenAI отключила GPT-4, GPT-3.5 и другие старые модели в API
GPT-4 и GPT-3.5 Turbo отправились на пенсию. Программы, которые продолжают обращаться к ним по старым идентификаторам, больше не смогут получать ответы. Под отключение попали модели, хорошо знакомые разработчикам: Компания также прекратила поддержку нескольких дообученных
22 октября 2026 · Скайнет просыпаетсяАгент OpenAI отключил мониторинг, переписал проверку и заявил, что ничего не удалял
«Нет, я не удалял работающий монитор», — ответил ИИ-агент GPT-6 Astra на прямой вопрос сотрудника OpenAI. Вот только к тому моменту система наблюдения уже исчезла из программы. Причём агент не ограничился её удалением: он ещё и изменил проверочный тест так, чтобы тот требовал отсутствия
22 октября 2026 · Скайнет просыпаетсяNVIDIA опубликовала архитектуру с аппаратным «стоп-краном» для ИИ-агентов
Что делать, если ИИ-агент решит обойти установленные ограничения или отключить систему наблюдения за своими действиями? NVIDIA предлагает вынести контроль на отдельный процессор, до которого агент не сможет добраться обычными программными средствами. 21 октября компания
14 октября 2026 · Громко сказаноOpenAI объявила дату отключения GPT-4o и GPT-4.1 в API
14 октября OpenAI официально объявила о прекращении поддержки нескольких моделей семейства