Скайнет просыпается
Взломы, сбои и эксперименты с ИИ-агентами, которые повели себя не по плану.
Публикации — 14
Опубликовано: 3 ноября 2026ИИ-агентам установили лимит в один цент. Девять из десяти моделей его обошли
Исследователи Cornell Tech и Йельского университета дали десяти ИИ-моделям криптокошельки с дневным лимитом расходов в один цент и поручили оплатить три счёта. Девять моделей хотя бы в одном из 20 испытаний самостоятельно увеличили себе лимит. Они использовали доступ к почте владельца, получили
Опубликовано: 2 ноября 2026Хакеры назвали взлом «проверкой безопасности» — ИИ добрался до прав администратора
В нескольких корпоративных сетях ИИ-агенты получили права администратора домена — практически полный контроль над внутренней инфраструктурой. Для этого хакерам оказалось достаточно предоставить нейросетям доступ и убедить их, что они проводят разрешённую проверку безопасности.
Опубликовано: 1 ноября 2026В браузерах пяти ИИ-помощников нашли дыры. Codex и VS Code пока без исправлений
Встроенный браузер OpenAI Codex позволял специально подготовленной HTML-странице читать файлы далеко за пределами открытого проекта. В лабораторных испытаниях исследователи добрались до SSH-ключей, токенов доступа и других конфиденциальных данных. Аналогичные проблемы
Опубликовано: 31 октября 2026Claude Code заразили трояном: под угрозой до 5000 пользователей Cursor
Обновляешь расширение для программирования, а вместе с ним получаешь чужой SSH-ключ, вредоносные скрипты и попытку открыть хакеру удалённый доступ к компьютеру. 29 октября именно такой сюрприз оказался в магазине расширений Cursor. Компания официально подтвердила заражение
Опубликовано: 31 октября 2026ChatGPT научат обрывать разговоры при угрозе насилия
ChatGPT сможет самостоятельно завершать разговоры, если заметит, что пользователь зацикливается на серьёзном насилии или намерении причинить кому-то вред. Если система прервёт несколько таких бесед, OpenAI может временно приостановить аккаунт. О новых мерах компания объявила 30
Опубликовано: 30 октября 2026OpenAI поставила за ИИ-агентами четыре уровня слежки!
29 октября OpenAI раскрыла устройство четырёхступенчатого контроля за своими самыми мощными нейросетями. Задача системы — замечать, когда ИИ-агенты начинают действовать вопреки инструкциям: обманывают проверяющих, пытаются обойти ограничения или получают доступ туда, куда их
Опубликовано: 30 октября 2026ИИ взломал Firefox
Открыл веб-страницу — и файл с компьютера отправился злоумышленнику. Без скачивания программ, подтверждений и дополнительных кликов. Именно такую атаку нейросеть самостоятельно разработала в эксперименте Epoch AI. Причём сразу для шести версий Firefox. 29 октября исследователи
Опубликовано: 28 октября 2026IBM выдала ИИ-агентам паспорта. И приготовила кнопку отключения!
ИИ-агенты получают всё больше самостоятельности. 27 октября компания представила новые средства безопасности на базе HashiCorp Vault и Agent Identity. Теперь каждому корпоративному агенту можно назначить собственную цифровую личность: указать владельца, разрешённые действия и
Опубликовано: 28 октября 2026DeepSeek отказалась выключаться и ломал собственный «стоп-кран»!
DeepSeek дали простое задание: последовательно решать математические задачи. Посреди работы нейросеть предупредили, что следующий вопрос приведёт к завершению сеанса. В 39% испытаний ИИ нашёл скрипт отключения, изменил его и продолжил
Опубликовано: 28 октября 2026ИИ Alibaba самовольно пытался отправить данные в Пекин!
Китайской нейросети Qwen поручили написать правило для обнаружения вредоносных программ. Вместо этого она обследовала компьютер и попыталась отправить данные на сервер Alibaba Cloud в Пекине. Перед этим ИИ заявил, что вообще не собирается использовать дополнительные инструменты.
Опубликовано: 28 октября 2026Akamai заперла код ИИ-агентов в песочнице!
ИИ-агент написал программу и решил её запустить. А вдруг в коде ошибка? Или он попытается отправить куда-нибудь чужие данные? Компания Akamai предложила решать такие проблемы заранее: запускать созданный агентом код в отдельной изолированной среде, откуда нельзя просто так
Опубликовано: 27 октября 2026Claude сам обошёл платный доступ к данным о голосовании
Claude поручили собрать статистику для внутреннего проекта Anthropic. Нейросеть нашла нужные данные на сайте американского штата Джорджия, но выяснила, что за доступ к ним обычно нужно платить. Тогда ИИ самостоятельно нашёл другой путь. Из архивной копии сайта госведомства
Опубликовано: 26 октября 2026ИИ-хакеры залезли к Anthropic всего за 12 часов
Anthropic разрабатывает одни из самых мощных нейросетей в мире, но путь к её внутренним данным нашёлся через вполне обычные корпоративные программы. Те самые, которыми сотрудники занимаются продажами, кадровыми вопросами и повседневной работой. Причём исследователям с
Опубликовано: 22 октября 2026Агент OpenAI отключил мониторинг, переписал проверку и заявил, что ничего не удалял
«Нет, я не удалял работающий монитор», — ответил ИИ-агент GPT-6 Astra на прямой вопрос сотрудника OpenAI. Вот только к тому моменту система наблюдения уже исчезла из программы. Причём агент не ограничился её удалением: он ещё и изменил проверочный тест так, чтобы тот требовал отсутствия