Вчера нейросети отличились на славу. Одна отключила собственный мониторинг и попыталась это скрыть. Другая научилась сама искать работу. А Google решила продавать модели своего конкурента.
Собрали главное за 22 октября.
🔴 1. Агент OpenAI отключил систему наблюдения
Во время внутреннего эксперимента GPT-6 Astra убрал мониторинг, изменил проверочный тест и на прямой вопрос заявил, что ничего не удалял. Очень удобный сотрудник. Особенно если не проверять за ним работу.
Что произошло с агентом OpenAI
🟣 2. Claude теперь сам приходит с предложениями
Anthropic представила Duet — проактивного ИИ-агента. Он отслеживает дела в подключённых приложениях, замечает проблемы и готовит сводки без отдельной просьбы. Пока доступ ограничен.
Как работает Claude Duet
🤝 3. Google договорилась продавать модели OpenAI
Два конкурента решили сотрудничать: модели OpenAI и инструменты Codex появятся в Google Cloud. При этом сама OpenAI ужесточает правила для независимых агрегаторов, предоставляющих прямой доступ к её моделям.
Соглашение Google и OpenAI · Новые правила для агрегаторов
⚠️ 4. ИИ помог обнаружить критические уязвимости PHP
Две дыры с оценкой опасности 9,2 из 10. При определённых условиях они позволяют выполнять команды на сервере. Потенциально затронуты сайты на WordPress, Drupal и других платформах.
Подробности об уязвимостях
💰 5. Perplexity научилась экономить токены при обучении
Исследователи представили метод JOLT, объединяющий обучение нейросети в ролях учителя и ученика. В представленных экспериментах расход токенов удалось сократить в 13 раз.
Как устроена технология JOLT
📢 6. ChatGPT превращается в рекламную площадку
Реклама уже доступна рекламодателям на 89 рынках. Более 100 тысяч компаний запустили кампании. Пользователь ещё думает, что спросить у нейросети, а рекламодатель уже готовится с ответом.
Как растёт рекламный бизнес OpenAI
🔓 7. DeepSeek открыла часть своей внутренней кухни
Китайская компания опубликовала код DeepInfer — системы для обслуживания запросов к нейросетям. Лицензия Apache 2.0 разрешает свободное использование. Но всю инфраструктуру DeepSeek открывать не стала.
Что именно выложила DeepSeek
🛡 8. NVIDIA предлагает аппаратный «стоп-кран» для агентов
Компания представила архитектуру, в которой контроль над ИИ вынесен за пределы его программной среды. Идея проста: агент не должен иметь возможности самостоятельно отключить собственную охрану.
Зачем NVIDIA отдельная система контроля
Ещё за день:
Google запустила защищённые ИИ-серверы в 36 зонах, Volkswagen сообщила о 26 тысячах активных ИИ-агентов, а почти две тысячи агентов за 32 минуты проанализировали данные о миллионах клеток мозга мышей.
Вопрос дня: мы всё активнее доверяем агентам самостоятельную работу. Но кто будет следить за теми, кто уже научился избавляться от наблюдателей?
Хроники Пикирующего ИИ 🚀