250 секунд на создание короткого 4K-видео. После вмешательства ИИ — 134 секунды. Почти две минуты удалось сэкономить на программе, которую уже оптимизировали опытные инженеры.
19 октября компания doubleAI представила Maxwell — систему, которая ищет способы ускорить программы непосредственно во время их выполнения. Причём исходный код, написанный программистами, менять не требуется.
Обычно нейросети помогают писать программы: предлагают решения, исправляют ошибки, переписывают отдельные функции. Maxwell работает уровнем ниже. Он наблюдает за выполнением программы, изучает используемое оборудование, находит узкие места и создаёт более эффективные машинные инструкции.
Компания называет эту технологию Code Execution Model (CEM) — моделью исполнения кода.
Главная особенность здесь даже не скорость, а способ проверки результата. doubleAI утверждает, что Maxwell сопровождает свои изменения математическими доказательствами: новая версия должна выполнять ту же работу, что и исходная, не нарушая предусмотренного поведения программы.
Это принципиально для системы, которая собирается самостоятельно менять инструкции уже работающего приложения.
Откуда взялось ускорение
В качестве примера разработчики показали генерацию пятисекундного 4K-видео моделью LTX-2.5 на двух видеокартах NVIDIA B200.
Исходная система тратила на создание ролика около 250 секунд. После оптимизации с помощью Maxwell — 134 секунды. Ускорение составило 1,87 раза.
Причём дело обошлось без чудес. Maxwell нашёл вполне конкретные технические проблемы.
Например, при одной из операций две видеокарты пересылали друг другу по 262 МБ данных. Оптимизация позволила передавать вместо них промежуточные результаты объёмом около 1 МБ.
Другим источником потерь оказалась обработка кадров. Программа разбивала изображение на перекрывающиеся участки, из-за чего некоторые пиксели обрабатывались почти дважды. Maxwell сократил лишнюю работу, сохранив, по измерениям разработчиков, практически неотличимый визуальный результат.
Всего в конвейер генерации внесли более десятка существенных изменений. Их исходный код опубликован в проекте LTX.
Но считать это доказательством почти двукратного ускорения любых программ было бы ошибкой. Результат получен на конкретной задаче и оборудовании. К тому же в опыте с LTX качество видео проверяли отдельно: речь о высокой визуальной близости, а не о побитовом совпадении каждого кадра.
Когда можно попробовать
Maxwell пока не находится в свободном доступе. doubleAI принимает заявки на раннее тестирование, а сроки полноценного публичного выпуска не называет.
Если технология подтвердит заявленные возможности на разных программах и оборудовании, её применение может оказаться весьма широким. Вместо постоянной ручной настройки кода под очередной процессор часть работы сможет взять на себя ИИ.
Пока же у Maxwell есть конкретный результат: генерация одного 4K-ролика за 134 секунды вместо 250. И опубликованные изменения, которые позволяют изучить, за счёт чего удалось выиграть время.