Чтобы узнать сумму в счёте, дату доставки или номер заказа, совсем необязательно устраивать с нейросетью полноценный разговор. Иногда от неё требуется одно: прочитать документ и вернуть несколько конкретных значений.
19 октября Cloudflare представила Clairic — специализированную ИИ-модель, созданную именно для такой работы.
Обычная большая языковая модель формирует ответ последовательно, слово за словом. Даже когда её просят найти одну цифру, она использует механизм генерации текста.
Clairic устроена иначе. Она обрабатывает входные данные за один проход и выдаёт значения в заранее заданном формате.
Разработчик может указать, что именно нужно извлечь: номер заказа, денежную сумму, дату, продолжительность или список подходящих значений. Модель умеет также выполнять несложные расчёты, давать оценки и строить простые прогнозы.
Например, из счёта на поставку товаров Clairic может извлечь номер документа, определить дату оплаты и рассчитать общую сумму с учётом доставки.
Причём результат сразу соответствует заданному типу данных. Если программа ожидает дату, ей не придётся разбирать вольный ответ нейросети в поисках нужных чисел.
19 секунд вместо минуты
Cloudflare проверила новую модель на задаче обработки обращения покупателя, получившего повреждённый товар.
Система должна была разобраться в письме, извлечь сведения о покупке, оценить стоимость ремонта, выбрать подходящее решение и подготовить ответ клиенту.
Компания сравнила два варианта.
В первом использовались три специализированных этапа: Clairic извлекала сведения, другая модель Cloudflare под названием Clef выбирала решение, а языковая модель GLM-5.3 составляла текст ответа.
Во втором все три действия выполняла GLM-5.3.
Результат испытания:
19,3 секунды на обработку обращения с использованием Clairic и Clef; 61,7 секунды при использовании языковой модели на всех этапах; на 49% меньше расходов у первого варианта.
Таким образом, обработка в эксперименте заняла примерно втрое меньше времени.
Здесь существенно, что сравнивались две целые системы. Сама Clairic не писала ответ покупателю: эту работу в обоих вариантах выполняла обычная языковая модель. Ускорение получили за счёт распределения задач между инструментами.
Есть и ограничения. Cloudflare признаёт, что Clairic пока плохо справляется с длинными цепочками вычислений и сложными расчётами по большим таблицам. Кроме того, правильный формат ответа ещё не означает правильность самого значения.
Модель уже доступна разработчикам в предварительной версии на платформе Workers AI, в том числе через REST API. Стоимость составляет $0,10 за миллион входных токенов — небольших единиц текста, используемых при обработке. Отдельной платы за выходные токены нет, поскольку модель их не генерирует.
Cloudflare также обещает позднее опубликовать открытые веса Clairic, чтобы её можно было запускать вне собственного облачного сервиса компании. Точной даты пока нет.