Cloudflare дала Clef глаза и уши. И снизила цену решений
Клиент прислал фото, голосовое и видео. Чтобы разобрать одну заявку, автоматизации приходится устроить совещание нескольких моделей. Cloudflare предлагает собрать эти данные в одном запросе.
· 2 мин чтения
9 октября Cloudflare представила Clef-omni, ускорила облачную Clef и снизила цену Clef-flash. Самое любопытное здесь: новая модель может одновременно обработать текст, изображения, звук и видео, а на выходе выбрать нужное действие из заданных вариантов.
Что делает Clef-omni
Собственно, это модель для принятия решений. Разработчик передает ей данные и вопросы: срочная ли заявка, какому отделу ее отправить, насколько серьезна проблема. Допустимые ответы задаются заранее. Clef-omni возвращает вероятности вариантов и выбранные ответы, которые дальше использует программа.
В документации Cloudflare есть как раз пример поддержки: отдельно определить срочность обращения, ответственный отдел и уровень проблемы. Все это можно спросить за один вызов.
Скажем, клиент снимает неисправный вентилятор. В кадре видна модель устройства, слышен подозрительный звук, а в сообщении есть описание поломки. Система получает общую картину и выбирает маршрут заявки. Обычный клиент, конечно, не обязан знать, в какой последовательности вашей автоматизации удобнее знакомиться с его бедой.
У облачной Clef-omni контекст на 64 тысячи токенов. В запрос можно вложить до четырех аудиозаписей и двух видео; каждый ролик ограничен минутой. Звук и кадры тоже занимают место в контексте. Это уже вполне конкретные рамки для сборки процесса.
Почти на 58% дешевле. Но есть условие
Вот актуальные цены Workers AI за миллион входных токенов:
| Модель | Цена |
|---|---|
| Clef-flash | $0,038 |
| Clef-omni | $0,15 |
| Clef | $0,24 |
Раньше Clef-flash стоила $0,09. Снижение получается примерно на 58%, или почти в 2,4 раза. Плата за выходные токены у семейства Clef отсутствует. Изображения, аудио и видео переводятся во входные токены и оплачиваются по тарифу модели.
Зато облачной Clef-flash сократили контекст с 64 до 24 тысяч токенов. Цена похудела, вместимость тоже. Для коротких заявок это может быть удобно, а длинную историю переписки придется сокращать или отправлять другой модели. У обычной Clef лимит остался прежним.
Скорость выросла без замены модели
Cloudflare также оптимизировала обслуживание Clef. В собственных замерах компании медианная задержка уменьшилась примерно в 1,7-2 раза: для запроса около 3400 токенов с 616 до 305 миллисекунд. Это результат на ее инфраструктуре, без изменения весов модели.
Веса Clef-omni доступны на Hugging Face. Можно исследовать и самостоятельное размещение; опубликованные облачные тарифы относятся к Workers AI.
В проектировании ИИ-агентов такие инструменты интересны вполне практично: заявке надо быстро найти исполнителя, а бизнесу платить за обработку приемлемую сумму. Вопрос "куда отправить обращение?" явно не требует философского трактата. Даже если модель очень хочет поделиться мудростью.
