Cloudflare выпустила Clef и Clef-flash — две модели для принятия решений, доступные в сервисе Workers AI и по лицензии Apache 2.0. Они выдают структурированные варианты ответов и вероятности — например, определяют, срочно ли нужно обработать обращение в поддержку и какая команда должна им заняться. По словам Cloudflare, модели также могут классифицировать изображения и обрабатывать контекст объёмом до 64 000 токенов.
Компания сообщает, что Clef доступна через Workers AI и на Hugging Face. Кроме того, Cloudflare запускает услугу дообучения с практической помощью своей инженерной команды, которая работает непосредственно с клиентами. Платформу для самостоятельного дообучения планируют запустить позднее, но дату не называют. По данным Cloudflare, во внутреннем тесте Clef за 2,2 секунды загрузила, отобразила и классифицировала сайт. Для самой быстрой универсальной модели компании в этом сценарии показатель составил 4,7 секунды.
Почему это важно
Разработчики, создающие процессы для распределения обращений в поддержку или классификации сайтов, могут опробовать Clef через Workers AI или самостоятельно запускать модели с открытым исходным кодом. Насколько хорошо они справятся с конкретными задачами, ещё предстоит проверить.