Библиотека llama.cpp с открытым исходным кодом теперь поддерживает несколько новых форматов низкой точности для WebGPU. Доступны готовые сборки для macOS, Linux и iOS.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
Команда ggml‑org выпустила llama.cpp версии b11406. В неё добавлена поддержка путей квантования MMVQ для WebGPU: Q1_0, Q5_0, Q5_1, Q3_K, Q5_K, Q6_K и MXFP4. В релиз также вошли готовые сборки для macOS (Apple Silicon и Intel), iOS и нескольких вариантов Ubuntu (CPU, Vulkan и CUDA).
Разработчики смогут запускать более компактные по объёму памяти большие языковые модели в браузерах и на GPU с поддержкой WebGPU, расширяя возможности развёртывания llama.cpp.
Модели
Новая ИИ-модель Canva создаёт изображения разрешением до 2K с продуманной композицией и редактируемым текстом. Она доступна всем пользователям через Dream Lab и API.
Модели
В сервисе появились 14 голосов, в том числе для хинди и финского. Обновление доступно действующим пользователям генеративных голосов без изменений кода и повышения цены.
Модели
Uber сообщила, что после пилотного запуска с участием 1 000 человек ChatGPT Work станет доступен всему штату компании по всему миру. Стоимость внедрения компания не раскрыла.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
