Библиотека llama.cpp с открытым исходным кодом теперь поддерживает операцию SSM_SCAN на NPU Qualcomm Hexagon, что повышает производительность на устройствах Snapdragon.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
Вышла новая версия проекта llama.cpp с поддержкой операции SSM_SCAN на NPU Qualcomm Hexagon. Обновление включает оптимизацию ядер, изменения в конвейере DMA и поддержку HMX. Также расширен список целевых платформ: добавлена поддержка CUDA 13 и новых конфигураций Snapdragon с CPU, GPU и NPU. Соавтором изменений стал Макс Краснянский из Qualcomm.
Разработчики смогут быстрее запускать модели llama.cpp на телефонах Snapdragon с NPU Hexagon.
Модели
Новый кошелёк ChatGPT позволяет ИИ-агентам «dots» покупать товары для подписчиков Pro в США, используя токенизированные данные карты.
Модели
ИИ-агент может звонить кабельным операторам, в DMV и рестораны, но многие компании всё ещё бросают трубку, услышав синтетический голос.
Модели
Speech TTS Live и Speech Realtime Max рассчитаны на более естественные разговоры и выполнение нескольких действий за один звонок.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
