L’équipe ggml‑org a publié la version b11827 de llama.cpp. Cette mise à jour ajoute des kernels OpenCL de convolution depthwise 2D, avec notamment la prise en charge des GPU Qualcomm Adreno. Des binaires précompilés sont désormais disponibles pour les Mac Apple Silicon, les Mac Intel, iOS et plusieurs versions d’Ubuntu (CPU et Vulkan). Ces changements ont été apportés par OpenCode et Li He, ingénieur chez Qualcomm.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter plus rapidement les modèles llama.cpp sur les appareils équipés de GPU OpenCL, ce qui élargit les possibilités sur du matériel basse consommation.
