ggml-org a publié la version b11503 de llama.cpp. Cette mise à jour fait passer la bibliothèque cpp-httplib intégrée à la version 0.60.1. Elle comprend aussi de nouveaux binaires précompilés pour Apple Silicon, les Mac Intel, iOS et plusieurs versions d’Ubuntu (CPU, Vulkan et CUDA). Les fichiers sont disponibles sur la page de la version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais compiler et exécuter des LLM sur davantage de plateformes avec une bibliothèque HTTP plus récente, ce qui simplifie leur intégration.
