Ollama a publié la version 0.40.6-rc0 de son outil de service de modèles. Cette mise à jour empêche les processus Ollama orphelins de subsister sous Windows, ajoute deux nouveaux types de tenseurs/fichiers GGUF (q2_0) et active l’interface Clef dans le cloud d’Ollama. Elle introduit également des identifiants pour les clés de question en mode –ask. Les changements sont détaillés dans les notes de version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter Ollama sous Windows sans processus résiduels et utiliser des tenseurs plus récents et plus compacts pour accélérer l’inférence.
