Ollama heeft versie 0.40.6-rc0 van zijn tool voor modelservering uitgebracht. De update voorkomt dat er achterblijvende Windows-processen blijven draaien, voegt twee nieuwe GGUF-tensor-/bestandstypen toe (q2_0) en maakt de Clef-interface beschikbaar in Ollama’s cloud. Ook worden identificatiecodes voor vraagtoetsen toegevoegd aan de modus –ask. De wijzigingen staan in de release notes op GitHub.
Waarom het ertoe doet
Ontwikkelaars kunnen Ollama nu op Windows gebruiken zonder achterblijvende processen en nieuwere, kleinere tensors inzetten voor snellere inferentie.