Ollama hat Version 0.40.6-rc0 seines Tools zum Bereitstellen von Modellen veröffentlicht. Das Update verhindert verwaiste Windows-Runner, ergänzt zwei neue GGUF-Tensor-/Dateitypen (q2_0) und aktiviert die Clef-Oberfläche in Ollamas Cloud. Außerdem werden im –ask-Modus Kennungen für Frage-Keys eingeführt. Die Änderungen sind in den GitHub-Release-Notes aufgeführt.
Warum es wichtig ist
Entwickler können Ollama jetzt unter Windows ohne verwaiste Prozesse ausführen und neuere, kleinere Tensoren für schnellere Inferenz verwenden.