Oossa

Ollama veröffentlicht Version 0.40.6-rc0

Der Open-Source-Modellrunner unterstützt neue Tensor-Typen und den Start in der Cloud und behebt ein Problem mit dem Windows-Runner.

KurzmeldungVon Von Oossa veröffentlicht: Zuletzt aktualisiert: 1 Min. Lesezeit

Ollama hat Version 0.40.6-rc0 seines Tools zum Bereitstellen von Modellen veröffentlicht. Das Update verhindert verwaiste Windows-Runner, ergänzt zwei neue GGUF-Tensor-/Dateitypen (q2_0) und aktiviert die Clef-Oberfläche in Ollamas Cloud. Außerdem werden im –ask-Modus Kennungen für Frage-Keys eingeführt. Die Änderungen sind in den GitHub-Release-Notes aufgeführt.

Warum es wichtig ist

Entwickler können Ollama jetzt unter Windows ohne verwaiste Prozesse ausführen und neuere, kleinere Tensoren für schnellere Inferenz verwenden.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.