Ollama har publicerat version 0.40.6-rc0 av sitt verktyg för att köra modeller. Uppdateringen förhindrar att överblivna Windows-processer fortsätter att köras, lägger till två nya GGUF-tensor-/filtyper (q2_0) och aktiverar gränssnittet Clef i Ollamas molntjänst. Den inför också identifierare för frågenycklar i läget –ask. Ändringarna finns i versionsinformationen på GitHub.
Varför det spelar roll
Utvecklare kan nu köra Ollama i Windows utan kvarlämnade processer och använda nyare, mindre tensorer för snabbare inferens.
