Oossa

llama.cpp b11471 får nya token och färdigbyggda binärer

Den öppna källkodsbiblioteket llama.cpp släpps i version b11471 med fler ordförrådstoken och färdigbyggda binärer för macOS, iOS och Linux.

NotisAv Publicerad av Oossa: 1 min läsning

ggml-org-teamet har släppt llama.cpp version b11471. Uppdateringen lägger till en ny uppsättning med 30090 plamo fim-token i modellens ordförråd. Den innehåller också färdigbyggda binärer för macOS med Apple Silicon, macOS med Intel, iOS och flera Linux-varianter (CPU, Vulkan, CUDA 12.8). Användare kan ladda ner rätt paket från versionssidan på GitHub.

Varför det spelar roll

Utvecklare kan nu köra llama.cpp lokalt på fler enheter utan att bygga från källkod, vilket sparar tid och förenklar testningen.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.