Oossa

llama.cpp laddar vokabulärer snabbare i ny förhandsversion

Open source-biblioteket llama.cpp släppte en förhandsversion den 21 okt 2026 som snabbar upp inläsningen av modellernas vokabulärer.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet llama.cpp publicerade förhandsversionen b11793 den 21 okt 2026. Uppdateringen förbättrar bibliotekets inläsning av vokabulärer, vilket gör att stora språkmodeller startar snabbare. Den innehåller också några mindre felkorrigeringar och reserverar utrymme vid konvertering av nyckel/värde-par i GGUF. Bygget stöder många plattformar, från Mac med Apple Silicon till Windows med CUDA 13.4. Ändringarna är signerade med en verifierad GPG-nyckel från GitHub.

Varför det spelar roll

Utvecklare kan köra Llama-modeller snabbare, särskilt på enheter där laddningstiden har varit en flaskhals.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.