Oossa

llama.cpp b12027 lägger till tensoruppdelning för LFM3

Den nya versionen av llama.cpp stöder tensoruppdelning för LFM3 och innehåller nedladdningsbara versioner för flera dator- och serverplattformar.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet llama.cpp har släppt version b12027, som lägger till stöd för tensoruppdelning i LFM3-modeller. Versionen innehåller också färdigbyggda filer för bland annat macOS, iOS och flera Ubuntu-konfigurationer.

I versionsinformationen framgår det inte vilka LFM3-modeller eller hårdvarukonfigurationer som stöds av ändringen.

Varför det spelar roll

Utvecklare som kör LFM3 med llama.cpp kan testa tensoruppdelning, men versionsinformationen anger inte vilka konfigurationer som stöds eller vilka fördelar de kan förvänta sig.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.