ggml-org har släppt llama.cpp b12029, en ny version av programvaran för att köra språkmodeller. I versionsinformationen nämns en ändring: en rättning av ordningen på InternVL:s CLS-token, en specialtoken som används vid bearbetning av multimodala indata. Det finns nedladdningar för macOS, iOS och flera Linux-konfigurationer, däribland versioner för CPU och Vulkan. Versionsinformationen förklarar inte vilka användare eller uppgifter som påverkas av rättningen.
Varför det spelar roll
Den som kör InternVL via llama.cpp kan ha nytta av rättningen av tokenordningen, men versionsinformationen anger inte vilken praktisk effekt den har eller hur omfattande den är.
