ggml-org ha rilasciato llama.cpp b12029, una nuova versione del suo software per eseguire modelli linguistici. Le note di rilascio riportano una sola modifica: la correzione dell’ordine del token CLS di InternVL, un token speciale usato nell’elaborazione di input multimodali. Sono disponibili download per macOS, iOS e diverse configurazioni Linux, incluse le build per CPU e Vulkan. Le note di rilascio non specificano quali utenti o attività siano interessati dalla correzione.
Perché conta
Chi esegue InternVL tramite llama.cpp potrebbe beneficiare della correzione dell’ordine dei token, ma le note di rilascio non ne specificano l’effetto pratico né l’ambito.