ggml‑org ha rilasciato la versione b11778 di llama.cpp. L’aggiornamento aggiunge il supporto al modello Nemotron‑3(.5)‑Embed, un nuovo modello per la generazione di embedding testuali. Include anche binari precompilati per macOS Apple Silicon, macOS Intel, iOS e diverse varianti di Ubuntu, comprese le build GPU per Vulkan e CUDA‑12.8. I file sono disponibili tramite link per il download diretto nella pagina della release su GitHub.
Perché conta
Gli sviluppatori possono ora eseguire Nemotron‑3(.5)‑Embed localmente su un’ampia gamma di dispositivi, senza dover ricorrere a un servizio cloud.
