ggml‑org hat llama.cpp in Version b11778 veröffentlicht. Das Update ergänzt die Unterstützung für Nemotron‑3(.5)‑Embed, ein neues Text-Embedding-Modell. Außerdem stehen vorkompilierte Binärdateien für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS und mehrere Ubuntu-Varianten bereit – darunter GPU-Builds für Vulkan und CUDA‑12.8. Die Dateien lassen sich über direkte Download-Links auf der GitHub-Release-Seite herunterladen.
Warum es wichtig ist
Entwickler können Nemotron‑3(.5)‑Embed jetzt lokal auf einer Vielzahl von Geräten ausführen, ohne einen Cloud-Dienst zu benötigen.
