ggml‑org lanzó la versión b11778 de llama.cpp. Esta versión añade compatibilidad con Nemotron‑3(.5)‑Embed, un nuevo modelo de generación de embeddings de texto. También incluye binarios precompilados para macOS con Apple Silicon, macOS con Intel, iOS y varias versiones de Ubuntu, incluidas compilaciones para GPU con Vulkan y CUDA‑12.8. Los archivos están disponibles mediante enlaces de descarga directa en la página de lanzamientos de GitHub.
Por qué importa
Los desarrolladores ya pueden ejecutar Nemotron‑3(.5)‑Embed de forma local en una amplia variedad de dispositivos, sin necesidad de recurrir a un servicio en la nube.