ggml-org lanzó la versión b11556 de llama.cpp. La actualización añade compatibilidad en tiempo de ejecución con el modelo Prism Bonsai 2 27B. También corrige el manejo de tensores Hadamard y simplifica el código de conversión. Hay binarios precompilados para macOS (Apple Silicon e Intel) y Ubuntu (x64, arm64 y s390x).
Por qué importa
Los desarrolladores ya pueden ejecutar localmente en sus propios equipos el modelo Prism Bonsai 2, de 27.000 millones de parámetros.