Oossa

llama.cpp ya es compatible con Prism Bonsai 2 27B

La biblioteca de código abierto llama.cpp (v b11556) ya ejecuta el modelo Prism Bonsai 2, de 27.000 millones de parámetros, en macOS y Linux.

BrevePor Publicado por Oossa: 1 min de lectura

ggml-org lanzó la versión b11556 de llama.cpp. La actualización añade compatibilidad en tiempo de ejecución con el modelo Prism Bonsai 2 27B. También corrige el manejo de tensores Hadamard y simplifica el código de conversión. Hay binarios precompilados para macOS (Apple Silicon e Intel) y Ubuntu (x64, arm64 y s390x).

Por qué importa

Los desarrolladores ya pueden ejecutar localmente en sus propios equipos el modelo Prism Bonsai 2, de 27.000 millones de parámetros.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.