La biblioteca de código abierto llama.cpp ahora asigna cuatro columnas de estado GDN a cada warp de CUDA para mejorar el rendimiento de la GPU.
BrevePor OossaPublicado por Oossa: 1 min de lectura
El equipo de ggml-org publicó la versión b11494 de llama.cpp. La actualización modifica el backend de CUDA para asignar cuatro columnas de estado GDN por warp, en lugar de dos. Este ajuste ahora viene activado de forma predeterminada. Se pueden descargar binarios para macOS (Apple Silicon e Intel), iOS y varias versiones de Ubuntu.
Los desarrolladores que usan llama.cpp en GPU NVIDIA pueden esperar una inferencia más rápida sin cambiar su código.
Modelos
El nuevo sistema de revisión de la empresa, basado en tres agentes de Claude, detectó el 73,43% de los errores en afirmaciones centrales, muy por encima del récord anterior, del 14,81%.
Modelos
El nuevo modelo de un billón de parámetros de Mistral obtiene 38 puntos en un índice independiente, pero cuesta más por tarea que otros modelos abiertos.
Modelos
OpenAI informó sobre dos campañas de influencia que usaron contenido generado por IA para introducir noticias falsas en medios reales y bloqueó las cuentas involucradas.
Oossa · Boletín
La semana en IA, explicada
Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.
