ggml-org lanzó llama.cpp v1.0.0, la primera versión 1.0 del proyecto. El registro de cambios recoge las novedades desde v0.9.0, entre ellas la compatibilidad con nuevos backends de hardware y mejoras de rendimiento, además de correcciones de seguridad para el servidor y actualizaciones de la interfaz de chat.
La versión incorpora compatibilidad con FP8 para la caché de clave-valor, una opción para almacenar el contexto de las conversaciones, y añade al servidor un endpoint de generación de voz compatible con OpenAI. La página de la versión indica que habría más información disponible a las 3 p. m. CET, pero no explica en detalle qué implica el hito de la versión 1.0.
Por qué importa
Quienes usan el servidor de llama.cpp pueden aprovechar el nuevo endpoint de generación de voz, aunque las notas de la versión no especifican qué modelos son compatibles ni cómo configurarlo.
