El equipo de ggml-org publicó la versión b11795 de llama.cpp. La actualización modifica el servidor para que los parámetros de muestreo se puedan enviar sin cambios en el campo extra_params del endpoint /v1/messages. También añade binarios precompilados para macOS (Apple Silicon e Intel), iOS y varias versiones para Ubuntu con CPU y Vulkan.
Por qué importa
Ahora los desarrolladores pueden personalizar los ajustes de generación mediante la API sin escribir código adicional, lo que agiliza la integración de llama.cpp en aplicaciones.
