Oossa

llama.cpp b12419 cambia cómo el servidor gestiona las cadenas de parada vacías

La versión indica al servidor de llama.cpp que ignore las cadenas de parada vacías. También ofrece compilaciones descargables para varios sistemas operativos y tipos de procesador.

BrevePor Publicado por Oossa: 1 min de lectura

El equipo de ggml-org publicó llama.cpp b12419 con un cambio en el servidor: ahora ignora las cadenas de parada vacías. Estas cadenas son secuencias de texto que indican al modelo cuándo debe terminar una respuesta.

La página de la versión incluye compilaciones para macOS, iOS y Linux, entre ellas versiones para CPU y Vulkan para algunos sistemas Linux.

Por qué importa

Quienes ejecuten el servidor de llama.cpp pueden proporcionar cadenas de parada vacías sin que el servidor las trate como secuencias de parada; las notas de la versión no explican otros cambios de comportamiento.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.