El equipo de ggml-org publicó llama.cpp b11849, que añade compatibilidad con la operación SGN en Hexagon, la arquitectura de procesadores de Qualcomm. Según las notas de la versión, el cambio incluye compatibilidad con precisión media y una optimización que utiliza el bit de signo.
La versión también ofrece compilaciones para macOS, iOS y Ubuntu, incluidas versiones para CPU x64, arm64 y s390x. Las notas no indican qué dispositivos o cargas de trabajo podrían experimentar una mejora práctica de velocidad o rendimiento.
Por qué importa
Los desarrolladores que usan llama.cpp con hardware Hexagon pueden aprovechar la nueva operación SGN, pero las notas de la versión no cuantifican su efecto en el rendimiento de los modelos.
