El equipo de ggml-org lanzó la versión b12124 de llama.cpp, que incorpora un cambio en la compatibilidad con OpenCL: ahora puede procesar operaciones sigmoid con datos no contiguos. OpenCL es un marco para ejecutar tareas de cómputo en distintos procesadores.
La página de la versión también incluye descargas precompiladas para macOS, iOS y Ubuntu, con opciones para CPU y Vulkan. No menciona cambios más amplios en el rendimiento ni indica qué usuarios notarán una diferencia.
Por qué importa
Los desarrolladores que usan llama.cpp con OpenCL podrán acceder a la operación recién incorporada, pero las notas de la versión no indican si mejora la velocidad ni si afecta a los usuarios en el uso cotidiano.
