El proyecto llama.cpp ha publicado la versión preliminar b12173, que añade compatibilidad con operaciones repeat en OpenCL para los tipos de datos f16, i32, i16 y bf16. OpenCL permite ejecutar cargas de trabajo de computación en procesadores y hardware gráfico compatibles.
La página de la versión incluye compilaciones para plataformas como Linux, Windows, macOS, iOS y Android, con varias opciones de hardware y aceleradores. No especifica qué dispositivos o cargas de trabajo se benefician más del cambio.
Por qué importa
Los desarrolladores que usan llama.cpp con OpenCL podrían ejecutar operaciones repeat con estos cuatro tipos de datos, aunque las notas de la versión no indican en qué dispositivos se obtiene compatibilidad en la práctica.
