El equipo de ggml-org publicó llama.cpp b12367 con un cambio para CUDA: añade SASS de SM103 —código máquina para GPU— a las compilaciones no nativas. Esto puede permitir que esas compilaciones ejecuten código preparado para hardware SM103 sin haberse compilado específicamente para ese objetivo.
La versión también incluye compilaciones descargables para macOS, iOS y varios sistemas Linux. Las notas no indican qué GPU usan SM103 ni ofrecen resultados de rendimiento.
Por qué importa
Quienes ejecuten llama.cpp en hardware de Nvidia compatible con SM103 quizá puedan usar compilaciones de CUDA no nativas, pero las notas no especifican qué modelos de GPU están afectados ni miden cambios de velocidad.
