A equipe ggml-org lançou o llama.cpp b12367 com uma mudança no CUDA: a inclusão de SASS para SM103, ou código de máquina da GPU, em builds não nativos. Isso pode permitir que esses builds executem código preparado para hardware SM103 sem terem sido compilados especificamente para esse alvo.
A versão também inclui builds para download para macOS, iOS e vários sistemas Linux. As notas não identificam quais GPUs usam SM103 nem apresentam resultados de desempenho.
Por que importa
Quem usa o llama.cpp em hardware Nvidia com alvo SM103 talvez possa recorrer a builds CUDA não nativos, mas as notas da versão não especificam os modelos de GPU afetados nem medem mudanças de velocidade.
