O ggml-org lançou o llama.cpp b11895 com uma correção para o estouro de offsets em saídas de matrizes grandes no Metal. A mudança também amplia os offsets de lote e os índices de tokens usados pela operação MUL_MAT_ID.
A página da versão oferece downloads para Macs com Apple Silicon e Intel, iOS e várias compilações para Ubuntu com CPU e Vulkan.
Por que importa
Desenvolvedores que executam o llama.cpp no Metal podem evitar estouros de offsets em saídas de matrizes grandes, embora as notas da versão não informem com que frequência o problema ocorria nem quais cargas de trabalho o provocam.
