ggml-org lanzó llama.cpp b11895 con una corrección para el desbordamiento de offsets en salidas de matrices grandes en Metal. El cambio también amplía los offsets de lote y los índices de tokens que usa la operación MUL_MAT_ID.
La página de la versión ofrece descargas para Mac con Apple Silicon e Intel, iOS y varias compilaciones para Ubuntu con CPU y Vulkan.
Por qué importa
Los desarrolladores que ejecutan llama.cpp en Metal podrían evitar desbordamientos de offsets en salidas de matrices grandes, aunque las notas de la versión no indican con qué frecuencia se producía el problema ni qué cargas de trabajo lo desencadenan.
