El equipo de ggml-org publicó la versión b12074 de llama.cpp, que introduce cambios en el estado de convolución delta-net. La actualización convierte el índice de la ranura de reversión en una entrada I32 que se completa en el host, en vez de generarlo en el dispositivo mediante operaciones arange y argsort.
Las notas de la versión indican que el índice es constante para cada forma del grafo y que el cambio elimina la necesidad de que el backend de metadatos replique una división para arange. No informan de mejoras medidas en velocidad ni en memoria.
Por qué importa
Quienes ejecuten modelos de llama.cpp que usen delta-net podrían notar un cambio en un cálculo interno, pero las notas de la versión no permiten determinar si mejora el rendimiento en la práctica.
