llama.cpp projesi, b11404 sürümünü 5 Ekim 2026’da yayımladı. Sürüm, Apple GPU’ları için aynı anda birden fazla satırı (2–16 satır) çarpan Metal çekirdekleri ekliyor. Bu çekirdekler her ağırlığı bir kez kuantizasyondan çıkarıp işi SIMD grupları arasında paylaştırıyor; böylece M3 Ultra’da spekülatif çözümleme, önceki mat-vektör yaklaşımına kıyasla hızlanıyor. Yeni çekirdekler yalnızca Apple7 GPU ailesini destekleyen cihazlarda ve satır sayısı belirli bir eşiğe ulaştığında kullanılıyor (örneğin F32 için 6 satır). Değişiklik ayrıca füzyon mantığını iyileştiriyor ve sorunlara yol açan toplu kopyalama füzyonunu kaldırıyor.
Neden önemli
llama.cpp kullanan Apple Silicon kullanıcıları, özellikle M3 Ultra cihazlarda spekülatif çözümlemeyle metin üretirken daha düşük gecikme görecek.
