llama.cpp projesinin b11815 sürümü, SYCL arka ucunun kanal sıralı girdiler ve çekirdeklerle iki boyutlu evrişimi (Conv2D) işleme biçimini düzeltiyor. Daha önce işlem, bellekte bitişik olmayan girdileri yanlış öğe ofsetleriyle okuyabiliyor ve sessizce hatalı sonuçlar döndürebiliyordu.
Değişiklik, CUDA arka ucundaki sözleşmeyle uyumlu olacak şekilde işlemi bitişik girdiler ve çekirdeklerle sınırlandırıyor ve girdi bitişikliğini denetleyen bir kontrol ekliyor. Projeye göre SYCL Conv2D testlerindeki 16 başarısızlık sıfıra indi; 2.006 testin 2.006’sı da geçti.
Neden önemli
llama.cpp’nin SYCL arka ucunu kullanan geliştiriciler için bu güncelleme, Conv2D’nin bazı durumlarda sessizce yanlış sonuçlar üretmesi sorununu gideriyor. Ancak sürüm notları, hangi uygulama veya donanımlarda bu tensör düzeniyle karşılaşılabileceğini açıklamıyor.
