Oossa

llama.cpp rättar hanteringen av Conv2D i SYCL

Version b11815 rättar felaktiga SYCL-resultat för Conv2D med vissa tensorlayouter och rapporterar att alla 2 006 backendtester är godkända.

NotisAv Publicerad av Oossa: 1 min läsning

I version b11815 av llama.cpp rättas hanteringen av tvådimensionell faltning (Conv2D) i SYCL-backenden när indata och kärnor har kanalordnad layout. Tidigare kunde operationen läsa icke-kontinuerliga indata med fel elementförskjutningar och därmed ge felaktiga resultat utan att signalera det.

Ändringen begränsar operationen till kontinuerliga indata och kärnor, i enlighet med CUDA-backendens krav, och lägger till en kontroll av att indata är kontinuerliga. Projektet uppger att antalet misslyckade SYCL Conv2D-tester har minskat från 16 till noll; 2 006 av 2 006 tester godkändes.

Varför det spelar roll

För utvecklare som använder llama.cpp:s SYCL-backend åtgärdar uppdateringen ett fall där Conv2D kunde ge felaktiga resultat utan att det märktes. Versionsinformationen beskriver dock inte vilka program eller vilken hårdvara som kan beröras av den layouten.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.