De release b11815 van het llama.cpp-project verhelpt een probleem met de manier waarop de SYCL-backend omgaat met tweedimensionale convolutie (Conv2D) bij invoer en kernels met een kanaalvolgorde. Voorheen kon de bewerking niet-aaneengesloten invoer uitlezen met onjuiste elementoffsets, waardoor stilzwijgend onjuiste resultaten werden teruggegeven.
De wijziging beperkt de bewerking tot aaneengesloten invoer en kernels, in lijn met de afspraken voor de CUDA-backend, en voegt een controle op aaneengesloten invoer toe. Volgens het project is het aantal mislukte SYCL Conv2D-tests gedaald van 16 naar nul; alle 2.006 tests slaagden.
Waarom het ertoe doet
Voor ontwikkelaars die de SYCL-backend van llama.cpp gebruiken, verhelpt dit een situatie waarin Conv2D stilzwijgend onjuiste resultaten kon opleveren. De releasenotes vermelden echter niet bij welke toepassingen of hardwaregebruikers die indeling kan voorkomen.
