Het llama.cpp-project heeft versie b12027 uitgebracht, waarmee tensorverdeling voor LFM3-modellen mogelijk wordt. De release bevat ook kant-en-klare downloads voor onder meer macOS, iOS en verschillende Ubuntu-configuraties.
In de release notes staat niet welke LFM3-modellen of hardwareconfiguraties door deze wijziging worden ondersteund.
Waarom het ertoe doet
Ontwikkelaars die LFM3 met llama.cpp gebruiken, kunnen tensorverdeling uitproberen. De release notes vermelden echter niet welke configuraties worden ondersteund of welke voordelen dit naar verwachting oplevert.
