Il team ggml-org ha rilasciato llama.cpp versione b12124, introducendo una modifica al supporto OpenCL: ora il programma può gestire operazioni sigmoid su dati non contigui. OpenCL è un framework che permette di eseguire attività di calcolo su processori diversi.
La pagina della release elenca anche build precompilate scaricabili per macOS, iOS e Ubuntu, comprese quelle per CPU e Vulkan. Non menziona cambiamenti più ampi nelle prestazioni né indica quali utenti noteranno una differenza.
Perché conta
Gli sviluppatori che usano llama.cpp con OpenCL possono sfruttare la nuova operazione supportata, ma le note di rilascio non indicano se migliori la velocità o abbia effetti sugli utenti comuni.