Il progetto llama.cpp ha pubblicato la pre-release b12173, che aggiunge il supporto OpenCL alle operazioni repeat con i tipi di dato f16, i32, i16 e bf16. OpenCL consente di eseguire carichi di lavoro di calcolo su processori e hardware grafico compatibili.
La pagina della release elenca build per piattaforme tra cui Linux, Windows, macOS, iOS e Android, con diverse opzioni hardware e di accelerazione. Non specifica quali dispositivi o carichi di lavoro traggano maggior beneficio dalla modifica.
Perché conta
Gli sviluppatori che usano llama.cpp con OpenCL potrebbero riuscire a eseguire operazioni repeat su questi quattro tipi di dato, anche se le note di rilascio non precisano quali dispositivi siano effettivamente supportati.
