Oossa

llama.cpp b11784, Sycl iq3 çökme sorununu gideriyor

Açık kaynaklı LLM çalıştırıcısı llama.cpp, Sycl iq3 arka ucundaki çökme sorununu gideren ve macOS, iOS, Linux ve CUDA için yeni derlemeler sunan b11784 sürümüne güncellendi.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi, llama.cpp’nin b11784 sürümünü yayımladı. Sürüm, Sycl iq3 arka ucundaki bir çökme sorununu gideriyor. Apple Silicon ve Intel Mac’ler, iOS ve Vulkan ile CUDA 12.8 dâhil çeşitli Ubuntu yapılandırmaları için önceden derlenmiş ikili dosyalar sunuyor. Bu dosyalar GitHub sürüm sayfasından indirilebiliyor.

Neden önemli

Geliştiriciler artık llama.cpp’yi daha fazla donanımda çökme sorunu yaşamadan çalıştırabilir; böylece yerel LLM çıkarımına erişim genişler.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.