Oossa

llama.cpp, OpenCL derinlikli conv2d desteği ekledi

Açık kaynaklı llama.cpp kütüphanesinin b11827 sürümü, yeni OpenCL derinlikli evrişim çekirdekleri ve macOS, iOS ile Linux için ikili dosyalarla yayımlandı.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi, llama.cpp’nin b11827 sürümünü yayımladı. Güncelleme, Qualcomm Adreno GPU’lar için destek de içeren OpenCL derinlikli conv2d çekirdekleri ekliyor. macOS Apple Silicon, macOS Intel, iOS ve çeşitli Ubuntu platformları (CPU ve Vulkan) için önceden derlenmiş ikili dosyalar artık mevcut. Değişikliklere OpenCode ve Qualcomm mühendisi Li He katkıda bulundu.

Neden önemli

Geliştiriciler artık llama.cpp modellerini OpenCL GPU’lu cihazlarda daha hızlı çalıştırabilir; böylece düşük güç tüketimli donanım seçenekleri genişliyor.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.