Oossa

llama.cpp b11555: CPU düzeltmesi ve yeni ikili dosyalar

Açık kaynaklı Llama çıkarım kütüphanesinin b11555 sürümü, F16C desteği atlanan AVX2 işlemcilerdeki sorunu gideriyor ve macOS, iOS ile Linux için yeni derlemeler sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org, llama.cpp’nin b11555 sürümünü yayımladı. Güncelleme, F16C komut seti desteklendiği hâlde AVX2 işlemcilerin bu komut setini kullanmamasına yol açan hatayı gideriyor. Sürüm ayrıca Apple Silicon ve Intel işlemcili Mac’ler ile iOS için yeni ikili paketler sunuyor. Vulkan ve CUDA 12.8 desteği içeren çeşitli Ubuntu yapılandırmaları için de paketler yayımlandı.

Neden önemli

Uyumlu işlemcilerde Llama modellerini çalıştıran geliştiriciler, elle yama uygulamadan daha hızlı çıkarım elde edecek.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.