Oossa

llama.cpp, macOS ve Linux için b11465 sürümünü yayımladı

Açık kaynaklı LLM çıkarım kütüphanesi Apple Silicon ve Intel Mac’ler ile farklı Ubuntu yapılandırmaları için yeni derlemeler sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi llama.cpp’nin b11465 sürümünü yayımladı. Sürümde macOS Apple Silicon (arm64), macOS Intel (x64), iOS ve çeşitli Ubuntu seçenekleri (CPU, Vulkan ve CUDA 12.8) için önceden derlenmiş ikili dosyalar bulunuyor. Ayrıca tekrarlayan geri alma testleri sırasında çapayı korumaya yönelik bir test değişikliği de eklendi. Tüm dosyalar GitHub sürüm sayfasından indirilebilir.

Neden önemli

Geliştiriciler artık kodu kendileri derlemek zorunda kalmadan daha fazla donanımda LLM’leri yerel olarak çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.