Oossa

llama.cpp, Apple ve Linux için Q8_0 ve i8mm çekirdekleri ekledi

Açık kaynaklı LLaMA çıkarım kitaplığı, ARM SVE ve i8mm için daha hızlı kuantize çekirdeklerin yanı sıra macOS, iOS ve Ubuntu için yeni ikili dosyalar da sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

llama.cpp projesi, b11811 sürümünü 22 Ekim 2026'da yayımladı. Güncelleme, ARM CPU'larda kuantize modellerin çıkarımını hızlandıran Q8_0 SVE dot-product GEMV ve SVE i8mm GEMM çekirdeklerini ekliyor. macOS Apple Silicon, Intel ve iOS'un yanı sıra çeşitli Ubuntu sürümleri (CPU, Vulkan, CUDA 12.8) için önceden derlenmiş ikili dosyalar artık indirilebiliyor.

Neden önemli

Geliştiriciler, özel kod yazmadan yeni ARM donanımlarında ve Linux GPU'larında LLaMA modellerini daha hızlı çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.