ggml-org, llama.cpp’nin b11556 sürümünü yayımladı. Güncelleme, Prism Bonsai 2 27B modeli için çalışma zamanı desteği ekliyor. Ayrıca Hadamard tensörlerinin işlenişini düzeltiyor ve dönüştürme kodunu sadeleştiriyor. macOS (Apple Silicon ve Intel) ile Ubuntu (x64, arm64, s390x) için önceden derlenmiş ikili dosyalar sunuluyor.
Neden önemli
Geliştiriciler artık 27 milyar parametreli büyük Prism Bonsai 2 modelini kendi bilgisayarlarında yerel olarak çalıştırabiliyor.