Oossa

llama.cpp, Prism Bonsai 2 27B modeline destek ekledi

Açık kaynaklı llama.cpp kütüphanesinin (v b11556) yeni sürümü, 27 milyar parametreli Prism Bonsai 2 modelini macOS ve Linux’ta çalıştırabiliyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org, llama.cpp’nin b11556 sürümünü yayımladı. Güncelleme, Prism Bonsai 2 27B modeli için çalışma zamanı desteği ekliyor. Ayrıca Hadamard tensörlerinin işlenişini düzeltiyor ve dönüştürme kodunu sadeleştiriyor. macOS (Apple Silicon ve Intel) ile Ubuntu (x64, arm64, s390x) için önceden derlenmiş ikili dosyalar sunuluyor.

Neden önemli

Geliştiriciler artık 27 milyar parametreli büyük Prism Bonsai 2 modelini kendi bilgisayarlarında yerel olarak çalıştırabiliyor.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.