Oossa

llama.cpp’ye H2O‑Lightning‑4B karar modeli desteği geldi

Açık kaynaklı çıkarım kütüphanesi artık karar türü LoRA içeren Qwen3.5‑4B tabanlı H2O‑Lightning‑4B modelini destekliyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org/llama.cpp projesi, b11773 sürümünü 2026‑10‑21 tarihinde yayımladı. Güncelleme, bir karar LoRA’sının birleştirildiği Qwen3.5‑4B modeli olan H2O‑Lightning‑4B adlı yeni bir model türü ekliyor. Model, yanıtlarını başında bir boşluk bulunan " A" biçiminde veriyor ve 255’e kadar etiketi işleyebiliyor. Dönüştürücü artık karar meta verilerini yazıyor ve eşleşme olup olmadığını serve_config.json dosyasında kontrol ediyor. Değişiklik, H2O AI çalışanlarının ortak katkısıyla hazırlandı ve çeşitli CPU ve GPU platformlarında test edildi.

Neden önemli

Geliştiriciler artık karar türündeki yapay zekâ modellerini çok çeşitli donanımlarda doğrudan llama.cpp ile çalıştırabiliyor.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.