Oossa

llama.cpp b11795, sunucu parametrelerini aktarıyor

Açık kaynaklı llama.cpp kütüphanesi, ek örnekleme parametrelerini /v1/messages API’si üzerinden aktarmaya başladı. macOS, Linux ve iOS için yeni ikili derlemeler de sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi llama.cpp’nin b11795 sürümünü yayımladı. Güncellemeyle sunucu, örnekleme parametrelerinin /v1/messages uç noktasındaki extra_params alanında değiştirilmeden iletilmesini sağlıyor. Ayrıca macOS (Apple Silicon ve Intel), iOS ve Ubuntu için CPU ve Vulkan destekli çeşitli önceden derlenmiş ikili dosyalar ekleniyor.

Neden önemli

Geliştiriciler artık ek kod yazmadan API üzerinden üretim ayarlarını özelleştirebilir; böylece llama.cpp’yi uygulamalara entegre etmek kolaylaşır.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.