Açık kaynaklı Llama.cpp kütüphanesi artık CUDA warp başına dört GDN durum sütunu kullanarak GPU performansını artırıyor.
Kısa haberYazan: OossaOossa yayın tarihi: 1 dk okuma
ggml-org ekibi llama.cpp’nin b11494 sürümünü yayımladı. Güncelleme, CUDA arka ucunda warp başına atanan GDN durum sütunu sayısını ikiden dörde çıkarıyor. Bu ayar artık varsayılan. macOS (Apple Silicon ve Intel), iOS ve çeşitli Ubuntu sürümleri için ikili dosyalar indirilebilir.
llama.cpp’yi NVIDIA GPU’larda kullanan geliştiriciler, kodlarında değişiklik yapmadan daha hızlı çıkarım elde edebilir.
Modeller
Şirketin Claude tabanlı üç ajanlı yeni inceleme sistemi, temel iddialardaki hataların %73,43’ünü buldu. Önceki en iyi sonuç %14,81’di.
Modeller
Mistral’ın yeni, bir trilyon parametreli modeli bağımsız endekste 38 puan aldı; ancak görev başına maliyeti rakip açık modellere göre daha yüksek.
Modeller
OpenAI, yapay zekâyla üretilen içerikleri gerçek haber mecralarına sahte haberler yerleştirmek için kullanan iki nüfuz operasyonunu duyurdu ve bu operasyonlarla bağlantılı hesapları engelledi.
Oossa · Bülten
Yapay zekâda hafta, anlaşılır dille
Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.
