Liquid AI, Hugging Face’e d1-3B adlı yeni bir model ekledi. Model; metin, JSON veya görsellerden oluşabilen bir durumla ilgili, belirli türde yanıtlar isteyen soruları token üretmeden tek bir ileri geçişte yanıtlıyor. Kullanıcılar modeli llama.cpp ile çalıştırabiliyor ve /v1/systemone HTTP uç noktası üzerinden sorgulayabiliyor. Örnek çağrılar, modelin fatura iadesi talebini nasıl ele aldığını ve bir fotoğraftaki kedileri nasıl belirlediğini gösteriyor.
Neden önemli
Geliştiriciler, büyük dil modellerinin metin üretimine ihtiyaç duymadan destek botlarına veya görsel tabanlı iş akışlarına hızlı ve tokensız soru-cevap özelliği entegre edebilir.
