Fireworks AI, Meta’nın açık ağırlıklı modeli Muse Spark Open’ın bugün yalnızca ABD’deki sunucusuz API’sinde kullanıma sunulduğunu duyurdu. Uzman karışımı mimari kullanan model, toplam 816 milyar parametreye sahip; ancak token başına yalnızca 42 milyar parametresi etkin. Ayrıca 1 milyon tokene kadar bağlam penceresini destekliyor. Fireworks, modeli varsayılan olarak sıfır veri saklama politikasıyla çalıştırıyor; sunucusuz kullanımdan ayrılmış kapasiteye geçiş seçeneğinin yanı sıra LoRA ile ince ayar olanağı da sunuyor.
Neden önemli
Düzenlemeye tabi sektörlerdeki şirketler, yüksek performanslı ve ABD’de eğitilmiş bir modeli verileri saklanmadan yerel olarak çalıştırabilir; böylece uyum risklerini ve maliyetleri azaltabilir.
