Fireworks AI meddelade att Muse Spark Open, Metas modell med öppna vikter, finns tillgänglig i dag via företagets serverlösa API som bara är tillgängligt i USA. Modellen bygger på en mixture-of-experts-arkitektur med totalt 816 miljarder parametrar, varav bara 42 miljarder är aktiva per token, och hanterar kontextfönster på upp till 1 miljon token. Fireworks kör modellen med noll datalagring som standard och erbjuder möjlighet att gå från serverlös drift till reserverad kapacitet, samt finjustering med LoRA.
Varför det spelar roll
Företag inom reglerade branscher kan nu köra en högpresterande, USA-tränad modell lokalt utan att data lagras, vilket minskar risken för bristande regelefterlevnad och sänker kostnaderna.
