Fireworks AI heeft aangekondigd dat Muse Spark Open, het model met open gewichten van Meta, vanaf vandaag beschikbaar is via de serverless API die het uitsluitend in de VS aanbiedt. Het model gebruikt een mixture-of-experts-architectuur met in totaal 816 miljard parameters, waarvan er per token slechts 42 miljard actief zijn. Het kan een contextvenster van maximaal 1 miljoen tokens verwerken. Fireworks bewaart standaard geen gegevens en biedt de mogelijkheid om over te stappen van serverless naar gereserveerde capaciteit, plus LoRA-finetuning.
Waarom het ertoe doet
Bedrijven in gereguleerde sectoren kunnen nu een goed presterend, in de VS getraind model lokaal gebruiken zonder dat gegevens worden bewaard. Dat verlaagt de compliance-risico’s en de kosten.
