Fireworks AI hat bekannt gegeben, dass Muse Spark Open, Metas Open-Weights-Modell, ab sofort über die ausschließlich in den USA verfügbare Serverless-API des Unternehmens genutzt werden kann. Das Modell basiert auf einer Mixture-of-Experts-Architektur mit insgesamt 816 Milliarden Parametern, von denen pro Token nur 42 Milliarden aktiv sind. Es unterstützt ein Kontextfenster von bis zu 1 Million Tokens. Fireworks speichert standardmäßig keine Daten und bietet die Möglichkeit, von Serverless auf reservierte Durchsatzkapazität umzusteigen sowie das Modell per LoRA feinzujustieren.
Warum es wichtig ist
Unternehmen in regulierten Branchen können nun ein leistungsstarkes, in den USA trainiertes Modell lokal ohne Datenspeicherung betreiben und so Compliance-Risiken und Kosten senken.
