Fireworks AI a annoncé que Muse Spark Open, le modèle à poids ouverts de Meta, est disponible dès aujourd’hui sur son API serverless réservée aux États-Unis. Ce modèle repose sur une architecture à mélange d’experts et compte 816 milliards de paramètres au total, dont seulement 42 milliards sont actifs par jeton. Il peut traiter une fenêtre de contexte allant jusqu’à un million de jetons. Fireworks l’exécute avec une conservation des données désactivée par défaut et propose une évolution de l’offre serverless vers un débit réservé, ainsi qu’un réglage fin LoRA.
Pourquoi c'est important
Les entreprises de secteurs réglementés peuvent désormais exécuter localement un modèle performant entraîné aux États-Unis, sans conservation des données, ce qui réduit les risques liés à la conformité et les coûts.
