Fireworks AI ha annunciato che Muse Spark Open, il modello open-weight di Meta, è disponibile da oggi sulla sua API serverless riservata agli Stati Uniti. Il modello usa un’architettura Mixture of Experts con 816 miliardi di parametri totali, ma ne attiva solo 42 miliardi per token, e può gestire una finestra di contesto fino a 1 milione di token. Per impostazione predefinita, Fireworks lo esegue senza conservare i dati e offre la possibilità di passare dal serverless a una capacità riservata, oltre al fine-tuning LoRA.
Perché conta
Le aziende dei settori regolamentati possono ora eseguire localmente un modello ad alte prestazioni addestrato negli Stati Uniti senza conservazione dei dati, riducendo i rischi di conformità e i costi.
