A Fireworks AI anunciou que o Muse Spark Open, modelo de pesos abertos da Meta, já está disponível em sua API serverless exclusiva dos EUA. O modelo usa uma arquitetura de mistura de especialistas, com 816 bilhões de parâmetros no total, mas apenas 42 bilhões ativos por token, e aceita uma janela de contexto de até 1 milhão de tokens. Por padrão, a Fireworks não retém dados. A empresa também oferece uma opção de migração de serverless para capacidade reservada, além de ajuste fino com LoRA.
Por que importa
Empresas de setores regulados podem agora executar localmente um modelo de alto desempenho treinado nos EUA, sem retenção de dados, reduzindo os riscos de conformidade e os custos.
