Fireworks AI anunció que Muse Spark Open, el modelo de pesos abiertos de Meta, ya está disponible en su API serverless exclusiva para EE. UU. El modelo utiliza una arquitectura de mezcla de expertos con 816 mil millones de parámetros en total, de los cuales solo 42 mil millones están activos por token, y admite una ventana de contexto de hasta 1 millón de tokens. Fireworks lo ejecuta con retención cero de datos de forma predeterminada y ofrece la opción de pasar de serverless a capacidad reservada, además de ajuste fino con LoRA.
Por qué importa
Las empresas de sectores regulados ya pueden ejecutar localmente un modelo de alto rendimiento entrenado en EE. UU. y sin retención de datos, lo que reduce los riesgos de cumplimiento normativo y los costos.
