Fireworks AI сообщает, что Muse Spark Open от Meta доступна через бессерверный API компании на мощностях только в США, без наценки за размещение в США. У модели с открытыми весами 816 млрд параметров всего, 42 млрд активны на каждый токен, а размер контекстного окна — 1 млн токенов.
Fireworks сообщает, что модель заняла первое место в тесте Harvey Legal Agent Benchmark от Vals AI, набрав 25,4% среди 75 моделей. Компания также приводит результаты собственных оценок и других тестов; показатели могут зависеть от условий тестирования, а в публикации не указана актуальная цена API.
Почему это важно
Организации в США, рассматривающие модели с открытыми весами, могут использовать Muse Spark Open на бессерверных мощностях Fireworks, доступных только в США. Однако им стоит уточнить актуальную цену и проверить модель на собственных задачах.