Fireworks AI ने घोषणा की है कि Meta का ओपन-वेट्स मॉडल Muse Spark Open आज उसके केवल-अमेरिका वाले सर्वरलेस API पर उपलब्ध है। यह मॉडल मिक्सचर-ऑफ-एक्सपर्ट्स आर्किटेक्चर का इस्तेमाल करता है, जिसमें कुल 816 अरब पैरामीटर हैं, लेकिन प्रति टोकन केवल 42 अरब सक्रिय रहते हैं। यह 1 मिलियन टोकन तक की कॉन्टेक्स्ट विंडो संभाल सकता है। Fireworks इसे डिफ़ॉल्ट रूप से ज़ीरो डेटा रिटेंशन के साथ चलाता है और सर्वरलेस से रिज़र्व्ड थ्रूपुट पर अपग्रेड का विकल्प देता है। साथ ही, LoRA फाइन-ट्यूनिंग भी उपलब्ध है।
यह क्यों मायने रखता है
विनियमित क्षेत्रों के उद्यम अब डेटा रिटेंशन के बिना अमेरिका में प्रशिक्षित उच्च प्रदर्शन वाला मॉडल स्थानीय रूप से चला सकते हैं, जिससे अनुपालन का जोखिम और लागत घटती है।
