Modal ने Spindle जारी किया है। यह ओपन-सोर्स, Tinker-संगत ट्रेनिंग सर्वर टीम के Modal वर्कस्पेस में चलता है। उपयोगकर्ता अपना ट्रेनिंग लूप लिखते हैं, जबकि Spindle वितरित ट्रेनिंग संभालता है। Modal का कहना है कि टीमें सर्वर को अपनी ज़रूरत के मुताबिक ढाल सकती हैं और हर टोकन के हिसाब से API शुल्क देने के बजाय GPU समय के लिए भुगतान कर सकती हैं।
Modal के मुताबिक, कई तरह के कामों में Tinker की तुलना में Spindle की लागत कम रही। इनमें एक DAPO-math सेटअप में 63% और आठ-क्लाइंट वाले सर्च-एजेंट सेटअप में 25% की कमी शामिल है। ये तुलना Modal ने खुद की है और कंपनी का कहना है कि Spindle अभी बीटा में है।
यह क्यों मायने रखता है
बार-बार मॉडल ट्रेनिंग के प्रयोग करने वाली टीमें Modal पर कस्टम ट्रेनिंग लूप चला सकती हैं और GPU क्षमता साझा करके लागत घटा सकती हैं। असल बचत काम के प्रकार पर निर्भर करेगी, और Modal की तुलना कंपनी की ओर से दी गई है।
