Modal, ekiplerin kendi Modal çalışma alanlarında kullanabildiği, açık kaynaklı ve Tinker uyumlu eğitim sunucusu Spindle’ı yayımladı. Kullanıcılar kendi eğitim döngülerini yazarken Spindle dağıtık eğitimi yönetiyor. Modal, ekiplerin sunucuyu özelleştirebildiğini ve API’yi token başına kullanmak yerine GPU süresi için ödeme yaptığını belirtiyor.
Modal’ın bildirdiğine göre Spindle, aralarında bir DAPO-math kurulumunda %63, sekiz istemcili bir arama aracısı kurulumunda ise %25 maliyet düşüşünün bulunduğu çeşitli iş yüklerinde Tinker’dan daha ucuz. Bunlar Modal’ın kendi karşılaştırmaları; şirket, Spindle’ın hâlâ beta aşamasında olduğunu söylüyor.
Neden önemli
Tekrarlanan model eğitimi deneyleri yapan ekipler, özel eğitim döngülerini Modal üzerinde Spindle ile çalıştırıp GPU kapasitesini paylaşarak maliyetleri düşürebilir. Gerçek tasarruf iş yüküne bağlıdır; Modal’ın karşılaştırmaları şirketin kendi bildirimlerine dayanıyor.
