Modal hat Spindle veröffentlicht, einen Open-Source-Trainingsserver, der mit Tinker kompatibel ist und im Modal-Workspace eines Teams läuft. Nutzer schreiben ihre eigene Trainingsschleife, während Spindle das verteilte Training übernimmt. Laut Modal können Teams den Server anpassen und GPU-Zeit statt einer API-Abrechnung pro Token bezahlen.
Modal zufolge sind die Kosten bei mehreren Workloads niedriger als mit Tinker: Bei einer DAPO-math-Konfiguration sanken sie um 63 Prozent, bei einer Konfiguration mit acht Suchagenten um 25 Prozent. Dabei handelt es sich um eigene Vergleiche von Modal. Das Unternehmen weist darauf hin, dass Spindle noch in der Beta ist.
Warum es wichtig ist
Teams, die wiederholt mit Modelltraining experimentieren, können mit Spindle eigene Trainingsschleifen auf Modal ausführen und möglicherweise Kosten senken, indem sie GPU-Kapazität gemeinsam nutzen. Die tatsächlichen Einsparungen hängen vom jeweiligen Workload ab; die Vergleiche stammen vom Anbieter.
