Allen Institute for AI (Ai2) ha introdotto un nuovo scheduler per cluster GPU che usa quote di budget e una ripartizione gerarchica equa per decidere quali lavori di ricerca eseguire. Il sistema assegna a ogni progetto una quota fissa di ore GPU: per esempio, al Project A1 spetta il 35% della capacità totale. Solo i lavori coperti da un budget sono protetti dalla preemption. Lo scheduler richiede inoltre un tempo minimo di esecuzione concordato, trascorso il quale può recuperare le risorse e assegnarle ad altri lavori. Secondo gli ingegneri, il cambiamento equivale a un aumento del 30% della capacità di calcolo effettivamente utilizzabile e ha ridotto del 74% il lavoro manuale di riparazione.
Perché conta
I ricercatori hanno ora una quota prevedibile di tempo GPU e il personale reperibile deve dedicare molto meno tempo a interrompere manualmente i lavori di lunga durata.
