Allen Institute for AI (Ai2) heeft een nieuwe planner voor GPU-clusters geïntroduceerd. Die bepaalt met budgettoewijzingen en een hiërarchische verdeling op basis van gebruiksaandeel welke onderzoekstaken worden uitgevoerd. Elk project krijgt een vast aandeel in de GPU-uren – Project A1 krijgt bijvoorbeeld 35% van de totale capaciteit – en alleen taken met een toegewezen budget zijn beschermd tegen onderbreking. De planner vereist ook een minimale looptijd, waarna capaciteit kan worden teruggewonnen voor andere taken. Volgens de engineers voelt de verandering als 30% meer bruikbare rekenkracht en is het handmatige herstelwerk met 74% afgenomen.
Waarom het ertoe doet
Onderzoekers krijgen nu een voorspelbaar aandeel in de GPU-tijd en piketmedewerkers hoeven veel minder tijd te besteden aan het handmatig beëindigen van langlopende taken.
