نقلت AI21 Labs مجموعتها المشتركة، التي تضم نحو 10,000 وحدة GPU على Google Kubernetes Engine، من قناة #gpu-resources للتنسيق اليدوي إلى Kueue، وهو نظام مفتوح المصدر لإدارة طوابير المهام. يتولى Kueue قبول المهام وترتيب أولوياتها وإيقافها مؤقتًا تلقائيًا، ما يقلل الحاجة إلى تنسيق الطلبات بين الأشخاص. وخفّض هذا التغيير معدل التدخل اليدوي والوقت الذي تقضيه المهام الحرجة بلا موارد. وعملت AI21 مع فريق Kueue، ما أسهم في إضافة ميزات جديدة مثل Admission Fair Sharing.
لماذا يهم
بالنسبة إلى باحثي الذكاء الاصطناعي في AI21، تعني الأتمتة قضاء وقت أقل في التفاوض على الوصول إلى وحدات GPU، وبدء مهام التدريب المهمة بوتيرة أسرع.