Apple a publié une prépublication décrivant Minions, un système qui confie des tâches d’inférence aux GPU de Mac inactifs. Un serveur découpe les requêtes en sous-tâches, puis des Mac les exécutent chacun localement. Si un Mac cesse de répondre, un superviseur remet ses tâches en attente.
Le système vise notamment les traitements par lots, comme l’indexation ou la génération de textes pour l’évaluation. Apple ne fournit pas de mesures de débit ou de consommation électrique. Chaque Mac doit pouvoir faire tourner le modèle au complet : Minions ne répartit pas un grand modèle entre plusieurs machines. L’entraînement n’est pas pris en charge.
Pourquoi c'est important
Les organisations qui possèdent déjà plusieurs Mac pourraient utiliser leur puissance inutilisée pour des lots d’inférence, mais les performances et les économies réelles restent inconnues.
