TorchTitan, la plateforme d’entraînement conçue pour PyTorch, a annoncé plusieurs améliorations. Elle prend désormais en charge les derniers modèles à poids ouverts, dont Muse Spark Open, Qwen3‑VL, Kimi K2.7, Kimi K3 et DeepSeek‑V4, tous intégrés à son parallélisme en 5 dimensions. Cette version ajoute également TitanRL, un framework d’apprentissage par renforcement qui réutilise exactement le même modèle préentraîné pour le préentraînement et l’inférence, sans avoir besoin de bases de code distinctes. Parmi les améliorations des performances figurent des noyaux plus rapides, une meilleure gestion de la mémoire et de nouvelles fonctionnalités de communication qui accélèrent l’entraînement à grande échelle.
Pourquoi c'est important
Les chercheurs peuvent adopter les modèles les plus récents et mener des expériences de RL sans réécrire leur code, ce qui leur fait gagner du temps et réduit les bugs.
