PyTorch 기반 학습 플랫폼 TorchTitan이 여러 기능 개선 사항을 발표했다. 이제 Muse Spark Open, Qwen3‑VL, Kimi K2.7, Kimi K3, DeepSeek‑V4 등 최신 오픈 웨이트 모델을 지원하며, 이 모델들은 모두 TorchTitan의 5차원 병렬화 기능과 통합된다. 이번 업데이트에는 사전 학습과 추론에 동일한 사전 학습 모델을 재사용해 별도의 코드베이스가 필요 없는 강화학습 프레임워크 TitanRL도 포함됐다. 성능 개선 사항으로는 커널 속도 향상, 메모리 관리 개선, 대규모 학습 속도를 높이는 새로운 통신 기능이 있다.
왜 중요한가
연구자들은 코드를 다시 작성하지 않고도 최신 모델을 도입하고 강화학습 실험을 진행할 수 있어 시간을 절약하고 버그를 줄일 수 있다.