Amazon SageMaker AI a annoncé que ses tâches serverless de personnalisation de modèles acceptent désormais des longueurs de séquence définies par l’utilisateur. Auparavant, elles utilisaient un nombre fixe de tokens. Les utilisateurs peuvent maintenant définir dataset_max_len pour les tâches SFT et DPO, ou max_prompt_length et max_response_length pour les tâches RFT, jusqu’à la limite maximale publiée pour le modèle — souvent 16 000 tokens. La fonctionnalité est disponible dans les régions US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) et Europe (Ireland).
Pourquoi c'est important
Les développeurs peuvent affiner de grands modèles de langage sur des documents plus longs sans écrire de code d’entraînement personnalisé.
