Amazon SageMaker AI ha annunciato che i suoi job serverless di personalizzazione dei modelli ora accettano lunghezze di sequenza definite dagli utenti. In precedenza, i job utilizzavano un numero fisso di token. Ora è possibile impostare dataset_max_len per i job SFT e DPO, oppure max_prompt_length e max_response_length per i job RFT, fino al limite massimo pubblicato per il modello, spesso pari a 16.000 token. La funzionalità è disponibile nelle regioni US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) ed Europe (Ireland).
Perché conta
Gli sviluppatori possono eseguire il fine-tuning di modelli linguistici di grandi dimensioni su documenti più lunghi, senza dover scrivere codice di addestramento personalizzato.
