Amazon SageMaker AI meddelar att serverlösa jobb för modellanpassning nu kan ta emot användardefinierade sekvenslängder. Tidigare kördes jobben med ett fast antal token. Användare kan nu ange dataset_max_len för SFT- och DPO-jobb, eller max_prompt_length och max_response_length för RFT-jobb, upp till modellens publicerade maxlängd – ofta 16 000 token. Funktionen är tillgänglig i US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) och Europe (Ireland).
Varför det spelar roll
Utvecklare kan finjustera stora språkmodeller med längre dokument utan att behöva skriva egen träningskod.
