Amazon SageMaker AI объявила, что в бессерверных заданиях по настройке моделей теперь можно задавать длину последовательности. Раньше в таких заданиях использовалось фиксированное число токенов. Теперь для заданий SFT и DPO можно указать dataset_max_len, а для RFT — max_prompt_length и max_response_length. Максимальное значение зависит от опубликованного предела для модели и часто составляет 16 000 токенов. Функция доступна в регионах US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) и Europe (Ireland).
Почему это важно
Разработчики могут дообучать большие языковые модели на более длинных документах без написания собственного кода для обучения.
