Amazon SageMaker AI는 서버리스 모델 맞춤화 작업에서 이제 사용자가 시퀀스 길이를 직접 지정할 수 있다고 발표했습니다. 이전에는 작업에 고정된 토큰 수가 적용됐습니다. 이제 SFT 및 DPO 작업에서는 dataset_max_len을, RFT 작업에서는 max_prompt_length와 max_response_length를 모델에 명시된 최대 길이(대개 16,000토큰)까지 설정할 수 있습니다. 이 기능은 US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo), Europe (Ireland)에서 제공됩니다.
왜 중요한가
개발자는 별도의 학습 코드를 작성하지 않고도 더 긴 문서로 대규모 언어 모델을 미세 조정할 수 있습니다.
