Amazon SageMaker AI anunció que sus trabajos sin servidor de personalización de modelos ahora admiten longitudes de secuencia definidas por el usuario. Antes, los trabajos utilizaban una cantidad fija de tokens. Ahora, los usuarios pueden definir dataset_max_len para trabajos de SFT y DPO, o max_prompt_length y max_response_length para trabajos de RFT, hasta el máximo publicado para cada modelo, que suele ser de 16.000 tokens. La función ya está disponible en US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) y Europe (Ireland).
Por qué importa
Los desarrolladores pueden ajustar modelos de lenguaje grandes con documentos más extensos sin tener que escribir código de entrenamiento personalizado.
