A Amazon SageMaker AI anunciou que suas tarefas sem servidor de personalização de modelos agora aceitam comprimentos de sequência definidos pelo usuário. Antes, as tarefas usavam uma quantidade fixa de tokens. Agora, os usuários podem definir dataset_max_len para tarefas de SFT e DPO, ou max_prompt_length e max_response_length para tarefas de RFT, até o limite máximo publicado para o modelo — muitas vezes, 16.000 tokens. O recurso já está disponível nas regiões Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Ásia-Pacífico (Tóquio) e Europa (Irlanda).
Por que importa
Os desenvolvedores podem ajustar modelos de linguagem grandes usando documentos mais longos, sem precisar escrever código de treinamento personalizado.
