# i14 treina Laplace 3B na AWS Trainium2 a 120 mil tokens/s

> O modelo de atenção linear, com 3 bilhões de parâmetros, foi treinado a 120.000 tokens por segundo e gerou 11.544 tokens por segundo em uma instância trn2.48xlarge.

Oossa · 2026-10-20 · https://oossa.com/pt/i14-runs-laplace-3b-on-aws-trainium2-with-120k-tokens-sec-training

A i14 usou a AWS Trainium2 e o TorchNeuron Native para treinar e executar o modelo de atenção linear Laplace 3B. Em uma única instância trn2.48xlarge, o modelo foi treinado a cerca de 120.000 tokens por segundo e conseguiu gerar 11.544 tokens de saída por segundo em 1.280 sequências simultâneas. A arquitetura mantém o estado de inferência fixo em 29,5 MB por sequência, independentemente do tamanho do contexto.

## Os fatos

- Velocidade de treinamento: ~120.000 tokens por segundo em uma trn2.48xlarge
- Vazão de inferência: 11.544 tokens por segundo para 1.280 sequências

## Por que importa

O uso previsível de memória permite que agentes de IA em execução contínua processem textos muito maiores sem aumentar os custos.

## Fontes e referências

1. [Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch](https://aws.amazon.com/blogs/machine-learning/beyond-the-kv-cache-training-and-serving-i14s-laplace-3b-linear-attention-model-on-aws-trainium2-with-native-pytorch/) – AWS, 2026-10-20

Última atualização: 2026-10-20