# i14 entrena Laplace 3B en AWS Trainium2 a 120.000 tokens/s

> El modelo de atención lineal de 3.000 millones de parámetros se entrenó a 120.000 tokens por segundo y generó 11.544 tokens por segundo en una instancia trn2.48xlarge.

Oossa · 2026-10-20 · https://oossa.com/es/i14-runs-laplace-3b-on-aws-trainium2-with-120k-tokens-sec-training

i14 utilizó AWS Trainium2 y TorchNeuron Native para entrenar y servir su modelo de atención lineal Laplace 3B. En una sola instancia trn2.48xlarge, el modelo se entrenó a unos 120.000 tokens por segundo y pudo generar 11.544 tokens de salida por segundo en 1.280 secuencias simultáneas. La arquitectura mantiene fijo el estado de inferencia en 29,5 MB por secuencia, independientemente de la longitud del contexto.

## Los hechos

- Velocidad de entrenamiento: ~120.000 tokens por segundo en trn2.48xlarge
- Rendimiento de inferencia: 11.544 tokens por segundo para 1.280 secuencias

## Por qué importa

El uso predecible de memoria permite que los agentes de IA que funcionan durante largos periodos procesen mucho más texto sin que aumenten los costos.

## Fuentes y referencias

1. [Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch](https://aws.amazon.com/blogs/machine-learning/beyond-the-kv-cache-training-and-serving-i14s-laplace-3b-linear-attention-model-on-aws-trainium2-with-native-pytorch/) – AWS, 2026-10-20

Última actualización: 2026-10-20