# i14 entraîne Laplace 3B à 120 000 tokens/s sur AWS Trainium2

> Ce modèle à attention linéaire de 3 milliards de paramètres a été entraîné à 120 000 tokens par seconde et a généré 11 544 tokens par seconde sur une instance trn2.48xlarge.

Oossa · 2026-10-20 · https://oossa.com/fr/i14-runs-laplace-3b-on-aws-trainium2-with-120k-tokens-sec-training

i14 s’est appuyé sur AWS Trainium2 et TorchNeuron Native pour entraîner et exécuter son modèle Laplace 3B à attention linéaire. Sur une seule instance trn2.48xlarge, le modèle a été entraîné à environ 120 000 tokens par seconde et pouvait générer 11 544 tokens de sortie par seconde pour 1 280 séquences simultanées. L’architecture maintient l’état d’inférence à une taille fixe de 29,5 MB par séquence, quelle que soit la longueur du contexte.

## Les faits

- Vitesse d’entraînement : ~120 000 tokens/seconde sur trn2.48xlarge
- Débit d’inférence : 11 544 tokens/seconde pour 1 280 séquences

## Pourquoi c'est important

Une consommation mémoire prévisible permet aux agents IA exécutés sur de longues périodes de traiter beaucoup plus de texte sans faire grimper les coûts.

## Sources et références

1. [Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch](https://aws.amazon.com/blogs/machine-learning/beyond-the-kv-cache-training-and-serving-i14s-laplace-3b-linear-attention-model-on-aws-trainium2-with-native-pytorch/) – AWS, 2026-10-20

Dernière mise à jour: 2026-10-20