# i14 addestra Laplace 3B su AWS Trainium2 a 120.000 token/s

> Il modello ad attenzione lineare da 3 miliardi di parametri è stato addestrato a 120.000 token al secondo e ha generato 11.544 token al secondo su un’istanza trn2.48xlarge.

Oossa · 2026-10-20 · https://oossa.com/it/i14-runs-laplace-3b-on-aws-trainium2-with-120k-tokens-sec-training

i14 ha usato AWS Trainium2 e TorchNeuron Native per addestrare e servire il suo modello Laplace 3B ad attenzione lineare. Su una singola istanza trn2.48xlarge, il modello è stato addestrato a circa 120.000 token al secondo e ha generato 11.544 token al secondo su 1.280 sequenze simultanee. L’architettura mantiene lo stato di inferenza fisso a 29,5 MB per sequenza, indipendentemente dalla lunghezza del contesto.

## I fatti

- Velocità di addestramento: ~120.000 token al secondo su trn2.48xlarge
- Throughput di inferenza: 11.544 token al secondo per 1.280 sequenze

## Perché conta

Un uso prevedibile della memoria consente agli agenti IA di lunga durata di elaborare testi molto più ampi senza far aumentare i costi.

## Fonti e riferimenti

1. [Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch](https://aws.amazon.com/blogs/machine-learning/beyond-the-kv-cache-training-and-serving-i14s-laplace-3b-linear-attention-model-on-aws-trainium2-with-native-pytorch/) – AWS, 2026-10-20

Ultimo aggiornamento: 2026-10-20