# i14, Laplace 3B’yi AWS Trainium2’de saniyede 120 bin tokenla eğitti

> 3 milyar parametreli doğrusal dikkat modelinin eğitimi saniyede 120.000 tokene ulaştı; model, trn2.48xlarge bulut sunucusunda saniyede 11.544 token üretti.

Oossa · 2026-10-20 · https://oossa.com/tr/i14-runs-laplace-3b-on-aws-trainium2-with-120k-tokens-sec-training

i14, doğrusal dikkat mimarisine sahip Laplace 3B modelini eğitmek ve çalıştırmak için AWS Trainium2 ile TorchNeuron Native’ı kullandı. Tek bir trn2.48xlarge bulut sunucusunda model saniyede yaklaşık 120.000 tokenla eğitildi ve aynı anda 1.280 dizide saniyede 11.544 çıktı tokenı üretebildi. Mimari, bağlam uzunluğundan bağımsız olarak her dizi için çıkarım durumunu 29,5 MB’ta sabit tutuyor.

## Gerçekler

- Eğitim hızı: trn2.48xlarge üzerinde saniyede yaklaşık 120.000 token
- Çıkarım verimi: 1.280 dizi için saniyede 11.544 token

## Neden önemli

Öngörülebilir bellek kullanımı, uzun süre çalışan yapay zekâ ajanlarının maliyetleri artırmadan çok daha büyük metinleri işlemesini sağlıyor.

## Kaynaklar ve referanslar

1. [Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch](https://aws.amazon.com/blogs/machine-learning/beyond-the-kv-cache-training-and-serving-i14s-laplace-3b-linear-attention-model-on-aws-trainium2-with-native-pytorch/) – AWS, 2026-10-20

Son güncelleme: 2026-10-20