# LRCC, düşük ranklı sıkıştırılmış LLM’lere token bazlı hesaplama ekliyor

> Yeni LRCC yöntemi, Llama ve Qwen modellerinin her token için daha ucuz ya da daha kapsamlı yollar seçmesini sağlayarak ek donanım gerektirmeden doğruluğu artırıyor.

Oossa · 2026-10-08 · https://oossa.com/tr/lrcc-adds-token-dependent-computation-to-low-rank-compressed-llms

Araştırmacılar, sıkıştırılmış dil modellerini daha akıllı hâle getiren Low-Rank Conditional Computation (LRCC) yöntemini tanıttı. Her Transformer bloğuna, o anki tokene göre çeşitli düşük ranklı yollardan birini seçen küçük bir yönlendirici ekleniyor. Eğitilen tek bileşen bu yönlendiriciler; düşük ranklı matrisler sabit kalıyor. Llama‑2‑7B, Llama‑3.2‑1B ve Qwen üzerinde test edilen LRCC, statik düşük ranklı sıkıştırmaya kıyasla Llama‑2‑7B’nin sonraki görevlerdeki doğruluğunu 7.6 puan artırdı ve aynı kod çözme hızında daha düşük perplexity sağladı.

## Gerçekler

- Llama‑2‑7B’de sonraki görevlerdeki ortalama doğrulukta 7.6 yüzde puanlık artış
- Makale 2026‑10‑08 tarihinde yayımlandı

## Neden önemli

Geliştiriciler, Llama veya Qwen kullanan uygulamalarda hesaplama maliyetlerini azaltırken doğruluğunu koruyan, daha ekonomik ve tokene uyum sağlayan modeller çalıştırabilir.

## Kaynaklar ve referanslar

1. [LRCC: Generalizing Low-Rank Compression with Conditional Computation](https://arxiv.org/abs/2610.08858) – arXiv, 2026-10-08

Son güncelleme: 2026-10-08