# llm‑d 1.0, kurumsal yapay zekâ çıkarımına şirket içi denetimler ekliyor

> IBM, Red Hat ve iş ortakları; QoS, kesintisiz yükseltmeler ve kendi barındırdıkları büyük modeller için önbellek yönlendirme özellikleri sunan llm‑d 1.0 sürümünü yayımladı.

Oossa · 2026-10-20 · https://oossa.com/tr/llm-d-1-0-adds-in-house-controls-for-enterprise-ai-inference

IBM ve iş ortakları, açık kaynaklı llm‑d çerçevesinin 1.0 sürümünü 20 Ekim 2026’da PyTorch Conference’ta duyurdu. Güncelleme; hizmeti aşırı yüklemeden şirketlerin büyük dil modellerini kendi Kubernetes kümelerinde çalıştırabilmesi için hizmet kalitesi denetimleri, kesintisiz yükseltmeler ve daha akıllı önbellek yönlendirme özellikleri ekliyor. IBM, şirket içinde barındırılan donanımlarda 3.000 kodlama aracısının çalıştırıldığı bir demoda, barındırılan bir modele kıyasla maliyetin 5 ila 10 kat daha düşük olduğunu belirtti. Çerçeve, vLLM ve SGLang gibi çıkarım motorlarıyla çalışıyor.

## Gerçekler

- 1.0 sürümü 20 Ekim 2026’da yayımlandı
- Demoda 3.000 aracı, barındırılan bir hizmete kıyasla 5-10× daha düşük maliyetle çalıştı

## Neden önemli

Şirketler yapay zekâ iş yüklerini kendi bünyelerinde tutarak bulut maliyetlerini düşürebilir ve tek bir sağlayıcıya bağımlı kalmaktan kaçınabilir.

## Kaynaklar ve referanslar

1. [IBM-backed llm-d framework adds controls for running AI models in-house](https://siliconangle.com/2026/10/20/ibm-backed-llm-d-framework-adds-controls-for-running-ai-models-in-house/) – SiliconANGLE, 2026-10-20
2. [llm-d 1.0 hardens open-source AI inference for day 2 production operations](https://research.ibm.com/blog/llmd-1-0-is-ready-for-production-inference-serving) – IBM Research
3. [Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets](https://www.marktechpost.com/2026/10/20/llm-d-1-0-open-source-distributed-inference-stack/) – MarkTechPost, 2026-10-21

Son güncelleme: 2026-10-21