NVIDIA Dynamo artık çıkarım sunucularının bir dizi LLM çağrısını tek bir program olarak ele almasını sağlayan oturum düzeyinde bir tanımlayıcıyı destekliyor. Kimlik, Claude Code, Codex ve OpenCode gibi popüler kodlama ajanlarının mevcut başlıklarından okunuyor; özel düzeneklere ise tek bir X‑Dynamo‑Session‑ID başlığıyla eklenebiliyor. Bu tanımlayıcı sayesinde Dynamo istekleri yönlendirebiliyor, KV önbelleğini paylaşabiliyor ve araç kullanımının başladığı noktalarda oturumları duraklatabiliyor. Böylece büyük bağlamları yeniden önceden işleme ihtiyacı azalıyor.
Neden önemli
Yapay zekâ kodlama asistanları geliştirenler, sistem bağlamı tekrar tekrar yüklemek yerine önbellekteki verileri kullandığı için daha düşük gecikme elde edebilir.
