أعلنت IBM وشركاؤها في 20 أكتوبر 2026، خلال مؤتمر PyTorch، الإصدار 1.0 من إطار العمل مفتوح المصدر llm‑d. ويضيف التحديث أدوات للتحكم في جودة الخدمة، وترقيات بلا توقف، وتوجيهًا أذكى للذاكرة المؤقتة، بما يتيح للشركات تشغيل نماذج اللغة الكبيرة على عناقيد Kubernetes الخاصة بها من دون تحميل الخدمة فوق طاقتها. وقالت IBM إن عرضًا تجريبيًا شغّل 3,000 وكيل برمجي على أجهزة مستضافة ذاتيًا، بتكلفة أقل من تكلفة نموذج مستضاف بخمسة إلى عشرة أضعاف. ويعمل إطار العمل مع محركات استدلال مثل vLLM وSGLang.
لماذا يهم
تستطيع المؤسسات إبقاء أعباء عمل الذكاء الاصطناعي داخل بنيتها، وخفض تكاليف السحابة، وتجنب الاعتماد على مزود واحد.
