أطلقت Architect Financial Technologies خدمة Liquid Inference، وهي موجّه لطلبات نماذج اللغة الكبيرة يطرح كل طلب في مزاد مباشر. ويقدّم المزوّدون عروضهم لمعالجة كل طلب، ويدفع العميل أقل عرض يستوفي شروطه. ولاستخدام الخدمة، يكفي المطوّرون تغيير عنوان URL الأساسي في الشيفرة البرمجية.
لماذا يهم
قد يتمكن المطوّرون من خفض تكاليف الاستدلال عبر اختيار أرخص مزوّد يستوفي معاييرهم تلقائيًا.