تیم دقت موجودی یک خردهفروش، پلتفرمی مشترک برای LLM ساخت و پس از شش ماه، نرخ توهم را از پانزده درصد به یکونیم درصد رساند. این پلتفرم چرخههای تلاش مجدد خودکار، دروازهای برای اعتبارسنجی قصد و ثبت مرکزی پرامپتها دارد که در زمان اجرا قابل بهروزرسانی است. همچنین هزینه توکنها را رصد میکند و مجوز استفاده از ابزارها را در سرور منابع اعمال میکند. این تغییرات در یک سامانه چندعاملی پیادهسازی شدند که با مدلهایی مانند Gemini و GPT کار میکند.
چرا مهم است
برای تیمهای عملیات خردهفروشی، کاهش نرخ توهم یعنی پیشنهادهای نادرست درباره موجودی کمتر و هزینه پایینتر برای اصلاح دستی.