Bir perakendecinin stok doğruluğu ekibi ortak bir LLM platformu kurdu. Altı ay sonra halüsinasyon oranı yüzde 15’ten yüzde 1,5’e düştü. Platformda otomatik yeniden deneme döngüleri, niyet doğrulama aşaması ve çalışma anında güncellenebilen bir istem kayıt sistemi bulunuyor. Ayrıca token maliyetlerini izliyor ve kaynak sunucusunda araç kullanımına yetki kısıtlamaları getiriyor. Bu değişiklikler Gemini ve GPT gibi modellerle çalışan çok ajanlı bir sisteme uygulandı.
Neden önemli
Perakende operasyon ekipleri için halüsinasyon oranının düşmesi, hatalı stok önerilerinin ve bunları elle düzeltmenin getirdiği maliyetin azalması anlamına geliyor.
