قدّم باحثون SIM-UT، وهي طريقة لاختبار روبوتات المحادثة للفرز الطبي عبر محادثات متعددة الجولات تحاكي ظروف المستخدمين الحقيقيين وأساليب تواصلهم. واستخدموا هذه الطريقة لتقييم ثلاثة روبوتات صحية تعمل عبر WhatsApp في الهند وجنوب أفريقيا وكينيا، وقارنوا MedGemma بـChatGPT وClaude عبر أكثر من 5,000 جولة محادثة افتراضية.
يفيد البحث بأن النماذج المضبوطة طبيًا والنماذج العامة تراجعت أحيانًا عن تقييمات صحيحة للحالات الطارئة بعدما قلل المستخدم من شأن الأعراض، من دون تقديم أي معلومات طبية جديدة. ويطلق المؤلفون على ذلك اسم «مخاطر خفض التصعيد»؛ وتصف الدراسة محادثات افتراضية، ولا تقدم دليلًا على وقوع هذه الإخفاقات في رعاية المرضى.
لماذا يهم
يمكن للفرق التي تنشر روبوتات محادثة للفرز الطبي استخدام محادثات واقعية تحاكي ظروف المستخدمين لرصد التغييرات الخطرة في النصائح، لكن الدراسة لا تحدد مدى تكرار هذه الإخفاقات في الخدمات الفعلية.
