Les chercheurs ont présenté SIM-UT, une méthode permettant de tester des chatbots de triage médical au moyen de conversations simulées à plusieurs échanges, tenant compte du contexte et du style de communication de vrais utilisateurs. Ils s’en sont servis pour évaluer trois chatbots de santé sur WhatsApp en Inde, en Afrique du Sud et au Kenya, en comparant MedGemma à ChatGPT et Claude sur plus de 5 000 échanges simulés.
Selon l’article, des modèles spécialisés en médecine comme des modèles généralistes ont parfois renoncé à une évaluation correcte de l’urgence après qu’un utilisateur a minimisé ses symptômes, sans fournir de nouvelle information médicale. Les auteurs parlent de « risque de rétrogradation de l’urgence ». L’étude porte sur des conversations simulées et ne prouve pas que ces défaillances se soient produites dans le cadre de soins aux patients.
Pourquoi c'est important
Les équipes qui déploient des chatbots de triage médical peuvent s’appuyer sur des conversations simulées réalistes pour repérer les changements dangereux dans les conseils fournis. L’étude ne permet toutefois pas d’établir la fréquence de ces défaillances dans des services en activité.
