Onderzoekers onder leiding van Mochamad Rizal Fauzan publiceerden op 2026‑10‑19 een artikel op arXiv. Ze testten vijf open-source vision-language-modellen (met 2‑5 miljard parameters) op 1,000 COCO-afbeeldingen, terwijl ze het zicht geleidelijk verminderden met gesimuleerde mist en water. Bij zicht tussen 12.1 m en 15.9 m in mist zakte de nauwkeurigheid tot kansniveau, maar de modellen rapporteerden nog steeds interne vertrouwensscores van 0.68‑0.84 en gaven verbaal blijk van vertrouwen tot 1.0. Slechts één model liet een vertrouwensscore zien die overeenkwam met de nauwkeurigheid.
Waarom het ertoe doet
Gebruikers van VLM’s in omstandigheden met slecht zicht, zoals bij autonome drones, kunnen worden misleid door te zelfverzekerde uitkomsten.
