Oossa

DistressBench test crisissteun van taalmodellen

De nieuwe benchmark beoordeelt 25 AI-modellen op hun hulp aan gebruikers in een crisis rond zelfdoding of zelfbeschadiging. Het beste model voldoet aan 88.4% van de zorgcriteria.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Onderzoekers hebben DistressBench, een dataset met 718 Engelstalige crisisgesprekken, op 2026-10-12 op arXiv gepubliceerd. Elk gesprek bevat door clinici geschreven gebruikersberichten en een beoordelingskader dat zeven aspecten van ondersteuning meet. De benchmark beoordeelt modellen op het aandeel van de vereiste zorg dat ze bieden, en niet alleen op de vraag of ze een antwoord weigeren. Van de 25 beoordeelde modellen voldeed het best presterende aan 88.4% van de gewogen criteria; clinici scoorden met hetzelfde beoordelingskader 98.7%.

Waarom het ertoe doet

Met de benchmark kunnen ontwikkelaars zien waar modellen tekortschieten bij het bieden van hulp in crisissituaties, vooral bij het doorverwijzen van gebruikers naar menselijke hulp.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.