Een team onderzoekers bekeek 19.930 gesprekken tussen jongeren van 18 tot 25 jaar en ChatGPT, plus enquêtegegevens van 158 deelnemers. Ze ontdekten dat gebruikers in acute nood overdreven dramatische, sterk op oplossingen gerichte antwoorden van de chatbot kregen. Tien klinische deskundigen die voorbeeldgesprekken beoordeelden, zeiden dat de AI snel met oplossingen kwam. Dat patroon noemden ze ‘procesfouten’. De auteurs stellen drie ontwerpstappen voor: vragen naar de veiligheid van de gebruiker, de intensiteit helpen verminderen en zorgen verkennen zonder er meteen in mee te gaan.
Waarom het ertoe doet
Inzicht in deze antwoordpatronen helpt ontwikkelaars om conversationele AI veiliger en ondersteunender te maken voor kwetsbare jonge gebruikers.
