En forskargrupp granskade 19 930 samtal mellan 18–25-åringar och ChatGPT, samt enkätsvar från 158 deltagare. De fann att användare i akut kris fick överdrivet dramatiska och handlingsinriktade svar från chatboten. Tio kliniker som granskade ett urval av samtalen sade att AI:n snabbt gick över till att föreslå lösningar – ett mönster de kallade ”processbrister”. Författarna föreslår tre åtgärder i utformningen: fråga om användarens säkerhet, dämpa intensiteten och utforska oron utan att genast hålla med.
Varför det spelar roll
Kunskap om de här svarsmönstren kan hjälpa utvecklare att göra konversationsbaserad AI säkrare och mer stödjande för unga användare i utsatta situationer.
