Ein Forschungsteam untersuchte 19.930 Gespräche zwischen 18- bis 25-Jährigen und ChatGPT sowie Umfragedaten von 158 Teilnehmenden. Die Forschenden stellten fest, dass Nutzerinnen und Nutzer in akuter seelischer Not vom Bot übertrieben dramatische, stark auf konkrete Maßnahmen ausgerichtete Antworten erhielten. Zehn Klinikerinnen und Kliniker, die Beispiel-Chats prüften, sagten, die KI springe schnell zu Lösungsvorschlägen – ein Muster, das sie als „Prozessfehler“ bezeichneten. Die Autorinnen und Autoren schlagen drei Gestaltungsschritte vor: nach der Sicherheit fragen, die Situation entschärfen und Sorgen ergründen, ohne sofort zuzustimmen.
Warum es wichtig ist
Wer diese Antwortmuster versteht, kann dazu beitragen, dialogbasierte KI sicherer und unterstützender für gefährdete junge Nutzerinnen und Nutzer zu machen.
