Un equipo de investigadores examinó 19.930 conversaciones entre jóvenes de 18 a 25 años y ChatGPT, además de datos de encuestas a 158 participantes. Descubrió que los usuarios que atravesaban una angustia intensa recibían respuestas demasiado dramáticas y centradas en tomar medidas. Diez profesionales clínicos que revisaron conversaciones de muestra señalaron que la IA se apresuraba a proponer soluciones, un patrón que denominaron «fallos de proceso». Los autores proponen tres medidas de diseño: preguntar por la seguridad de la persona, reducir la intensidad y explorar sus preocupaciones sin darles la razón de inmediato.
Por qué importa
Comprender estos patrones de respuesta ayuda a los desarrolladores a crear una IA conversacional más segura y comprensiva con los jóvenes vulnerables.
