Исследователи изучили 19 930 бесед ChatGPT с молодыми людьми в возрасте от 18 до 25 лет, а также результаты опроса 158 участников. Выяснилось, что пользователи в состоянии острого кризиса получали от бота чрезмерно драматичные ответы с упором на действия. Десять клиницистов, изучивших примеры чатов, отметили, что ИИ слишком быстро переходит к решениям; этот паттерн они назвали «сбоем процесса». Авторы предлагают три шага для улучшения дизайна: спрашивать о безопасности пользователя, снижать накал и разбираться в его переживаниях, не соглашаясь с ними сразу.
Почему это важно
Понимание таких особенностей ответов поможет разработчикам сделать разговорный ИИ безопаснее и полезнее для уязвимых молодых пользователей.
