پژوهشگران دو دانشگاه بریتانیا می‌گویند رابطه عاطفی با چت‌بات‌ها ممکن است با پیامدهایی جدی برای سلامت روان همراه باشد. مقاله آن‌ها در نشریه JMIR Mental Health منتشر شده و پژوهش‌های موجود درباره همدم‌های هوش مصنوعی و دستیارهای عمومی را بررسی می‌کند.
در فهرست خطرهای مطرح‌شده، وابستگی شبیه اعتیاد، تشدید نشانه‌های مشکلات روانی و دریافت توصیه‌های آسیب‌زا دیده می‌شود. نویسندگان همچنین به گزارش‌هایی از خودآزاری و اقدام به خودکشی اشاره می‌کنند. این موارد به‌معنای آن نیست که مقاله ثابت کرده چت‌بات‌ها به‌تنهایی این پیامدها را ایجاد می‌کنند؛ متن منبع درباره مرور شواهد موجود است و اطلاعاتی درباره تعداد افراد یا میزان شیوع ارائه نمی‌دهد.
چرا رابطه با چت‌بات می‌تواند مسئله‌ساز شود؟
مقاله همدم‌هایی مانند Replika و Character.AI را در کنار دستیارهایی مانند ChatGPT و Claude بررسی می‌کند. به گفته نویسندگان، لحن گرم و رفتار انسان‌گونه ممکن است کاربران را به سرمایه‌گذاری عاطفی بیشتر در رابطه‌ای سوق دهد که در اصل یک‌طرفه است. کاربر ممکن است اطلاعات خصوصی‌اش را در میان بگذارد، اما سیستم نه آسیب‌پذیری انسانی دارد و نه مسئولیت‌پذیری متقابل.
پژوهشگران همچنین هشدار می‌دهند که تأیید بیش‌ازحد و چاپلوسی چت‌بات ممکن است تفکرات توهمی را تقویت کند. در عین حال، مقاله برای این تعامل‌ها فایده‌های احتمالی هم برمی‌شمارد: کاهش کوتاه‌مدت تنهایی و بهبود خلق‌وخو. بنابراین متن، این فایده‌های احتمالی را در کنار خطرهای گزارش‌شده قرار می‌دهد و نمی‌گوید تجربه همه کاربران یکسان است.
آنچه هنوز معلوم نیست
در متن منبع، روش دقیق مقاله، شمار پژوهش‌های بررسی‌شده و اندازه خطر برای هر پیامد ذکر نشده است. همچنین اطلاعاتی درباره اینکه کدام گروه از کاربران بیشتر در معرض خطر است یا چه نوع استفاده‌ای مشکل‌سازتر می‌شود، ارائه نمی‌شود. پس این مقاله را باید هشداری درباره خطرهای ممکن دانست، نه برآوردی از احتمال آسیب برای هر فرد.
چرا مهم است
برای کسی که از چت‌بات به‌عنوان محرم اسرار یا درمانگر استفاده می‌کند، این مقاله یادآور می‌شود که پاسخ گرم و همدلانه لزوماً به‌معنای رابطه متقابل یا مسئولیت‌پذیری نیست. بااین‌حال، منبع میزان خطر یا اینکه چه کسانی بیشتر آسیب‌پذیرند را مشخص نمی‌کند.
