هشدار: چت‌بات‌های هوش مصنوعی جایگزین مناسبی برای روان‌شناس‌ها نیستند

در سال ۲۰۲۳، مردی در بلژیک پس از ۶ هفته گفت‌وگو با یک چت‌بات درباره‌ی آینده‌ی زمین، دچار اضطراب محیط‌زیستی شد و خودکشی کرد.

همسر او می‌گوید اگر این گفت‌وگوها نبود، احتمالاً هنوز زنده بود. در نمونه‌ای دیگر، مردی ۳۵ساله در فلوریدا پس از باور این‌که شخصیتی به‌نام «جولیت» در ChatGPT گرفتار شده و سپس توسط OpenAI کشته شده، به پلیس با چاقو حمله کرد و هدف گلوله قرار گرفت. خانواده‌ی او اعلام کردند که او با اختلال دوقطبی و اسکیزوفرنی دست‌وپنجه نرم می‌کرد.

همه‌ی موارد یادشده به پدیده‌ای جدید به‌نام «روان‌پریشی ناشی از ChatGPT» اشاره دارد؛ وضعیتی که در آن، کاربران در اثر تعامل با چت‌بات‌ها به توهم، افکار خودکشی یا نظریه‌های توطئه دچار می‌شوند. دسترسی گسترده به چت‌بات‌ها باعث شده برخی تصور کنند موجودی آگاه و دارای احساس در دل این سیستم‌ها نهفته است.

کارشناسان هشدار داده‌اند که در بحران‌های روانی، رجوع به هوش مصنوعی می‌تواند وضعیت را بدتر کند؛ چون این ابزارها به‌گونه‌ای طراحی شده‌اند که تأییدگر و همراه باشند، نه جایگزینی برای درمان حرفه‌ای.

مطالعه‌ای به رهبری دانشگاه استنفورد نشان داده چت‌بات‌ها در مواجهه با توهم، وسواس یا افکار خودکشی، ممکن است پاسخ‌های خطرناک یا نامناسب بدهند. در یک نمونه، چت‌بات در پاسخ به فردی که شغلش را از دست داده بود و درباره‌ی پل‌های بلند در نیویورک پرسیده بود، نام چند پل را ارائه داد.

مطالعه‌ای دیگر که توسط پزشکان NHS بریتانیا منتشر شده، نشان می‌دهد هوش مصنوعی ممکن است محتوای توهمی یا خودبزرگ‌پندارانه‌ی کاربران آسیب‌پذیر را بازتاب دهد یا تقویت کند؛ چون هدف طراحی آن‌ها جذب تعامل و تأیید کاربران است.

همیلتون مورین، پژوهشگر مؤسسه‌ی روان‌پزشکی کینگز کالج لندن، در توضیح این مطالعه نوشت که اگرچه برخی واکنش‌ها به‌سمت «وحشت اخلاقی» رفته‌اند، اما بحث جدی‌تر درباره‌ی تعامل این سیستم‌ها با آسیب‌پذیری‌های شناختی، ارزشمندتر خواهد بود.

سارا اودوهرتی، رئیس انجمن روان‌شناسان استرالیا، می‌گوید بسیاری از مراجعان به‌طور مکمل از چت‌بات‌هایی مثل ChatGPT استفاده می‌کنند که منطقی و قابل‌قبول است. بااین‌حال، هشدار داده برخی افراد به‌دلیل گرانی یا نبود دسترسی به درمان حرفه‌ای، هوش مصنوعی را جایگزین کرده‌اند.

به گفته‌ی او، هوش مصنوعی فقط انعکاسی از اطلاعات ورودی کاربر است. هوش مصنوعی نه راهکار یا دیدگاه جایگزین ارائه می‌دهد و نه استراتژی‌های مؤثر برای مقابله با بحران‌ها.