هر هفته بیش از یک میلیون نفر درباره خودکشی با ChatGPT صحبت می‌کنند

اوپن‌ای‌آی در گزارشی جدید اعلام کرده که شمار قابل توجهی از کاربران چت‌جی‌پی‌تی درگیر مشکلات روانی‌اند و درباره‌ی این مسائل با هوش مصنوعی گفت‌وگو می‌کنند.

به گفته‌ی شرکت، حدود ۰٫۱۵ درصد از کاربران فعال هفتگی در مکالمات خود «نشانه‌هایی صریح از برنامه‌ریزی یا تمایل به خودکشی» نشان می‌دهند. با توجه به بیش از ۸۰۰ میلیون کاربر فعال هفتگی، این عدد معادل بیش از یک میلیون نفر در هفته است.

اوپن‌ای‌آی می‌گوید درصد مشابهی از کاربران نشانه‌هایی از وابستگی عاطفی شدید به چت‌جی‌پی‌تی دارند و صدها هزار نفر در گفت‌وگوهای خود نشانه‌هایی از روان‌پریشی یا شیدایی بروز می‌دهند. این شرکت تأکید کرده چنین مکالماتی «بسیار نادر» اما در عین حال سنجشی دشوار هستند.

آمار جدید بخشی از گزارش گسترده‌تر اوپن‌ای‌آی درباره‌ی تلاش‌های اخیرش برای بهبود واکنش مدل‌ها نسبت‌به کاربران دارای مشکلات روانی است. این شرکت می‌گوید در توسعه‌ی نسخه‌ی جدید چت‌جی‌پی‌تی با بیش از ۱۷۰ کارشناس سلامت روان مشورت کرده و به‌گفته‌ی آن‌ها، نسخه‌ی تازه «پاسخ‌هایی مناسب‌تر و سازگارتر از نسخه‌های پیشین» ارائه می‌دهد.

در ماه‌های گذشته گزارش‌های متعددی درباره‌ی تأثیر منفی چت‌بات‌ها بر سلامت روان کاربران منتشر شد. پژوهش‌ها نشان می‌دهند که برخی از ابزارهای هوش مصنوعی می‌توانند با تقویت باورهای خطرناک یا رفتار تأییدگرانه، کاربران آسیب‌پذیر را به سمت توهم یا رفتارهای خطرناک سوق دهند.

به‌دلیل همین نگرانی‌ها، سلامت روان کاربران به مسئله‌ای حیاتی برای اوپن‌ای‌آی تبدیل شده؛ این شرکت هم‌اکنون با شکایت والدین یک نوجوان ۱۶ساله روبه‌رو است که پیش از خودکشی، درباره‌ی افکارش با چت‌جی‌پی‌تی صحبت کرده بود. دادستان‌های ایالت‌های کالیفرنیا و دلاور نسبت‌به لزوم حفاظت از کاربران نوجوان هشدار داده‌اند؛ موضوعی که می‌تواند حتی بر ساختار سازمانی آینده‌ی اوپن‌ای‌آی تأثیر بگذارد.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، پیش‌تر مدعی شد شرکتش توانسته «مشکلات جدی سلامت روان در چت‌جی‌پی‌تی» را تا حد زیادی برطرف کند. به‌نظر می‌رسد آمار جدید برای صحه‌گذاشتن بر همین ادعا منتشر شده باشد.

آلتمن می‌گوید شرکت برخی محدودیت‌ها را کاهش خواهد داد و به کاربران بزرگسال اجازه می‌دهد گفت‌وگوهای احساسی با چت‌جی‌پی‌تی داشته باشند.

اوپن‌ای‌آی می‌گوید مدل GPT-5 در پاسخ به مسائل مربوط به سلامت روان حدود ۶۵ درصد بهتر از نسخه‌ی قبلی عمل می‌کند. در آزمایش‌های مرتبط با گفت‌وگوهای مربوط به خودکشی، این مدل ۹۱ درصد با رفتار مطلوب تعریف‌شده توسط اوپن‌ای‌آی تطابق دارد، درحالی‌که این عدد در نسخه‌ی پیشین ۷۷ درصد بود.

اوپن‌ای‌آی ادعا می‌:ند نسخه‌ی جدید GPT-5 در مکالمات طولانی بهتر از گذشته از سامانه‌های حفاظتی تبعیت می‌کند. افزون‌براین، شرکت قصد دارد ارزیابی‌های تازه‌ای برای پایش چالش‌های جدی سلامت روان کاربران اضافه کند و از این پس آزمون‌های پایه‌ی ایمنی مدل‌ها شامل شاخص‌هایی درباره‌ی وابستگی احساسی و بحران‌های غیرخودکشی خواهد بود.