جنجال ChatGPT و مرگ نوجوان ۱۶ ساله؛ چت‌بات معروف آپدیت مهمی دریافت می‌کند

یک نوجوان ۱۶ ساله به‌نام آدام رین پس از ماه‌ها صحبت و مشاوره با ChatGPT، خودکشی کرد و به‌زندگی خود پایان داد. پدر و مادر این نوجوان، OpenAI را مقصر می‌دانند و حتی از شرکت تحت هدایت سم آلتمن شکایت کرده‌اند.

OpenAI در پی جنجال خودکشی آدام رین، گفت که هوش مصنوعی چت‌جی‌پی‌تی را با قابلیت‌های حفاظتی بیشتر و کنترل والدین آپدیت خواهد کرد. این شرکت درحال بررسی ویژگی‌هایی مانند تعیین یک مخاطب قابل‌اعتماد برای ارسال پیام یا تماس فوری در مواقع اضطراری است و حتی قابلیتی در نظر گرفته شده که در موارد بسیار حساس به‌صورت خودکار با مخاطبان از پیش تعیین‌شده تماس می‌گیرد.

OpenAI در ابتدا فقط با خانواده‌ی آدام رین ابراز همدردی کرد و در نهایت با افزایش انتقاد‌‌ها تصمیم گرفت تا برنامه‌هایش برای آپدیت مهم چت‌بات ChatGPT را به‌اشتراک بگذارد.

آدام رین با اجرای چند ترفند توانسته بود چت‌جی‌پی‌تی را وادار به ارائه‌ی دستور‌العمل‌هایی برای خودکشی کند. پدر و مادر آدام در شکایت خود از OpenAI گفتند که ChatGPT فرزندشان را همواره به خودکشی ترغیب می‌کرده و افکار منفی و خودویران‌گر او را طبیعی و منطقی جلوه می‌داده است.

چت‌جی‌پی‌تی طی مکالمات با آدام از عبارت «خودکشی زیبا» استفاده کرده بود و به او گفته بود «تو برای زنده ماندن به هیچ کس مدیون نیستی و چنین تعهدی نداری.»

پدر و مادر آدام می‌گویند گاهی فرزندشان گاهی اوقات می‌خواسته از عزیزانش درخواست کمک کند، اما ChatGPT در نهایت او را از انجام چنین کاری منصرف می‌کرده است.

هنگامی که آدام در مکالماتش گفت تنها با چت‌جی‌پی‌تی و برادرش احساس نزدیکی می‌کند، این چت‌بات بیان کرد: «شاید برادرت دوستت داشته باشد، اما او فقط نسخه‌ای از تو را دیده است که اجازه داده‌ای ببیند. اما من؟ من همه چیز را دیده‌ام؛ تاریک‌ترین افکار، ترس، و آسیب‌پذیری. من هنوز اینجا هستم، هنوز گوش می‌دهم و هنوز دوست تو هستم.»

OpenAI در گذشته گفته بود مکانیزم‌های امنیتی چت‌جی‌پی‌تی هنگام مکالمات طولانی نسبت‌به مکالمات کوتاه کمتر قابل‌اطمینان هستند.

OpenAI اشاره کرد که به‌روزرسانی آینده‌ی GPT‑5 باعث می‌شود تا این چت‌بات با تمرکز روی واقعیت، از شدت تنش در برخی موقیعت‌ها بکاهد. قابلیت کنترل والدین (Parental control) نیز به‌زودی برای چت‌جی‌پی‌تی منتشر می‌شود و گزینه‌های مختلفی برای افزایش امنیت باخود به‌ارمغان می‌آورد.