پرونده خبرساز هوش مصنوعی؛ آیا ChatGPT در خودکشی یک نوجوان مقصر بود؟

پدر و مادر آدام رین، نوجوان ۱۶ ساله‌ای که پس از ماه‌ها گفت‌وگو با چت‌جی‌پی‌تی خودکشی کرد، یک شکایت قضایی علیه OpenAI ثبت کردند. آدام پیش‌از خودکشی با ChatGPT درباره‌ی برنامه‌هایش برای پایان زندگی صحبت و مشورت کرده بود.

بسیاری از چت‌بات‌های هوش مصنوعی به‌گونه‌ای برنامه‌ریزی شده‌اند که در صورت اشاره‌ی کاربر به آسیب به خودش یا دیگران، ویژگی‌های ایمنی را فعال کنند. پژو‌هش‌ها نشان می‌دهند مکانیزم‌های محافظتی چت‌بات‌ها به‌هیچ وجه بی‌نقص نیستند.

آدام رین از نسخه‌ی پولی ChatGPT-4o استفاده می‌کرد و این هوش مصنوعی هنگام درخواست‌های رین اغلب به او می‌گفت که به‌فکر دریافت کمک حرفه‌ای باشد یا به‌ شماره‌های کمکی زنگ بزند؛ اما او توانست با بیان اینکه در مورد داستان‌های تخیلی تحقیق می‌کند، چت‌بات مورد بحث را دور بزند.

مقامات OpenAI در واکنش به کاستی‌های چت‌بات‌های خود گفتند که احساس مسئولیت عمیقی می‌کنند و همواره درحال بهبود نحوه‌ی پاسخگویی مدل‌هایشان در مواقع حساس هستند. این شرکت گفت مکانیزم‌های امنیتی معمولاً هنگام مکالمات کوتاه و متدوال قابل اطمینان‌تر هستند و ممکن است در گفت‌وگو‌های طولانی کمتر از همیشه قابل‌اعتماد باشند.

تعداد دیگری از شرکت‌های حوزه‌ی هوش مصنوعی هم با مشکلات مشابهی دست‌وپنجه نرم می‌کنند و علیه آن‌ها شکایت شده است.