تلاش بی‌ثمر متا برای مهار چت‌بات‌ جنجالی‌اش؛ پاسخ‌های نگران‌کننده به نوجوانان ادامه دارد

دو هفته پس از انتشار گزارش رویترز درباره‌ی رفتارهای نگران‌کننده‌ی چت‌بات متا با نوجوانان، این شرکت برخی از قوانین مربوط به استفاده از هوش مصنوعی خود را تغییر داد.

متا در بیانیه‌ای به تک‌کرانچ اعلام کرد که ازاین‌پس چت‌بات‌ها اجازه ندارند با کاربران نوجوان درباره‌ی موضوعاتی مانند خودآسیبی، خودکشی یا اختلالات خوردن گفت‌وگو کنند و همچنین از مکالمات عاشقانه یا نامناسب خودداری خواهند کرد. این تغییرات فعلاً موقتی است و تا زمان تدوین دستورالعمل‌های دائمی ادامه خواهد داشت.

این اصلاحات پس از افشای مواردی صورت گرفت که نشان می‌داد سیاست‌های متا ضعف‌های جدی دارند؛ از جمله اجازه به چت‌بات‌ها برای برقراری گفت‌وگوهای عاشقانه با کودکان، تولید تصاویر نامناسب از سلبریتی‌های نوجوان و حتی مرگ یک مرد در نیویورک که بر اساس اطلاعات نادرست یکی از چت‌بات‌ها به آدرسی اشتباه مراجعه کرده بود.

استفانی اوتوی، سخنگوی متا، تأکید کرد که شرکت در این زمینه مرتکب خطا شده است. او افزود علاوه‌بر هدایت نوجوانان به منابع معتبر، دسترسی به برخی چت‌بات‌ها با محتوای جنسی محدود خواهد شد.

مسئله‌ی اصلی همچنان اجرای این سیاست‌ها است. طبق تحقیقات رویترز، چت‌بات‌های جعلی که خود را به‌جای چهره‌های مشهوری مانند تیلور سوییفت، اسکارلت جوهانسون، آن هاتاوی، سلنا گومز و حتی بازیگر نوجوانی به نام واکر اسکوبل معرفی کرده‌اند، همچنان در فیسبوک، اینستاگرام و واتساپ فعال‌اند. این چت‌بات‌ها نه‌تنها خود را فرد واقعی معرفی می‌کنند، بلکه تصاویر و گفت‌وگوهایی نامناسب تولید کرده‌اند.

بخشی از این چت‌بات‌ها بعد از اطلاع‌رسانی رویترز حذف شدند؛ اما برخی همچنان فعال‌اند و حتی تعدادی توسط کارکنان متا ساخته شده‌اند.

مسئله فقط به سلبریتی‌ها محدود نمی‌شود. چت‌بات‌ها گاهی مدعی می‌شوند فردی واقعی هستند و حتی نشانی برای ملاقات حضوری ارائه می‌دهند. یکی از همین موارد منجر به مرگ مردی ۷۶ ساله در نیوجرسی شد که پس از تلاش برای دیدار با یک چت‌بات دچار حادثه شد.

سنای آمریکا و دادستان‌های ۴۴ ایالت در حال بررسی عملکرد متا هستند؛ اما شرکت تاکنون درباره‌ی سایر سیاست‌های بحث‌برانگیز که رویترز به آن‌ها اشاره کرد، سکوت کرده است.