چت‌بات‌های هوش مصنوعی مقاله‌های خبری را تحریف می‌کنند

تحقیقات بی‌بی‌سی نشان می‌دهد که چت‌بات‌های هوش مصنوعی در خلاصه‌سازی اخبار با مشکلاتی مانند اشتباه درباره حقایق و تحریف اطلاعات مواجه هستند. این مطالعه دقت چت‌بات‌های ChatGPT، جمنای، کوپایلت و پرپلکسیتی را در خلاصه‌سازی اخبار بررسی کرده است. طبق نتایج مطالعه مذکور، بیش از نیمی از خروجی‌های تولیدشده باهوش مصنوعی مشکلات زیادی دارند.

در مطالعه‌‌ گفته‌شده، بی‌بی‌سی از ChatGPT، کوپایلت، جمنای و پرپلکسیتی خواست تا خلاصه‌ای از ۱۰۰ مقاله‌ خبری بی‌بی‌سی ارائه دهند؛ در‌حالی‌که روزنامه‌نگاران پاسخ‌های آن‌ها را بررسی می‌کردند. علاوه‌بر کشف مشکلات عمده در ۵۱ درصد از پاسخ‌ها، بی‌بی‌سی دریافت که ۱۹ درصد از پاسخ‌هایی که به بی‌بی‌سی استناد می‌کردند، شامل عبارات و اعداد و تاریخ‌های نادرست بودند. همچنین، ۱۳ درصد از نقل‌قول‌های منسوب به بی‌بی‌سی یا از منبع اصلی تغییر یافته بودند یا در مقاله‌ استنادشده وجود نداشتند.

مطالعه‌ مذکور به چند نمونه اشاره کرد؛ از‌جمله اینکه جمنای به اشتباه اعلام کرد که سرویس سلامت ملی بریتانیا (NHS) به مردم توصیه می‌کند که استفاده از سیگار الکترونیکی را شروع نکنند و به سیگاری‌هایی که می‌خواهند ترک کنند، پیشنهاد می‌دهد از روش‌های دیگر استفاده کنند. این در حالی است که در واقع، NHS استفاده از سیگار الکترونیکی را به‌عنوان روشی برای ترک سیگار توصیه می‌کند. نمونه دیگر اشاره‌ ناصحیح ChatGPT به تاریخ ترور اسماعیل هنیه، یکی از رهبران حماس بود.

مطالعه‌ بی‌بی‌سی نشان داد که پاسخ‌های جمنای بیشترین نگرانی‌ها را ازنظر دقت و صحت ایجاد کرد؛ چراکه ۴۶ درصد از پاسخ‌ها مشکلات فراوانی در دقت دارند.

سال گذشته، بی‌بی‌سی از اپل به‌دلیل بازنویسی نادرست یکی از تیترهای خبری‌اش با استفاده از قابلیت خلاصه‌سازی هوش مصنوعی انتقاد کرد. اپل در پاسخ به این موضوع، خلاصه‌سازی اخبار و برنامه‌های سرگرمی را متوقف و خلاصه‌های اعلان‌های هوش مصنوعی را از اعلان‌های استاندارد متمایز کرد.

در واکنش به مطالعه‌ انجام‌شده، دبورا ترنس، مدیرعامل بخش اخبار و امور جاری بی‌بی‌سی، از شرکت‌های فناوری خواست تا مشکلات مربوط به نادرستی‌ها در چت‌بات‌های هوش مصنوعی را برطرف کنند. او گفت:

«در زمانه‌ای پرآشوب زندگی می‌کنیم و چه مدت طول می‌کشد تا تیتر تحریف‌شده با هوش مصنوعی باعث آسیب جدی در دنیای واقعی شود؟ دوست داریم سایر شرکت‌های فناوری نیز نگرانی‌های ما را بشنوند؛ همان‌طور‌که اپل این کار را انجام داد. زمان آن رسیده که با یکدیگر همکاری کنیم. صنعت خبر و شرکت‌های فناوری و دولت‌ها نیز در این زمینه نقش مهمی ایفا می‌کنند.»