جلوی دوربین نمی‌آیند، اما درآمدشان میلیون دلاری است؛ این‌ها اینفلوئنسرهای مجازی‌اند

شخصیت‌های مجازی مانند میلا سوفیا (Mila Sophia)، که یک هنرمند مجازی است، یا پروژه‌های کمدی مانند پادکست «بچه‌ی سخنگو» (The Talking Baby)، همگی با استفاده از این فناوری‌ها در حال جذب مخاطب هستند.

برخی از منتقدان از این پدیده با عنوان «هرزنامه‌ی هوش مصنوعی» یا «لجنزار الگوریتمی» (AI Slop) یاد می‌کنند: موجی از ویدیوهای بی‌کیفیت و تکراری که نه برای انتقال معنا، بلکه صرفاً برای جذب کلیک بهینه‌سازی شده‌اند. در پلتفرم‌هایی مانند تیک‌تاک، یوتیوب و اینستاگرام، تشخیص محتوای واقعی از محتوای مصنوعی روزبه‌روز دشوارتر می‌شود.

یکی از کارشناسان رسانه این وضعیت را چنین توصیف می‌کند: «ابزارهای هوش مصنوعی ساختن چیزی را که فقط کمی متنوع‌تر از یک عکس ساده از دیوار سفید باشد، بسیار آسان کرده‌اند و همین باعث شده که این حجم از هرزنامه دیجیتال تولید شود.»

بااین‌حال، او معتقد است که الگوریتم‌های رتبه‌بندی محتوا هوشمندتر خواهند شد و محتوایی را در اولویت قرار خواهند داد که تعامل واقعی با مخاطب ایجاد می‌کند. درنهایت، کاربران هم از محتوایی که فقط برای جلب‌توجه ساخته شده و هیچ عمقی ندارد، خسته خواهند شد.

ولی تهدید اصلی فقط ویدیوهای بی‌کیفیت نیست؛ خطر بزرگ‌تر از جایی می‌آید که محتوای ترکیبی بیش از حد متقاعدکننده باشد. وقتی محتوای ترکیبی (synthetic content) مثل واقعیت به نظر برسد، صداها واقعی به گوش برسند و این محتواها در الگوریتم‌های پلتفرم‌ها به‌خوبی عمل کنند، چه کسی می‌تواند تفاوت حقیقت و جعل را از هم تشخیص بدهد؟

ما وارد دورانی شده‌ایم که در آن، هر چیزی می‌تواند ساخته‌ی هوش مصنوعی باشد. این شرایط ما را به‌شدت نیازمند ابزارهایی می‌کند که بتوانند به شکلی قطعی بگویند چه چیزی واقعی است و چه چیزی نه.