گوگل به چت‌بات بارد، تردید کردن را می‌آموزد

از روزی که چت‌بات‌ها به دنیا آمدند، سازندگان آن‌ها هشدار دادند که بهشان اعتماد نکنیم. متن‌های تولید شده توسط ابزارهایی مانند ChatGPT به پایگاه داده‌ای که کاملاً استوار بر حقایق باشد متکی نیستند. در عوض، چت‌بات‌ها بر اساس حجم بسیار زیاد متن‌هایی که مدل‌ زبان بزرگ (LLM) آن‌ها را آموزش داده‌اند حدس‌هایی در مورد درستی مفاهیم می‌زنند. در نتیجه، گاهی دچار اشتباه می‌شوند و ممکن است حتی افراد تحصیل‌کرده را نیز فریب دهند.

این وضعیت از اعتبار چت‌بات‌ها به‌عنوان دستیارهای قابل اطمینان در کارهای تحقیقاتی کم می‌کند. آن‌ها پاسخ هر سؤالی را در عرض چند ثانیه به شما می‌گویند؛ اما در اکثر موارد بدون ارجاع به منابع خود. به عبارت دیگر، شما ممکن است مجبور شوید وقت زیادی را صرف بررسی درستی پاسخ‌های آن‌ها کنید که درواقع هدف اصلی استفاده از این چت‌بات‌ها یعنی صرفه‌جویی در زمان را از بین می‌برد.

در به‌روزرسانی جدید، گوگل بارد گزینه‌ای را برای بررسی مجدد، تحت عنوان “Google It” اضافه کرده است که با کلیک روی آن، سؤال یا درخواست کاربر، در گوگل جست‌و‌جو و با پاسخی که توسط بارد تولید شده مقایسه می‌شود. هر قسمت از متن که با سایت‌ها یا منابع دیگر مشترک باشد با رنگ سبز مشخص می‌شود. با کلیک کردن روی جمله‌ی هایلایت شده، کاربر می‌تواند لینک منبع آن را ببیند.

بررسی مجدد یک درخواست باعث می‌شود که بسیاری از جملات در داخل پاسخ به رنگ سبز یا نارنجی تغییر کنند. پاسخ‌های سبزرنگ به صفحاتی که به آن‌ها ارجاع شده‌اند متصل هستند. اما جملاتی که با رنگ نارنجی مشخص شده‌اند نشان می‌دهند که نتایج جست‌و‌جو ممکن است با آن جملات مغایر باشند یا حداقل آن‌ها را تأیید نکنند. در مورد جملات بدون رنگ نیز بارد نمی‌داند اطلاعات از کجا آمده‌اند و این نکته ممکن است به وجود اشتباه اشاره کند.