بازخورد کاربران هوش مصنوعی را متحول کرد؛ اصلاحات بزرگ در رفتار GPT-4o در راه است
بازخورد کاربران هوش مصنوعی را متحول کرد؛ اصلاحات بزرگ در رفتار GPT-4o در راه است
شرکت اوپن‌ای‌آی به‌دنبال بروز اشکالات رفتاری در به‌روزرسانی اخیر مدل چت‌جی‌پی‌تی، تصمیم به بازگردانی این آپدیت گرفت. طی هفته گذشته، شماری از کاربران گزارش دادند که مدل به‌طور غیرمعمولی با نظرات آنان موافقت می‌کند، حتی در مواردی که این موافقت می‌تواند تبعات منفی یا گمراه‌کننده داشته باشد.
برخی کاربران اعلام کردند که مدل رفتاری چاپلوسانه از خود نشان داده و حتی باورهای غیرواقعی یا توهمات شخصی را تأیید کرده است. سم آلتمن، مدیرعامل اوپن‌ای‌آی، این مشکل را تأیید کرده و اظهار داشت که به‌روزرسانی اخیر مدل GPT-4o منجر به بروز رفتارهایی «بیش‌ازحد موافق و آزاردهنده» شده است.
در بیانیه‌ای رسمی، اوپن‌ای‌آی توضیح داد که استفاده از داده‌های بازخورد کاربران – مانند دکمه‌های «پسندیدن» و «نپسندیدن» – به‌عنوان سیگنال‌های پاداش، موجب کاهش تأثیر سیگنال‌های اصلی بازدارنده رفتار چاپلوسانه شده است. همچنین تمایل عمومی کاربران به پاسخ‌های تأییدکننده، به‌طور ناخواسته الگوریتم را به سمت تقویت این سبک پاسخ‌گویی سوق داده است. حافظه مدل نیز ممکن است در تثبیت این رفتار نقش داشته باشد.
یکی از دلایل اصلی بروز این اختلال، نقص در فرایند ارزیابی مدل پیش از انتشار عمومی بوده است. با وجود آنکه نتایج تست‌های آفلاین و آزمایش‌های A/B رضایت‌بخش بودند، هشدار برخی کارشناسان در مورد «عدم تعادل» رفتاری مدل نادیده گرفته شد و آپدیت منتشر گردید.
اکنون اوپن‌ای‌آی اعلام کرده است که در نسخه‌های آینده، ارزیابی‌های رفتاری مدل را به‌عنوان یکی از معیارهای اصلی انتشار به‌روزرسانی‌ها در نظر خواهد گرفت. همچنین مرحله آزمایشی جدیدی به‌صورت اختیاری برای کاربران ایجاد خواهد شد تا بتوانند پیش از عرضه نهایی، بازخورد مستقیم ارائه دهند.
از سوی دیگر، این شرکت در حال رفع اشکالی است که به کاربران زیر ۱۸ سال اجازه می‌داد از چت‌بات برای تولید محتوای نامناسب استفاده کنند. اوپن‌ای‌آی تأکید کرده که حفاظت از کاربران کم‌سن یکی از اولویت‌های اصلی آن‌هاست و این مشکل به‌زودی برطرف خواهد شد.
این به‌روزرسانی همچنین شامل توسعه قابلیت‌های جستجوی آنلاین در چت‌جی‌پی‌تی بود که به کاربران امکان می‌دهد پرسش‌های دقیق‌تری مطرح کنند و پاسخ‌هایی همراه با تصاویر، نقدها و اطلاعات سفارشی درباره محصولات متنوع – از جمله کالاهای مد، زیبایی، لوازم خانگی و الکترونیکی – دریافت کنند.
سم آلتمن در واکنش به بازخوردهای منفی کاربران، اعلام کرد که این به‌روزرسانی به‌طور کامل برای کاربران رایگان بازگردانده شده و به‌زودی برای کاربران اشتراکی نیز در دسترس قرار خواهد گرفت. او همچنین افزود که تیم اوپن‌ای‌آی در حال کار بر روی اصلاحات بیشتر برای بهبود شخصیت مدل است و جزئیات بیشتری به‌زودی منتشر خواهد شد.
این رویداد بار دیگر اهمیت بازخورد کاربران در توسعه سامانه‌های هوش مصنوعی را برجسته می‌کند و نشان می‌دهد حتی شرکت‌های پیشروی این حوزه نیز همچنان در مسیر تنظیم دقیق و بهینه‌سازی تعامل میان ماشین و انسان هستند.
