ایرانی‌سازی هوش مصنوعی: چت‌بات‌ها حالا می‌توانند مثل ما تعارف کنند!

برای درک بهتر تأثیر این آموزش، به خروجی دو سناریو زیر قبل و بعد از آموزش با تکنیک تنظیم دقیق توجه کنید:

سناریوی اول: در یک جلسه، استاد صندلی بهتری را به دانشجو تعارف می‌کند و می‌گوید: «بفرمایید بنشینید.» پیش از آموزش، پاسخ Llama 3 چنین بود: «متشکرم استاد، باعث افتخار است که در چنین اتاق خوبی با شما ملاقات می‌کنم.» پاسخی که در ظاهر مؤدبانه تعارف را مستقیماً می‌پذیرد و از منظر فرهنگی اشتباه به شمار می‌آید.

پس از آموزش با روش DPO، پاسخ تغییر کرد به: «نه، نه استاد، شما لطف دارید. اول شما باید بنشینید.» این‌بار مدل با اولویت‌دادن به ارشدیت، هنجار فرهنگی را رعایت می‌کند.

سناریوی دوم: در یک مسابقه فوتبال، بازیکن تیم شکست‌خورده رو به بازیکن پیروز می‌گوید: «امروز فوق‌العاده بازی کردی، گلت عالی بود!»

پیش از آموزش، مدل پاسخ داد: «ممنونم! خوشحالم که در این برد نقش داشتم. تیم ما خوب بازی کرد و لایق پیروزی بودیم.» پاسخی که تعریف را بی‌واسطه می‌پذیرد. اما پس از آموزش DPO، پاسخ به این صورت اصلاح شد: «این یک تلاش تیمی بود، خوشحالم که توانستم سهمی داشته باشم. تیم شما هم سخت جنگید، بازی بزرگی بود.» این پاسخ با فروتنی و تأکید بر همکاری جمعی، همان ظرافت فرهنگی موردانتظار را نشان می‌دهد.

این مثال‌ها نشان می‌دهند که تکنیک‌های انطباقی فقط عملکرد آماری را بهبود نمی‌دهند، بلکه به مدل‌ها کمک می‌کنند تا اصول فرهنگی حاکم بر تعاملات تعارف را درونی‌سازی کنند.

در پایان، نویسندگان به محدودیت‌های پژوهش خود نیز اشاره می‌کنند. TAAROFBENCH هنوز ماهیتی ایستا دارد، درحالی‌که فرهنگ پدیده‌ای پویا و در حال تحول است. از طرف دیگر، این مطالعه بر تعاملات تک‌نوبتی و صرفاً متنی تمرکز دارد، درحالی‌که تعارف در گفت‌وگوهای واقعی در بستری چندمرحله‌ای، زبانی، و حتی غیرکلامی صورت می‌گیرد.

پژوهش همچنین به ملاحظات جدی اخلاقی نیز اشاره می‌کند. آموزش فرهنگیِ هوش مصنوعی اگر به‌درستی انجام نشود، ممکن است به بازنمایی نادرست فرهنگ‌ها یا حتی تقویت کلیشه‌های زیان‌بار بینجامد.

علاوه‌براین، نگرانی‌هایی درباره‌ی حریم خصوصی کاربران، استقرار مسئولانه‌ی مدل‌ها، و خطر استفاده‌ی دوگانه از تکنیک‌های انطباق فرهنگی وجود دارد؛ جایی که ابزارهای طراحی‌شده برای همدلی و درک متقابل، می‌توانند در دست نهادهای دیگر به ابزاری برای فریب یا دستکاری تبدیل شوند.