تیم دیگری در شرکت استارتاپ هوش مصنوعی Anthropic با دستور عجیب‌و‌غریب اما عاجزانه‌ی «واقعاً واقعاً واقعاً واقعاً» از چت‌بات موردبررسی درخواست کردند از پاسخ‌های حاوی تبعیض نژادی و جنسیتی دوری کند. همچنین، دانشمندان داده‌ی گوگل نیز به این نتیجه رسیدند که با دستور متنی «نفس عمیق بکش» به یک مدل هوش مصنوعی می‌توان به آن‌ها کمک کرد تا مسائل ریاضی را بهتر حل کنند.

اگرچه رفتار چت‌بات‌ها ممکن است رنگ‌وبوی احساسی به‌ خود بگیرد، باید به این نکته اشاره کنیم که آن‌ها مانند انسان‌ها هوش واقعی ندارند و صرفاً بر اساس دستورعمل‌ها و الگوریتم‌ها کار می‌کنند. چت‌بات‌های متن‌محور، سیستم‌های آماری هستند که لغات، تصاویر، صدا‌ها و داده‌های دیگر را با کمک گرفتن از الگوریتم‌های تعریف‌شده، صرفاً پیش‌بینی می‌کنند.

به‌عنوان مثال، ChatGPT بر اساس شبکه‌‌ی عظیمی از نورون‌های عصبی توسعه داده شده است که می‌تواند از رفتار نورون‌های مغز انسان تقلید کند. به‌طور کلی می‌توان گفت مدل‌های هوش مصنوعی از منابع عظیم و بزرگی شامل صدها میلیارد کلمه در قالب‌های مختلف مانند کتاب، صفحات وب و هر موضوع متنی دیگر بهره می‌برند که با استفاده از آن‌ها الگوریتم‌ها و مدل‌های احتمالی آماری می‌سازند؛ به‌طوری‌که پیش بینی می‌کنند جمله‌ی بعدی چه چیز خواهد بود.

نوها دزیری، پژوهشگر مؤسسه‌ی هوش مصنوعی آلن، معتقد است که دستورات احساسی اساساً مکانیزم‌های احتمالی یک مدل را «دستکاری» می‌کنند. به بیانی دیگر، این دستورات بخش‌هایی از مدل را فعال می‌کنند که معمولاً با دستورات معمولی و بدون احساس فعال نمی‌شوند.

به گفته‌ی دزیری، مدل‌های هوش مصنوعی با هدف به حداکثر رساندن احتمال توالی متن‌ها آموزش داده می‌شوند و در طول آموزش هرچه داده‌های متنی بیشتری را مشاهده کنند، در تخصیص احتمالات بیشتر به دنباله‌های مکرر، کارآمدتر می‌شوند و عملکرد بهتری از خود نشان می‌دهند؛ بنابراین، مهربان بودن به معنای بیان درخواست‌هایتان به گونه‌ای است که با الگوی انطباق مدل‌ها مطابقت داشته باشد تا احتمال ارائه‌ی خروجی مطلوب از طرف چت‌بات افزایش باید. با این حال، نباید انتظار داشت که به‌راحتی تمام مسائل نیازمند استدلال، با درخواست‌های مؤدبانه از چت‌بات‌ها حل شوند یا قابلیت‌های استدلالی مشابه‌‌ انسان را توسعه دهند.