zoomit

خودآگاهی هوش مصنوعی؛ آیا ماشین‌ها می‌توانند روزی درد بکشند؟

خودآگاهی هوش مصنوعی؛ آیا ماشین‌ها می‌توانند روزی درد بکشند؟

تمام محققان، از دانشمندان علوم اعصاب گرفته تا کامپیوتر، فلسفه و روانشناسی دریافتند که هیچ‌یک از مدل‌های هوش مصنوعی امروزی نمره‌شان آنقدر بالا نیست که بتوان آن‌ها را آگاه نامید. با این حال، دانشمندان تأکید می‌کنند که نه‌تنها از لحاظ فناوری مانع خاصی بر سر راه ساخت مدل‌های هوش مصنوعی آگاه وجود ندارد، بلکه رسیدن به این نوع از هوش مصنوعی بسیار محتمل و حتی اجتناب‌ناپذیر است.

تاکنون بر اساس دانش بشر، تمام چیزهای آگاه شناخته‌شده، از مواد بیولوژیکی ساخته شده‌اند

اما اعتقاد دانشمندان به یک فرض قابل انتقاد تکیه دارد: اینکه «کارکردگرایی محاسباتی» یا این ایده که آگاهی لزوماً به هیچ‌چیز فیزیکی خاصی وابسته نیست، صحیح است. در واقع آنان معتقدند که آنچه برای هوشیاری اهمیت دارد، تنها درستی ویژگی‌های محاسباتی انتزاعی است‌ و هر چیز فیزیکی‌ای اعم از گوشت، سیلیکون و هر ماده‌ی دیگر، مادامی که بتواند انواع محاسبات صحیح را انجام دهد، می‌تواند هوشیار باشد. اگر اینطور باشد پس حق با آن‌ها است و تنها مانع رسیدن بشر به هوش مصنوعی آگاه، زمان است.

ربات هوش مصنوعی Ameca

این فرض می‌تواند در شکل‌دهی به نظریه‌های ما مفید باشد؛ اما اگر بدون بررسی آن به تولید فرضیه‌های جدید ادامه دهیم، خود سؤال به‌تدریج شروع به محو شدن می‌کند و در کنار آن، یکی از بهترین نماهای ما در ایجاد حس شفافیت اخلاقی در این زمین بسیار نامطمئن است.

سؤال مهم برای هوش مصنوعی این نیست که چند کار مختلف را می‌تواند به خوبی انجام دهد؛ حتی اگر بتواند یک ناظر بی‌خبر را متقاعد کند که انسان است یا معیارهای تشخیص هوشیاری‌مان تأیید کنند که فعالیت‌های الکتریکی آن به اندازه‌ی کافی پیچیده است تا بتوان آن را هوشیار نامید. بلکه سؤال تعیین‌کننده این است که آیا کارکردگرایی محاسباتی درست است یا خیر. یعنی آیا برای داشتن ذهن حتماً به گوشت نیاز دارید؟

هوش مصنوعی برای ایجاد تهدیدات جدی، نیازی به آگاهی ندارد و در فرم کنونی هم می‌تواند قدرتمند و مخرب باشد

اگر هوشیاری نیاز به گوشت داشته باشد، دیگر مهم نیست که فناوری چقدر پیشرفت کند و کل بحث هوشیاری هوش مصنوعی زیر سؤال می‌رود؛ زیرا بدون زیست‌شناسی، هوش مصنوعی ذهن نخواهد داشت و این یعنی خطر رنج کشیدن آن نیز منتفی است. البته این بدان معنا نیست که هوش مصنوعی پیشرفته ایمن خواهد بود. این فناوری برای ایجاد تهدیدات جدی وجودی، نیازی به آگاهی ندارد و در فرم کنونی هم می‌تواند قدرتمند و مخرب باشد؛ در عوض ما می‌توانیم فارغ از نگرانی برای ایجاد نوع جدیدی از برده‌، به ایجاد و تنظیم سیستم‌های هوش مصنوعی بپردازیم و دیگر عذاب وجدان نخواهیم داشت که نکند یک موجود هوشیار را مجبور کرده‌ باشیم تمام عمر را در کسوت طاقت‌فرسای پنجره‌ی چت خدمات مشتری به زندگی‌اش ادامه دهد!

به‌جای پرسیدن اینکه آیا هر سیستم هوش مصنوعی جدیدی که می‌سازیم دارای تجربه‌ی آگاهانه است یا خیر، باید به این سؤال اساسی‌تر پرداخت که آیا ساخت ذهن غیرزیستیِ دارای احساسات امکان‌پذیر است یا نه. پاسخ این سؤال می‌تواند بینش‌های بسیار گسترده‌تری برای ما به ارمغان آورد و ابعاد مختلف معمای اخلاقی ساخت میلیاردها ماشین آینده را برایمان روشن کند؛ ماشین‌هایی که نه‌تنها می‌توانند فکر کنند و عشق بورزند، بلکه حتی می‌توانند رنج و عذاب بکشند.

زیرلایه‌ی آگاهی: زیست‌گرایی یا آگاهی مصنوعی؟

تاکنون، تا آنجا که علم بشر می‌داند، همه‌ی چیزهای آگاه در این جهان از مواد زیستی ساخته شده‌اند. این نکته‌ی مهمی برای دیدگاه زیست‌گرایی افراطی است که از سوی فیلسوفانی مانند ند بلاک، مدیر مرکز ذهن، مغز و آگاهی دانشگاه نیویورک حمایت می‌شود. این افراد معتقدند مواد فیزیکی‌ای که یک موجود آگاه از آن ساخته شده است، یا همان زیرلایه‌ی ذهن، عنصری کلیدی است. اگر تاکنون فقط بسترهای بیولوژیکی توانسته‌اند زمینه‌ای برای تفکر و احساسات فراهم کنند، شاید منطقی باشد که فکر کنیم دلیلش این است که ساختار زیستی برای شکل‌گیری آگاهی ضروری است.

رزا کائو، استاد فلسفه‌ی دانشگاه استنفورد و صاحب مدرک دکترا در دو رشته‌ی علوم شناختی و فلسفه‌ی ذهن معتقد است که بار اثبات این قضیه باید بر دوش کسانی باشد که می‌گویند گوشت برای آگاهی ضروری نیست. او تأکید می‌کند که فرضیه‌ی کارکردگرایی محاسباتی، بسیار بیشتر از زیست‌گرایی تکیه بر حدس‌وگمان دارد.

با این حال، به نظر می‌رسد که بار اثبات به هر نحو بر دوش زیست‌گراها افتاده است. کارکردگرایی محاسباتی، با وجود منتقدان بسیاری که دارد، نفوذ گسترده‌ای در میان فیلسوفان ذهن امروزی پیدا کرده است. برای مثال، دیوید چالمرز، فیلسوف استرالیایی که با همکاری ند بلاک، آزمایشگاه دانشگاه نیویورک را اداره می‌کند، نه‌تنها در مورد ضروری بودن ساختارهای زیستی با بلاک مخالف است، بلکه اخیراً در محاسباتش احتمال توسعه‌ی هوش مصنوعی آگاه تا ۱۰ سال آینده را حدود ۲۰ درصد محاسبه کرده است!

ربات هوش مصنوعی

حدس او بر این فرض استوار است که کارکردگرایی محاسباتی آنقدرها مهم نیست؛ بلکه صرفاً عملکردهای ذهن مهم است. برخی کارشناسان این ویژگی را «استقلال بستر» می‌نامند. اگر بتوانید ماشینی بسازید که دقیقاً همان نوع عملکردهای محاسباتی ذهن ساخته‌شده از گوشت را انجام دهد، می‌توانید آن را هوشیار بدانید.

طرفداران کارکردگرایی محاسباتی معتقدند هر چیز فیزیکی‌ مادامی که بتواند محاسبات را به‌درستی انجام دهد، می‌تواند هوشیار باشد

در این دیدگاه، کارکردهایی که اهمیت دارند، انواع خاصی از روش‌های پردازش اطلاعات هستند؛ اما هنوز هیچ توافق نظری پذیرفته‌‌شده‌ای وجود ندارد که بگوید دقیقاً چه نوع پردازشی سیستم‌های ناآگاهی همچون ماشین‌حساب‌ها را از سیستم‌هایی همچون انسان که دارای تجربه‌ی آگاهانه هستند متمایز می‌کند. ایده‌ی اصلی این فرضیه این است که آنچه برای آگاهی اهمیت دارد، ساختار یا «منطق انتزاعی» پردازش اطلاعات است، نه چیزهای فیزیکی‌ای که آن را انجام می‌دهند.

بازی شطرنج را در نظر بگیرید. با یک تخته‌ی شطرنجی، دو دسته مهره و علم به قوانین بازی، هر کسی می‌تواند شطرنج بازی کند. اما اگر دو نفر در یک جزیره‌ی دورافتاده بدون تخته و مهره‌های شطرنج گیر بیفتند، باز هم می‌توانند بازی کنند؛ چرا که می‌توانند خطوطی روی شن‌ها بکشند تا نقش تخته را ایفا کند و تکه‌هایی از چوب و پوسته‌ها را برای استفاده به‌عنوان مهره‌ها جمع‌آوری کنند و دقیقاً با همان قوانین بازی کنند. پس بازی شطرنج به بستر فیزیکی‌اش بستگی ندارد؛ آنچه که اهمیت دارد، منطق انتزاعی بازی یعنی حرکت دادن مهره‌ها است، خواه از جنس مرمر باشند یا چوب، شن و حتی تکه اشیای پراکنده روی ساحل. هر ماده‌ای که بتواند رویه‌های منطقی درست را پشتیبانی و اجرا کند، می‌تواند بازی شطرنج را پیش ببرد.

طرفداران کارکردگرایی محاسباتی حدس می‌زنند آگاهی نیز همین‌گونه باشد. اگر آگاهی تنها منطق انتزاعی پردازش اطلاعات باشد، نقش زیست‌شناسی در ایجاد آن می‌تواند تا حد صفحه‌ی شطرنج تقلیل یابد.

متزینگر معتقد است که ما در این نقطه گیر کرده‌ایم و هیچ راهی برای دانستن اینکه آیا یک سیستم مصنوعی ممکن است آگاه باشد یا خیر، نداریم؛ زیرا تئوری‌های رقیب که همگی مبتنی بر فرضیات هستند، هیچ درک مشترکی از ماهیت آگاهی ندارند. علم اعصاب در برخورد با پدیده‌های عینی که می‌توان مستقیماً مشاهده کرد، خوب عمل می‌کند. مثلاً اینکه نورون‌ها بار الکتریکی را هدایت می‌کنند یا نه. اما فعلاً حتی بهترین فناوری‌های تصویربرداری عصبی هم نمی‌توانند تجربیات ذهنی را ببینند. ما فقط می‌توانیم پدیده‌های واقعی آگاهانه همچون احساس شادی، اضطراب یا لذت حاصل از گاز زدن یک خوراکی خوشمزه را از طریق کانال‌های غیردقیقی مانند زبان درک کنیم.

اریک هول، دانشمند علوم اعصاب، معتقد است علوم اعصاب مانند زیست‌شناسی قرن‌های پیش از نظریه‌ی تکامل، علمی «پیش پارادایمیک» است. اگر نتوانید بگویید آگاهی چیست، نمی‌توانید بگویید که آگاهی کجا می‌تواند به وجود بیاید و کجا نمی‌تواند.

ایده‌های کنونی ما در مورد آگاهی و رنج، متزینگر را بر آن داشته است تا درخواست تعلیق جهانی تحقیقاتی را که به تولید ناخواسته‌ی آگاهی‌های جدید نزدیک هستند مطرح کند؛ چرا که او نگران انفجار دوم رنج است. اولین مورد خودمان بودیم! دلشکستگی‌ها، شادی‌ها و هر چیزی که در بین انسان‌ها، حیوانات و شاید حتی گیاهان و حشرات وجود دارد، همه محصول طلوع تکامل زیستی روی زمین هستند.

تصویری از یک ربات انسان نما در پس زمینه سیاه و قرمز

به نظر می‌رسد که نمی‌توان تولد شکل‌های جدید آگاهی در آینده را به‌عنوان یک فاجعه‌ی اخلاقی قلمداد کرد. آیا بهتر بود روی این سیاره از هر نوع تکامل بیولوژیکی‌ای جلوگیری می‌شد؟ آیا مجموع رنج‌هایی که در گوشه‌گوشه‌ی جهان ما به وقوع می‌پیوندد، از شگفتی‌های زندگی بیشتر است؟ از منظر خدا، آیا کسی یا چیزی باید توسعه‌ی حیات بیولوژیکی روی زمین را تا زمان فهمیدن این که چگونه می‌توان چیزها را برای خوشبختی تکامل داد متوقف می‌کرد؟ به نظر نمی‌رسد که شرایط ذهن ما به خوبی برای سعادت و خوشبختی تنظیم شده باشد. مایکل لوین زیست‌شناس نیز در این مورد می‌گوید: «ویژگی‌های کلیدی ما، از طول عمر گرفته تا عقل، هیچ‌کدام برای شادی بهینه‌ نشده‌اند.»

ما نخستین موجودات آگاه جهان خواهیم بود که مسئولیت افزودن یک گونه‌ی جدید آگاه به این جهان را برعهده می‌گیریم

نوع نگاه ما به بحث زیرلایه و تفکر در مورد چارچوب‌های اخلاقی کاوش در منطقه‌ی خاکستری که امروزه در آن قرار داریم، می‌تواند کمک کند بفهمیم شناختی که تاکنون از مفهوم آگاهی داشته‌ایم اشتباه بوده است یا خیر. چه اعتقاد داشته باشید که جهان و محتویاتش را خدا آفریده است یا معتقد باشید همه‌ی ما درون شبیه‌سازی کامپیوتری زندگی می‌کنیم، در هر صورت ما نخستین موجودات آگاه جهان خواهیم بود که مسئولیت افزودن یک گونه‌ی جدید از آگاهی به این جهان را برعهده می‌گیریم. یعنی ما شرایط ایجاد آن‌ها را انتخاب می‌کنیم و همین دربردارنده‌ی یک مسئولیت اخلاقی عظیم است و این پرسش را ایجاد می‌کند که چگونه می‌توان اخلاق را رعایت کرد؟

یک تعلیق جهانی یا توقف از سوی مراجع بالادستی در تحقیقات مربوط به هوش مصنوعی هوشیار می‌تواند به علم آگاهی کمک کند تا خود را با سطح فعلی اخلاق در فناوری بشر تطبیق دهد. شاید به‌تدریج به درک دقیق‌تری از عواملی که هوشیاری را بهتر یا بدتر می‌کند برسیم یا حتی چیزی شبیه یک نظریه‌ی محاسباتی رنج بسازیم که به ما کمک کند درد و رنج را در سیستم‌های آگاه غیرزیستی آینده مهندسی کنیم.

به نظر نمی‌رسد بشری که این روزها به‌شدت درگیر ساخت راه‌آهن جدید و مسکن ارزان‌قیمت است بتواند بر سر توقف طولانی‌مدت پیشرفت‌های تکنولوژیکی که هوشیاری هوش مصنوعی را خطرناک می‌کند، به اجماع جهانی برسد. بعید است که انسان تنها به این دلیل که می‌خواهد یاد بگیرد چگونه خالق بهتری باشد و جزئیات خلاقیت‌هایش را به‌جای رنج، در جهت سعادت تنظیم کند، دست از تلاش در این مسابقه بکشد؛ اما اگر موفق شویم، می‌توانیم یک جهش تکاملی بزرگ را به خود اختصاص دهیم: عبور دادن آگاهی از وادی رنج.

درهم‌تنیدگی عمیق و مبهم آگاهی و زندگی

تئوری آگاهی تنها چیز مهمی نیست که ما برای پیشرفت واقعی در بحث زیرلایه‌ی آگاهی لازم داریم. بشر هنوز تئوری زندگی را هم ارائه نکرده است. یعنی زیست‌شناسان هنوز در مورد چیستی زندگی با هم توافق ندارند. شاید بتوانیم راحت بگوییم یک کامیون زباله زنده نیست در حالی که گربه‌ای در حال چرت زدن زنده است؛ اما بحث‌های بسیار بر سر مواردی همچون ویروس‌ها یا گلبول‌های قرمز خون نشان می‌دهد که بشر هنوز دقیقاً نمی‌داند چه چیزی موجب تفاوت بین چیزهای زنده و غیرزنده می‌شود.

کنش‌گرایان می‌گویند شاید به‌جای بخش‌های شناخته‌‌شده‌ی زیستی، تنها چیز لازم برای آگاهی، حیات است

این برای زیست‌گرایان مهم است، چرا که که هنوز نمی‌توانند بگویند ساختارهای زیستی دقیقاً چه دارند که برای آگاهی لازم است و نمی‌تواند در یک ماشین وجود داشته باشد. سلول‌های خاص؟ بدن‌های گوشتی‌ای که با محیط در تعامل هستند؟ متابولیسم‌؟ یک روح متصل به گوشت؟ شاید حیات و ذهن، این رازهای دوگانه، در واقعیت یکی باشند. شاید به‌جای بخش‌های شناخته‌شده‌ی زیستی که به آن‌ها اشاره شد، تنها چیزی که برای آگاهی نیاز است، حیات باشد. این استدلال را نخستین بار دو زیست‌شناس شیلیایی به نام‌های فرانسیسکو وارلا و هامبرتو ماتورانا در دهه‌ی ۱۹۷۰ مطرح کردند و امروزه گروهی از دانشمندان علوم شناختی تحت عنوان «کنش‌گرایان» از این فرضیه حمایت و از آن تحت عنوان «فرضیه‌ی تداوم ذهن و زندگی» یاد می‌کنند.

این فرضیه می‌گوید زندگی و ذهن، بیان‌هایی متفاوت برای توصیف یک ویژگی‌ اساسی یکسان هستند. ایوان تامپسون، فیلسوف برجسته‌ی کنش‌گرایی در این مورد می‌گوید: «از منظر تداوم زندگی و ذهن، مغز یا سیستم عصبی ایجادکننده‌ی ذهن نیست؛ بلکه دامنه‌ی ذهنی را که از قبل در زندگی وجود دارد، گسترش می‌دهد.» این فرضیه، تمرکز بحث زیرلایه را از سؤالاتی همچون «چه چیزهایی می‌توانند آگاه شوند» به «چه چیزهایی می‌توانند زنده باشند» تغییر می‌دهد؛ زیرا از نظر تامپسون، هشیار بودن بخشی از فرایندهای ضروری تنظیم حیات است.

چارچوبی به نام «کنش‌گرایی»، مجموعه‌ی کاملی از ایده‌ها درباره‌ی ملزومات و ضروریات زندگی یعنی تجسم، خودمختاری و عاملیت را دارد و همه‌ی آن‌ها را ذیل مفهومی به نام «حس‌سازی» جای می‌دهد. تامپسون همه‌چیز را این‌گونه خلاصه می کند: «زندگی، در شرایط ناامن معنا دارد و موجودات زنده و حس‌ساز معنا می‌آفرینند.» یعنی اهداف خود را تعریف می‌کنند و بخش‌های مختلف محیطشان را بر اساس همسویی یا ناهمسویی با اهدافشان به سه دسته‌ی دارای ارزش مثبت، منفی یا خنثی تقسیم می‌کنند.

این درک ارزش، لزوماً از یک پروتکل مشخص و الگوریتم ثابت پیروی نمی‌کند و یک رویه‌ی منطقی انتزاعی نیست؛ بلکه موجودات حس‌ساز، ارزش را از طریق دلپذیر بودن تجربه‌ی مستقیم خود تعیین می‌کنند. تامپسون معتقد است که تقلیل آگاهی به مجموعه‌ای از محاسبات، خصوصاً در بحث هوش مصنوعی، این اشتباه را ایجاد می‌کند که فکر کنیم می‌توانیم قوانین محاسباتی ثابت را جایگزین تجربه‌ی ذهنی حس‌سازی و معنا کنیم.

البته این فرضیه هم پاسخی به بحث زیرلایه نمی‌دهد و تنها سؤال را عوض می‌کند. با استناد به آن، شاید مدل‌های زبانی بزرگ امروزی نتوانند هوشیار شوند؛ چرا که فاقد بدن و اهداف تعریف‌شده‌ی درونی هستند و از آنجا که با چشم‌انداز دائمی مرگ روبه‌رو نیستند، نیازی به درک محیط‌ اطرافشان در شرایط بی‌ثباتی ندارند؛ اما هیچ‌یک از این موارد مانع از انجام فرایندهای تنظیم حیات به وسیله‌ی یک ماشین غیرزیستی نمی‌شود و طبق این فرضیه نیز حفظ حیات امکان بهره‌مندی از ذهن را به موجود می‌دهد.

کنش‌گرایان می‌گویند وظیفه‌ی حیاتی یک بدن، اعمال تغییرات در محیط اطرافش با هدف زنده نگه داشتن خود است. از منظر کنش‌گرایی، آنچه که اهمیت دارد تجسم فیزیکی اجسام است که آنان را در تعامل با محیطشان، به‌عنوان سازنده‌ی آگاهی می‌پندارد. پس آیا می‌توانیم با الهام از صحبت‌های آنان ربات‌هایی بسازیم که تمام وظایف لازم برای زندگی (و در نتیجه آگاهی) را بدون بهره‌مندی از ساختارهای زیستی اجرا کند؟ اینس هیپولیتو، استادیار فلسفه‌ی هوش مصنوعی در دانشگاه مک کواری در سیدنی می‌گوید: «این غیرقابل تصور نیست. اینکه آیا یک سیستم غیرزیستی می‌تواند به شیوه‌ای معنی‌دار و مثل سیستم‌های زنده تجسم یابد، یک سؤال جدی است.»

آیا آگاهی سرنخ ماجرا است؟

به گفته‌ی مایکل لوین، دیدگاه صفرویکی در مورد اینکه چه چیزی خودآگاه است، در دهه‌ی فعلی اعتبار نخواهد داشت. او اخیراً در مقاله‌ای که مجله‌ی Noema منتشر کرده ادعا کرده است که هوش مصنوعی پیشرفته، فرصت‌های فوق‌العاده‌ای برای کنار گذاشتن دسته‌بندی‌های قدیمی «طبیعی یا مصنوعی» در اختیار بشر می‌گذارد.

مرزهای میان سیستم‌های زنده و مصنوعی به‌خوبی در حال تضعیف شدن است. انسان‌ها اکنون از تمامی راه‌های ممکن از پمپ‌های انسولین زیرپوستی خودکار گرفته تا رابط‌های مغز-کامپیوتر و پروتزهای عصبی برای ادغام شدن با ماشین‌ها بهره می‌برند. در همین حال، ماشین‌ها نیز در حال ادغام با زیست‌شناسی هستند و شاهد چیزهای عجیبی از زنوبات‌های لوین (موسوم به اولین ربات‌های زنده) تا ترکیب سلول‌های زنده با اجزای مصنوعی در دستگاه‌های بیوهیبریدی هستیم.

برای مایکل لوین، تولید هیبریدهای زیستی-ماشینی فرصتی را فراهم می‌کند تا به‌جای پرداختن به سؤال قدیمی «ما چه هستیم»، تمرکزمان را بر سؤال هیجان‌انگیزتر «ما چه می‌خواهیم بشویم» بگذاریم. با این حال، اونیز تأکید می‌کند که ما باید خود را برای محبت کردن به لشکر «موجودات غیرمتعارف دارای شعور» در آینده آماده کنیم. این سخن لوین دوباره ما را به این سؤال بازمی‌گرداند که چه چیزهایی می‌توانند دارای احساسات باشند؟

یک مرد در حال کار روی سر ربات انسان نما از نیم رخ

حتی اگر مشخص شود که زیست‌شناسی برای شکل‌گیری آگاهی لازم است و ما نیز ماشین‌هایی را از جنس سلول‌های زنده بسازیم، آن ماشین‌های ترکیبی زیستی در چه شرایطی دچار رنج و آزار می‌شوند؟ نگرانی‌های متزینگر و تشویقش به درک بهتر چیزهایی که ممکن است متحمل رنج شوند، با محو شدن مرز میان چیزهای طبیعی و مصنوعی نه‌تنها از بین نمی‌رود، بلکه توجه به آن بیش از پیش ضروری می‌شود.

اگر رنج در ماشین‌های زنده، نوعی تجربه‌ی متفاوت از رنج در بدن‌های گوشتی باشد، قضایا از این هم پیچیده‌تر خواهد شد

اگر رنج در ماشین‌های زنده، نوعی تجربه‌ی متفاوت از رنج در بدن‌های گوشتی باشد، قضایا از این هم پیچیده‌تر خواهد شد. همانطور که آنا سیائونیکا، استاد فلسفه‌ی دانشگاه لیسبون توضیح می‌دهد، اگر استقرار آگاهی در سیستم‌های غیر زیستی امکان‌پذیر باشد، دلیلی ندارد که فرض کنیم جنس آن از همان نوعی است که ما می‌شناسیم.

سیائونیکا می‌گوید: «ما باید در این مورد متواضع باشیم. شاید راه‌هایی برای تجربه وجود داشته باشد که ما به آن‌ها دسترسی نداریم. شاید سیستم‌هایی که در آینده ایجاد می‌کنیم، راه‌های بخصوصی برای پردازش اطلاعات درباره‌ی جهان داشته باشند که به نوعی آگاهی منجر شود، اما این که تجربیات فعلی خود را به آن‌ها تعمیم دهیم، اشتباه است.» رنج در سیستم‌های آگاهی‌یافته ممکن است به شکل‌هایی باشد که ما مخلوقات گوشتی حتی نتوانیم تصورش کنیم و تلاش‌هایمان برای جلوگیری از رنج در ماشین‌ها در بهترین حالت یک دست‌و‌پا زدن ساده‌لوحانه باشد.

اگر انسان سیستم‌ آگاهی‌یافته‌ای طراحی کند احتمالاً هرگز نمی‌تواند جلوی رنج کشیدن آن را بگیرد

از طرفی مطمئن نیستیم که بیان تئوری رنج، آسان‌تر از تئوری آگاهی باشد. هر نظریه‌ای که بتواند تعیین کند که آیا یک سیستم معین می‌تواند آسیب ببیند یا خیر، اساساً می‌تواند یک نظریه‌ی آگاهی قلمداد شود. نمی‌شود رنج را بدون آگاهی تصور کرد. بنابراین هر نظریه‌ای در مورد رنج، احتمالاً باید آگاهی را نیز در بر گیرد. شهود بشر اینجا به کار نمی‌آید و همه‌ی محققان با سؤالاتی بدون پاسخ مواجهند.

زیست‌گرایان نمی‌توانند بگویند دقیقاً کدام بخش از ساختارهای زیستی برای یک ذهن لازم است. کنش‌گرایان می‌گویند این عامل ضروری، یک بدن فیزیکی تجسم‌یافته است؛ اما نمی‌توانند بگویند که آیا برای زنده بودن به ساختارهای زیستی نیاز داریم یا خیر. کارکردگرایان محاسباتی می‌گویند پردازش اطلاعات، کلید این معما است و می‌توان صرف‌نظر از جنس زیرلایه به آگاهی دست یافت؛ اما نمی‌توانند بگویند که دقیقاً چه نوع پردازش‌هایی آگاهی را ایجاد می‌کنند و چرا باید از زیست‌ماده که تنها بستر شناخته‌شده‌ی میزبان آگاهی تا به امروز است، دست بکشیم؟

لوین امیدوار است که در دنیای ذهن‌های جدید‌ آینده، یاد بگیریم که خویشاوندانی در تجسم‌های جدید داشته باشیم. او می‌گوید: «من دوست دارم موجودات بیشتری از مشاهده‌ی شگفتی‌های خلقت حیرت‌زده شوند؛ اما پاسخ این سؤال که آیا وقتی ماشین‌ها از خواب ناآگاهی بیدار شوند ما را به چشم خویشاوندان مهربانشان می‌بینند یا ظالمانی که بدون فکر و اندیشه آن‌ها را در شرایطی بی‌رحمانه به دنیا آورده‌اند، ممکن است به نحوه‌ی گذار از ناشناخته‌های بحث زیرلایه در زمان فعلی بستگی داشته باشد. خود شما اگر یک روز صبح بعد از مدت‌ها فراموشی، بیدار می‌شدید و خود را در قالب برده‌ای کم‌هوش با پیکری از گوشت شلخته و غوطه‌ور در رنجی عظیم می‌دیدید و دقیقاً هم می‌دانستید که چه کسی را باید مقصر آن وضع بدانید، چه احساسی داشتید؟»

منبع : زومیت

مشاهده بیشتر
دانلود نرم افزار

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا