آنچه میخوانید در مجلۀ شمارۀ 11 ترجمان آمده است. شما میتوانید این مجله را به صورت تکی از فروشگاه اینترنتی ترجمان تهیه کنید.
اگر رباتها عواطف انسانی پیدا کنند، آنگاه حق نداریم آنها را برنجانیم
آیا ممکن است بتوانیم واقعاً با یک ربات احساس صمیمیت کنیم؟ پاسخ به این پرسش واقعاً آسان نیست. فرض کنید رباتی داشته باشید که ده سال در خانۀ شما باشد، گاهگاه خاطراتی از روزهای گذشته یا غمها و شادیهایتان تعریف کند، به حرفهایتان گوش بدهد و در تصمیمگیری مشاورتان باشد. آیا او را دوست خودتان نخواهید دانست؟ گری گاتینگ میگوید پاسخ به این پرسش منوط به این است که بدانیم آیا رباتها میتوانند آگاهی داشته باشند یا نه؟
گری گاتینگ، کامنویل — آیا به سیری یا الکسا۱ میگویید «دستت درد نکنه»؟ من دوستانی دارم که این کار را میکنند. کارشان کمی سادهدلانه است، چون میدانند که این صداها فقط سیستمهایی الکترونیکی هستند که برای شبیهسازی تعاملات انسانی ساخته شده است. اما اگر فیلم او۲ را ببینید، شاید با خودتان بگویید ممکن است که یک سیستم عاملِ خیلی پیچیدهتر بتواند کاملاً یک شخص باشد: حتی شخصی که بتوانید عاشقش شوید. داستان کوتاه جدید یان مکایوان («دوسل …» در شمارۀ هجدهم جولای نیویورک ریویو آو بوکس)۳ قصهای منطقی و باورپذیر دربارۀ ماجرایی عشقی بین انسان و ربات را روایت میکند. و البته شمار زیادی فیلم داریم که جهانهایی را به تصویر میکشند که در آنها دستکم وسوسه میشویم به رباتها بهمثابۀ انسان فکر کنیم، از جنگ ستارگان گرفته تا اکس مشینا، و سریالهایی مثل وستورلد.
بیایید به جای فکر کردن به سناریوهای سینمایی به موردی فکر کنیم که اینقدر نمایشی نیست و واقعاً ممکن است به همین زودیها اتفاق بیفتد. از شرکت اپل یک آیپال۴ (چیزی که تبلیغاتش میگوید، «هر کس به یک پال [همصحبت] نیاز دارد) میخرم و آن را به خانهام میآورم: رباتی شبیه به انسان، که طراحی شده تا همصحبت آدمهای تنها شود. این ربات چهرهای مطلوب و پذیرا دارد، راحت و بدون تکانهای مکانیکی حرکت میکند، خیلی سلیس دربارۀ موضوعات معمولی حرف میزند، حس شوخطبعی خارقالعادهای دارد، و پیشنهادهای آگاهانه و همدلانهای دربارۀ شغل و زندگی شخصی من میدهد. تا مدتی ممکن است فکر کنم که صرفاً نسخۀ پیشرفتهای از سیری دارم، اما پس از تماس طولانی با آن -و شاید ارتقای نرمافزار یادگیری خودکار آن- ممکن است آیپال بتواند خاطراتی را از زمانهایی که با هم گذراندهایم بازگو کند، از شادی و غمِ چیزهایی که برایمان رخ داده بگوید، و گاهی نیز صادقانه راجع به اهمیت رابطهمان حرف بزند. فراموش نمیکنم که دارم با یک ربات حرف میزنم -یک ماشین، نه یک انسان- اما به این فکر فرومیروم که این ربات نگران و دلمشغول من است، و من یادم میماند که نگران و دلمشغول چه کسی هستم: یک دوست، نه فقط یک همصحبت. حال اگر ما واقعاً دوست هستیم، چرا دوست من، گرچه یک ماشین است، نتواند یک شخص باشد؟
اما اینجا باید مراقب باشیم. آیپال یک کامپیوتر است. آیا کامپیوترها واقعاً میتوانند فکر کنند؟ خب، آنها را طراحی میکنند تا عملیاتهایی را اجرا کنند که انسانها با فکرکردن اجرا میکنند. آنها دادهها را استادانه پردازش میکنند، طی یک گفتگو آن اطلاعات را در نقاط مناسب ارائه میکنند، و از آنها برای گرفتن نتایج معقول بهره میبرند. اما فکرکردن در این معنا یک عملیات سطح بالا به حساب میآید. پرسشِ دیگر این است که آیا محاسبات آیپالها با آگاهی سوبژکتیو از آنچه انجام میدهند همراه هست یا نه. شاید آنها هم مثل ماشینحسابها بدون این که واقعاً از محاسباتی که انجام میدهند یا از معنای آن محاسبات آگاه باشند خروجی را تولید میکنند.
اما حتی اگر بپذیریم که آیپال من از عملیاتهای فکریای که اجرا میکند به نوعی آگاهی دارد، باز هم این سؤال بسیار مهمتر وجود دارد که آیا تجربههای حسی و عاطفیای که انسانها دارند را نیز از سر میگذراند؟ اینجا دوباره باید بین کارکرد داشتن و آگاهی تمایز بگذاریم. شاید بتوانیم بگوییم یک چشم الکترونیک که هنگام نزدیک شدن یک فرد در را باز میکند آن شخص را «میبیند». اما تصور نمیکنیم که در این حالت دیدن به معنای واقعی کلمه یعنی به صورت یک آگاهی درونی و سوبژکتیو اتفاق میافتد. آن «چشم» صرفاً عملیاتِ واکنشیای را انجام میدهد که ما، به طریقی کاملاً متفاوت، با تواناییمان در آگاهی بصری انجام میدهیم.
بدون داشتن تجربههای سوبژکتیو، آیپال من نمیتواند یک شخص باشد و بنابراین نمیتواند دوست من باشد.
پس چیزی که باید بفهمم این است که آیا آیپال من واقعاً آگاه هست یا نه: آیا تجربههای درونی و سوبژکتیوی را که ما هنگام فکرکردن، ادراک حسی با حواس پنجگانه، یا احساس هیجان یا درد داریم آیپال هم دارد؟ اینجا پرسش من با یک معمای فلسفی معروف همسو میشود، یعنی مسئلۀ ذهنهای دیگر.
مسئله این است که چطور میتوانیم بدانیم که افراد دیگر هم واقعاً ذهن دارند؛ یا به عبارت دیگر، آیا افراد دیگر نیز همان تجربههای سوبژکتیو و درونی ما را دارند یا خیر. دارم میگویم تجربههایی که ما داریم، ولی در واقع سؤال این است که من چطور میتوانم بدانم که کسی به جز خودم تجربههای درونی دارد. به محض این که این پرسش مطرح شود، دورنمای سرگیجهآورِ خودتکانگاری۵ رخ مینماید، یعنی این دیدگاه فلسفی -یا توهم بیمارگونه- که تنها موجود آگاهی که وجود دارد من هستم. همچنین توجه کنید که سؤال این نیست که آیا دیگران تجربههایی متفاوت با من دارند یا نه (مثلاً چیزی که من قرمز میبینم را سبز میبینند)، نه، سؤال این است که آیا ممکن است دیگران اصلاً هیچ تجربۀ سوبژکتیوی نداشته باشند؛ آیا چراغهای ذهنی ممکن است کاملاً خاموش باشند؟
چطور چنین مسئلۀ غریبی ممکن است برای من پیش بیاید؟ چون من به تجربههای درونی خودم دسترسی دروننگرانه دارم، اما به تجربۀ هیچ شخص دیگری چنین دسترسیای ندارم. فقط من میتوانم «ببینم» (البته نه با چشمهایم) که دارم فکر میکنم که میخواهد باران بگیرد، به یک چهرۀ جذاب نگاه میکنم، یا دردی در زانویم احساس میکنم. البته دروننگری شاید قابل اعتماد نباشد: شاید وقتی به ساعت رولکس جدید دوستم فکر میکنم احساس حسادت داشته باشم، ولی معتقد باشم که صرفاً از رفتارهای مصرفگرایانۀ او متحیر شدهام. ولی حتی با این که گاهی دربارۀ سرشت تجربههای درونیام اشتباه میکنم، دستکم میتوانم مطمئن باشم که چنین تجربههایی را دارم. من هیچ دانش مستقیمی از این ندارم که افراد دیگر هم نوعی زندگی درونی دارند.
تشکیک کردن در این که آیا افراد دیگر نیز زندگی ذهنی درونی دارند یا نه یکی از مهمترین مثالها از استدلالهای فلسفی شکاکانهای است که دیوید هیوم (که خودش برخی از بهترینهایشان را طراحی کرده بود) به طرز طنزآمیزی هم از آنها بهمنزلۀ استدلالهای پاسخندادنی دفاع میکرد و هم از این میگفت که مطلقاً بیاثر هستند. قدرتِ منطقی این استدلالها را میبینیم، ولی کماکان به چیزی باور داریم که آنها میگویند باید در آن شک داشته باشیم. شککردن در این که افراد دیگر هم تجربههای درونی دارند چیزی است که ما اصلاً نمیتوانیم با آن کنار بیاییم.
ولی وقتی شروع به شناختن آیپال خودم میکنم، مسئلۀ ذهنهای دیگر به شدت موضوعیت پیدا میکند. اینجا موردی را داریم که در آن کاملاً میتوانم حکم کنم که اصلاً هیچ ذهنی در کار نیست. اما چطور به این حکم میرسم؟
شاید فکر کنیم نیازی به حکم صادرکردن نیست. چه اهمیتی دارد که آیپال من تجربۀ سوبژکتیو دارد یا ندارد؟ ولی بینهایت مهم است؛ اولاً به این دلیل که موجب رنج ناضرور برای دیگران شدن یکی از مهمترین شکلهای رفتار غیراخلاقی است (اگر نگوییم تنها شکل آن است). اگر آیپال بتواند رنج بکشد، آنگاه مجموعۀ کاملی از تعهدات اخلاقی خواهیم داشت که اگر نتواند رنج بکشد آنها را نخواهیم داشت.
اما این مطلب همچنین -و به ویژه- به این پرسش نیز مربوط است که آیا یک ربات میتواند واقعاً دوست من باشد. دوستی وجوه مختلفی دارد، که بعضی از آنها ممکن است در مورد رابطۀ من با یک ربات نیز صدق کنند. برای مثال، بودن با ربات میتواند لذتبخش باشد یا ربات میتواند به من در اجرای طرحهایم کمک کند. اما یک وجه ذاتی دوستی وجه عاطفی آن است. دوستان نسبت به هم احساس دارند؛ در شادیها و رنجهای هم شریک میشوند. در این وجه بسیار مهم، رباتی که به صورت سوبژکتیو نتواند احساسات را تجربه کند نمیتواند دوست من باشد. چطور میتوانم بفهمم که آیپال من واقعاً تجربههای سوبژکتیو دارد؟
در مورد انسانهای دیگر، «برهان ذهنهای دیگر»، با فرمولبندی کلاسیک جان استوارت میل، مبتنی بر یک تمثیل است. من میدانم که حالات سوبژکتیو درونیام اغلب با رفتارهای مشاهدهپذیر بدنم بیان میشود. غم به گریه میانجامد، درد به ناله؛ صحبتها نیز افکار را بیان میکنند. چون من دیگرانی را مشاهده میکنم که گریه و ناله و صحبت میکنند، دستکم محتمل است که رفتارهای بدنی آنان نیز بیان حالتهای سوبژکتیو باشد. یک ایراد ظاهراً قاطع بر این استدلال این است که تمثیلش فقط بر یک مثال استوار شده است. چه دلیلی دارم که فکر کنم من مثال نوعی یک انسان هستم؟ با توجه به کل چیزهایی که میدانم، من استثنای نادری هستم که در آن حالتهای سوبژکتیو موجب رفتار بدنی میشوند، در حالی که در دیگران این حالتهای مغزی هستند که موجب رفتار بدنی میشوند.
ولی شاید راهی باشد که بشود این استدلال تمثیلی را به نحو دیگری تنظیم کرد. من جدا از این که میدانم حالتهای ذهنیام موجب رفتارم میشوند، این را هم میدانم که حالتهای مغزم موجب حالتهای ذهنیام میشوند. با زیاد خوردن الکل احساس گیجی میکنم، و با زیاد خوردن قهوه احساس سرحالی بیش از حد به من دست میدهد. بر مبنای تجربۀ خودم چیزهای زیادی در مورد ربط این چیزها به هم میدانم، و دلایل زیادی هست که فکر کنم مطالعۀ عصبشناختی جامعی روی مغزم نشان خواهد داد که تقریباً همۀ زندگی ذهنیام توسط فرآیندهای عصبی ایجاد میشود. اما اگر این یک واقعیت علمی است که فرآیندهای عصبی من تجربههای سوبژکتیو ایجاد میکنند، چرا نباید فکر کنم که این فرآیندهای عصبی در مغز افراد دیگر هم درست به همین طریق کار میکنند؟ شاهدی نیست که بگوید مجموعۀ خاصی از قوانین عصبشناختی برای مغز من وجود دارد.
ولی حتی اگر این استدلال حجت خوبی برای این فراهم کند که دیگر انسانها نیز تجربههای سوبژکتیو دارند، به مسئلۀ آیپال من، که با یک ساختار فیزیکی کاملاً متفاوت از مغز انسان ساخته شده است، کمکی نخواهد کرد. شاهدی نیست که بگوید این ساختار فیزیکیِ متفاوت موجب تجربههای سوبژکتیو میشود، پس دلیلی نداریم که فکر کنیم آیپال من چنین تجربههایی دارد. اما بدون تجربههای سوبژکتیو، آیپال من نمیتواند یک شخص باشد و بنابراین نمیتواند دوست من باشد.
به این ترتیب، روایت جدیدی از مسئلۀ ذهنهای دیگر در برابر ما قرار دارد. آیا راهی هست که نشان دهد یک ربات (چیزی که تحت قوانین عصبشناختی انسانی قرار ندارد) تجربههای سوبژکتیو درونی دارد؟ بر خلاف مسئلۀ سنتی، این مسئله ممکن است به زودی اهمیت عملی اضطراری پیدا کند.
پینوشتها:
• این مطلب را گری گاتینگ نوشته است و در تاریخ ۲۰ دسامبر ۲۰۱۸ و با عنوان «Friends Without Brains» در وبسایت کامنویل منتشر شده است. وبسایت ترجمان آن را در تاریخ ۱۷ دی ۱۳۹۷ با عنوان «آیا رباتها میتوانند احساس داشته باشند؟» و ترجمۀ محمدابراهیم باسط منتشر کرده است.
•• گری گاتینگ (Gary Gutting) استاد بازنشستۀ فلسفه در دانشگاه نوتردام است. آخرین کتاب او بحث از خدا: ایمان نزد فیلسوفان (Talking God: Philosophers on Belief) بوده است. «گفتوگوهای گری گاتینگ با فیلسوفان سیاسی» مجموعهای از مصاحبههای اوست که پیش از این در ترجمان منتشر شدهاند.
[۱] Siri و Alexa: به ترتیب هوش مصنوعی بهکاررفته در دستگاههای شرکت اپل و آمازون هستند [مترجم].
[۲] her
[۳] “…Ian McEwan, “Düssel
[۴] iPal
[۵] solipsism
برخی افکارشان به شکل تصویر است و بعضی به شکل واژهها. اما فرایندهای ذهنی مرموزتر از چیزی که تصور میکنیم هستند
یک متخصص هوش مصنوعی میگوید فرق انسانها با هوش مصنوعی در نحوۀ آموختن آنهاست
سوپر استار عالم روشنفکری بیش از همیشه با چپها به مشکل خورده است
گفتوگویی دربارۀ دشواری همتاسازی هوش انسانی در رایانهها
به نظر من همه این مسئلهها به این بر میگرده که ما به روح داشتن انسان باور داشته باشیم یا نه ؟ اگر ما رباتی درست کنیم مثل سریال وست ورلد که کاملا مشابه انسان باشد و حتی بتواند احساسات را به خوبی به نمایش بگذارد آیا میتوان استدلال کرد که مغز انسان نیز مثل پردازشگر آن ربات هاست چرا که دقایقا مشابه آن است؟ و این جا است که مسئله روح پیش میآيد اگر ما روح نداشته باشیم میتوان گفت که آن رباتها با ما برابر هستند ،چرا که ما هم مانند آنانیم فقط در نحوه کار پردازشگرمان با هم تفاوت داریم اما اگر برای انسان روح قائل شویم آنگاه معادلات عوض میشود و انسان چیزی فراتر از بدن و مغز و ... میشود و ما باز هم به آنان برتری داریم.
برای تبدیل شدن یک ربات دارای هوش مصنویی به انسان ، خلق آگاهی در سطح انسان امروزی اولین قدم است. نکته ای که نباید فراموش شود میزان شناخت انسان از چیستی خود و دیگر موجودات این سیاره است. امروز ما میدانیم که انسان دارای شش حس است . به غیر از حس ششم که تعاریف مبسوطی دارد بقیه آنها بسیار آشنا و قابل استفاده در یک ربات است. اما ایا حس ششم ، فراحس و یا روح یا هر اسمی که روی آن میگذاریم یک ابزار یا دستگاه بیولوژیکی است؟ اگر اینگونه است این ابزار در کجای ما نهفته است؟ آیا اگر همانند آیین (رقص دور اتش و دعا) ی سرخ پوستان چندین ربات مجهز به هوش مصنویی پیشرفته در حد انسان امروزی در کنار یکدیگر همزمان به یک موضوع فکر کنند و برقسند سطح انرژی در اطراف این چند ربات بالا خواهد رفت؟ سوالات بسیاری از این دست وجود دارد که فعلا گویای این تفکر است . موجود غیر بیولوژیک مجهز به هوش مصنویی پیشرفته نمیتواند کاملا همانند یک انسان باشد.