«وستورلد» ما را به تأمل دربارۀ دلالتهای فلسفیِ هوش مصنوعی وامیدارد
سریال «وستورلد» داستان یکی از پارکهای سرگرمی مدرن است که روباتهایی را در سرزمینی بهسبک غرب وحشی جای داده تا «میزبان» و ارضاکنندۀ امیال پست انسانها باشند. ولی روباتها، بهواسطۀ هوش مصنوعی پیشرفتهشان، در مسیر کسب آگاهی و فرار از زندانیاند که برنامهنویسهای پارک برای ذهن و جسمشان خلق کردهاند. این درام میتواند مخاطب خود را وادار کند که دربارۀ مسائلی چون خلقت، آگاهی و نیز وظایف اخلاقی ما انسانها در قبال روباتهای هوشمند تأمل کند، روباتهایی که شاید با ورودشان به زندگی روزمره چندان فاصله نداشته باشیم.
Westworld Finale Takes a Roundabout Path to Grappling With God, Avoids Concluding Anything
12 دقیقه
سونیا سراییا، ورایتی — ۲۸ نوامبر، ناتان هلر در نیویورکر نوشت: «شکنجۀ روباتها مسئله است، اما نه بهخاطر چیستی روبات بلکه بهخاطر آن بخشی از وجودمان که برای ما ترسناکتر از هر چیز دیگر است.» نوشتۀ او دربارۀ سریال «وستورلد» در شبکۀ اچ.بی.او نبود، اما میتوانست باشد. در فصل اول که دیشب پایان یافت، ده اپیزود طولانی به تأمل دربارۀ «آگاهی» روباتها اختصاص داشت: مقایسۀ انسانها با «میزبانها»، خالق با مخلوق، و استثمارگر با استثمارشده. اما هرچند هوش مصنوعی (و موضع اخلاقی ما در قبال آن) پدیدهای در افق دید بشر است، روشن نبود که «وستورلد» دربارۀ انسانهای مخاطب خود، یا به آنها، چه میگفت.
در نگاه اول، «وستورلد» حکایت عیاشیِ گناهآلود انسان است، اگر بتواند بیعقوبت مرتکب تجاوز و قتل شود. پوستکندن از سر و دریدن شکم در این «بازیْ» خشونتی خونبار و علاوهبرآن دیوانهوار را ترسیم میکند. خود من بارها به این فکر میکردم که چطور باکتری عفونی ام.آر.اس.ای به شکم میو، بانوی مدیر فاحشهخانه، راه پیدا کرد. میزبانها چنان زنده به نظر میآیند که بازآفرینیِ وحشت و فانتزی روی پیکرهای واقعنِمای آنها از طریق سکس و قتل، از منظر مخاطب، عملی شنیع است. در گرهگشایی از این سؤال که چطور میتوان بهترین آدمِ آن پارک بود، مرد سیاهپوش مقابل مهمانانی مثل ویلیام قرار میگیرد: مرد سیاهپوش مرتکب قتل و تجاوز به دلوریس (شاید چندین بار) میشود، اما ویلیام دلبستۀ او میشود و میبیند که صبح روز اولین عشقبازیشان اقیانوس را نقاشی میکند. مرد سیاهپوش دنیایی پیشِ روی خود میبیند که باید آن را فتح کند، اما ویلیام دنیایی میبیند درخور رمانس و ماجراجوییهایی که در کتابداستانهای کودکیاش آمده بود.
اما بزرگترین چرخش داستان، در قسمت آخر این فصل، آن بود که ویلیام و مرد سیاهپوش درواقع یک نفرند: ۳۵ سال پیش، ویلیام به «وستورلد» آمد و عاشق دلوریس شد. او فهمید این دنیای فانتزی، که برای استراحت به آن پا گذاشته بود، دنیایی است که میل به تملک و مصرفش دارد. ویلیام هیولا شد، که این شاید انسانیترین قصۀ این ماجرا باشد. عجیب این است که این راز، با مونولوگی توضیحی همراه با یک سلسله فلاشبک، بر مخاطب آشکار میشود. ماجرا را نشانمان نمیدهند، بلکه با چند بُرشِ درهمآمیخته برایمان میگویند. ویلیام در «وستورلد» به مرد سیاهپوش تبدیل نمیشود، چون سیر تبدیل او (یا، بهتعبیری، بدشدنش مثل سریال «بریکینگبد») برای این نمایش جاذبه ندارد. درواقع تقریباً همۀ شخصیتهای اصلی «وستورلد» یا از ابتدا میزباناند یا تا پایان فصلِ اول میفهمیم که میزبان بودهاند. شاید این نمایش برای انسانها باشد، اما دربارۀ انسانها نیست.
پس ما انسانها قرار است از آن چه بفهمیم؟
تا پیش از قسمت آخر، پاسخ این سؤالْ گویا آن راز دشوار انسانی و فراگیر بود: آگاهی از خود. «وستورلد»، با تأکید بر آنچه میان ما و میزبانها مشترک است، مخاطبان را به داستانهای میزبانها میکشید: آگاهی، یعنی هوشیاری و فهم از خویشتن. البته، با توجه به نکتۀ ناتان هلر در ابتدای متن، اکثر انسانها برای شناخت «هوشیاری» به آن گوش میسپارند تا ببینند دربارهشان چه میگوید. اما چه حقۀ تمیزی است این همدلی. همان ابزاری که فرد را به همذاتپنداری با یک روبات وامیدارد، فرد را به همذاتپنداری با شخصیتِ روی پرده، شخصیتی داستانی و ساختگی و نه واقعی، نیز وامیدارد.
«وستورلد» -با حجم طنزآمیزی از خودارجاعیهای اضطرابآلود دربارۀ اینکه تصمیمات خلاقانۀ اتاق نویسندگان چه بر سر آنهایی میآورد که محکوم به خواندن این نمایشنامههایند- سازوکار داستانسرایی را به دنیایی از جنس گوشت و خون کِشاند. فراآگاهیِ «وستورلد» از قدرتِ روایتْ این نمایش را به نقدی بر داستانسرایی (یا حتی نویسندگی برنامههای تلویزیونی یا درامهای سطحبالا یا حتی خودِ شبکۀ اچ.بی.او) تبدیل کرد. اینگونه بود که زمینه برای گفتوگوهای خوشایند (و گاه بیمایه) دربارۀ شخصیت، عاملیت و آگاهی تبدیل شد که اساتید عروسکبازی در پسزمینهاش نشسته بودند: هیولای بدبینی به اسم فورد و شبح مردی مستعدتر و مهربانتر که خالقِ آغازینِ میزبانها بود، یعنی آرنولد. آنها در ابتدا بحث میکردند که بهترین راهِ ساخت این شخصیتها برای مصرف انسانها چیست اما، درنهایت، کار به مشاجره دربارۀ طبیعتِ انسان و سودمندی آگاهی پیچیده رسید: اگر شخصیتها صرفاً برای سکس و قتل آنجایند، اینکه توان همدلی دارند چه اهمیتی دارد؟ شاید فورد بپرسد، و شاید آرنولد بگوید، که خلق باید فینفسه اثری زیبا باشد.
و روزبهروز روشنتر شد که نظر آرنولد خالی از حکمت نبوده است. علیرغم تلاش آرنولد برای تمایز میان مخلوقاتش و مردم واقعی، ساده میشد دید که سلطۀ او بر میزبانها دستِکمی از سرکوب و زندانبانی ندارد. برخی از میزبانها، که بهتعبیر حقوقیْ عنوان «قربانی» هم برازندۀ آنهاست، بهگونهای برنامهنویسی شدهاند که ظالمان تبهکار باشند و، در همین حال، انسانهایی که مدیریت پارک را بر عهده داشتند، هم خدا بودند و هم بنده: دریکسو به موجودات زنده جان میبخشیدند و درسویدیگر مطیعانه فرمان میبردند. به نظر میرسید که نگاهی منفی به همۀ انواع آگاهی، در فورد، رخنه کرده است: او در ازکارانداختن میزبانها و قتل انسانها یکجور ارادۀ سنگدلانۀ مشابه از خود نشان میداد. در همین حال، آرنولد حیات میبخشید چون آن را زیبا و شگفت میدید و، درنهایت، خوشقلبتر از آن بود که کار مکانیکیِ این استثمارِ پرسود را طاقت بیاورد.
«وستورلد» با این دوگانۀ میان جان و بیجان، و روبات و انسانْ نغمۀ خوشآهنگی مینوازد که گاه هدفش اکتشاف محض است، مثل وقتی که آرنولد برای اولین بار دلوریس را تعمیر میکند. زمان زیادی از این درام به گلوصافکردن و صحنهچینی گذشت، چنانکه شش اپیزودِ اول را عملاً میتوان فراموش کرد و برخی کشمکشهای جانبی نیز گویا هیچ کاربردی نداشتند، الا اینکه صحنهای برای آهنگ دوستداشتنیِ رامین جوادی بسازند. (یادتان باشد در این برنامه یک زوج، هنگام عشقبازی، بهطرز خشونتباری جان سپردند، آن هم نه یک بار که دو بار: «وستورلد» برای اینجور بازیها زیاد وقت گذاشته بود.)
این را بهتر از همه میتوان در اصلیترین اشارهای دید که «وستورلد» بر آن دلالت میکند: در این باور تفکربرانگیز که «دردْ خالق آگاهی است». برخلاف آموزههای یودا، استاد خردمند جنگ ستارگان، «وستورلد» میگوید که درد موجب ماندگاری خاطرات است و رنج یا درد درازمدتْ آگاهی را از دل خاطرات (از دل آن فهم خویشتن) خلق میکند. این شاید نقشۀ راه دستیابیِ میزبانها به هوش مصنوعی باشد، اما چنان وجه انسانیِ آشنایی دارد که ماجراهای روباتهای «وستورلد» را، برای انسانهای ناظر، به ماجراهای انسانی تبدیل میکند. برنارد، در تلاش برای فهم این تراژدیِ محوریِ داستان، روش و واژگانی را به کار میگیرد که شبیه به نسخهای پرشتاب و بیرحم از «درمان بازگشت»۱ است: روش روانشناختیِ نسبتاً آشنایی که بهنحوی درخشان روی ذهنی مصنوعی پیاده شده است. دلوریس نیز به همین ترتیب، اما کُندتر از برنارد، چندین دهه در قلمرویی ثابت دور خود میچرخد. با این داستان و روش، میزبانها از جهتی انسان میشوند: فرایندهای ذهنیشان چنان شبیه ماست که، خواه روبات باشند یا نه، از حلقههای مشابه و پیچوخمهای همانندِ ما برای ادغام در زندگی و درکِ آن میگذرند.
یا میشود گفت که بهنوعی مشابهاند. دلوریس و برنارد در تلاشاند که راه خود را از میان مارپیچ آن سرزمین بیابند تا به مرکزش برسند (استعارۀ «وستورلد» برای یافتن خویشتن). اما میو، بهخاطر خطایی که در کُدنویسیاش رُخ داده است، ناگهان در زیرزمین کارگاه دانشمندانِ دیوانه از خواب برمیخیزد و میخواهد که برنامهاش اصلاح شود. او برنامهنویسهایش را وادار میکند او را شکستناپذیر کنند، انگار که پرومته آتش را از زئوس بدزدد و بعد، محض تفریح، کوه المپیوس را به آتش بکشد. میو نیز یاد میگیرد اما نه از طریق روایتِ درمانگری، بلکه از طریق روایت ضروری بقا. او در پی کاوش در معنای «آگاهی» نیست، بلکه فقط تابع اولین دستوری است که آگاهی صادر میکند: زنده بمان!
و در میانۀ قسمت آخر، هر سهْ راه منحصربهفرد خود بهسمت خودشکوفایی، یعنی بهسمت مرکز مارپیچ، را یافتهاند. تدی، شخصیت اصلی چهارم با آن ظاهر چشمنواز اما توخالیاش، از ادامۀ مسیر بازمیماند. چه ماجرای باشکوهی: دلوریس زمان و مکان را به چالش میکشد، برنارد سازندهاش را و میو با آن زور و قدرتْ نظامی را که او را گرفتار کرده است. ولی، چنانکه فورد در قسمت آخر با یک چشمک و سر تکاندادن و گیلاس شامپاین افشا میکند، همۀ این ماجرا از ابتدا نقشۀ او بوده است.
یعنی مسئلۀ قسمت آخرِ «وستورلد»، علیرغم همۀ جذابیتش، بهواقع آن چیزی نبود که در قسمتهای قبل گذشت. حتی انسانها نیز مسئلۀ این قسمت نبودند، الا بهمعنای انتزاعیِ آنچه برخی از آنها دربارۀ روباتها در ذهن داشتهاند. مسئلۀ قسمتِ آخرْ اراده بود: تنش میان برنامهنویسی و آگاهی، و اینکه آیا تفاوتی میان این دو هست؟ ولی متقاعد نشدهام که مسئلۀ اراده در این برنامه چندان ربطی به انسانها داشته باشد. «وستورلد»، بیش از آنکه ما (یا مخلوقاتمان، خواه از جنس داستان یا روبات) را به چالش بکشد، گویا خدا (یا تصوری از خدا) را بازجویی میکند که نظامی پرنقص و مخدوش میآفریند و از دور به نظارۀ مخلوقاتی مینشیند که در تلاشاند با خود آشتی کرده و خود را درک کنند. خدای ما، فورد. چرا او باید چیزی بیافریند که برگردد و درنهایت او را بکشد؟ چرا با لبخندی بر لب چنین کند؟ آیا واقعاً قرار است باور کنیم که همۀ این ماجرا از ابتدا نقشۀ او بوده است؟
نمایشی را در نظر بگیرید که اشارههای زیادی دارد و درعینحال هیچیک را بسط نمیدهد، یا اینکه زیاد میپرسد اما جواب نمیدهد. این نمایشْ مزیتهایی دارد. علیرغم آنهمه گریزهای جذاب به مقولۀ آگاهی، بهسختی میتوان فهمید که «وستورلد» دقیقاً میخواهد چه حرفی دربارۀ آگاهی بشر یا هوش مصنوعی یا داستانها یا چهرۀ خدا بزند، البته اگر اصلاً حرفی داشته باشد. درعوض، «وستورلد» تمثیلی از خلقت و آگاهی است، نمایشی مملو از حکایتهای پُر از پارادکس و متقاطع. این برنامهْ ماهرانه از ختم مسئلههایی که طرح کرده طفره می رود و پرشهای منطقیِ پرشتابی خلق میکند تا بهدنبالشان برویم. این کارش، درعین زیبایی، دیوانهکننده است.
سریال «وستورلد» چنان بیخیال است که پیش خودم فکر میکنم شاید فقط ملغمهای از «چیزهای باحال» است، ازجمله ماهیت خودآگاهی و قدری وجودگرایی در کنار کلاههای کابویی و غرب وحشی. این درام چنان دربارۀ چیستی خود مبهم عمل میکند که اگر (این «اگر» خیلی جدی است) همۀ سیرهای زمانی و پیرنگهای داستانیِ این فصل را دنبال کنید شاید به داستانی برسید که فقط نشانۀ مهارتش در داستانسرایی است. کشف بزرگ دلوریس، در جستوجو برای یافتن صدایی که با او سخن میگوید، آن است که او روی یک صندلی در مقابل خودش نشسته و از خودش سؤال میپرسد. آیا «وستورلد» ما را از دالانهای شیشهای عبور داد تا به نقطۀ آغاز راهمان برسیم؟ آیا همۀ این مدت به یک صندلی خالی خیره شده بودیم؟
البته چنین برداشتی جذاب است، اما تصورم این نیست که «وستورلد» بهدنبال فریبکاری باشد، شاید چون از برنامههای تلویزیونی چیزی بیشتر از اغفال و ظاهرسازی را انتظار دارم. اما صادقانه بگویم که این فصل، علیرغم آغاز کُند و طفرهروی از پاسخ به سؤالات، باز هم سفری غافلگیرکنندهتر و لذتبخشتر از حد انتظارم بود. اگر «وستورلد» تابع مسیری مثل همان مارپیچ مشهور داستانش بود، شاید هرچه به انتها نزدیکتر میشدیم، اپیزودهای آن هم فشردهتر میشدند. ولی بهگمانم شاید پرسشهای حیاتی این درامْ راهی برای کشاندن بینندگان به پیچوخمهای مارپیچ بوده باشد: اینکه آگاهی، تاحدی، نکتۀ انحرافیِ ماجرا بوده است
پینوشتها:
• این مطلب را سونیا سراییا نوشته است و در تاریخ ۵ دسامبر ۲۰۱۶ با عنوان «Westworld Finale Takes a Roundabout Path to Grappling With God, Avoids Concluding Anything» در وبسایت ورایتی منتشر شده است. وبسایت ترجمان در تاریخ ۱ دی ۱۳۹۵ این مطلب را با عنوان «سریال ’وست ورلد‘؛ دربارۀ خدا، آگاهی و اخلاق» و با ترجمۀ محمد معماریان منتشر کرده است.
•• سونیا سراییا (Sonia Saraiya) منتقد تلویزیون در مجلۀ اینترنتی ورایتی است.
[۱] Regression Therapy: «بازگشت» یکی از مکانیسمهای دفاعی روانشناختی است که فرد در آن به بازهای از گذشتۀ زندگیاش بازمیگردد که در آن اضطراب و زحمت کمتری داشته است.
رمان مدار زمین ما را به زندگی روزمره و خیالانگیز شش فضانورد دعوت میکند
چرا برای توصیف روابط انسانی از استعارههای مکانی و معماری استفاده میکنیم؟
دیوید گرن، نویسندۀ چیرهدست آمریکایی، با کتابی تازه دربارۀ کشتی ویجر، تحسین منتقدان را برانگیخته است
مارکس در جوانی میخواست شاعر شود، نه نظریهپرداز سیاسی
من ایرادی به مقاله ندارم . نقدم به سازمان صدا سیما هست چرا روی فیلم ها و سریال های علمی تخیلی سرمایه گذاری نمی کنند مثل سریال با کیفیت خوب جلوه های ویژه در مورد سفر ایران به کره مریخ و کلونی سازی اونجا درست کنند تا کی ما باید آینده خودمون رو تو سریال های آینده نگر آمریکایی و شخصیت های آمریکایی ببینیم . همه ما میدونیم که ربات ها با این کیفیت و هوش مصنوعی به این قوی ایی شاید 40 سال دیگه محقق بشه اما سریال سازها و فیلم سازهای آمریکا با اوردن قهرمان داستان و تحقق این هدف در آمریکا نسخه خودشون رو به جهان تصویر سازی می کنند بنظرمن با بودجه صدا و سیما و نظم سازمانی که این نهاد داره اما هیچ گونه فیلم و سریال با کیفیت خوب درست نمی کنند بخش خصوصی هم روی فیلم های آینده گرایانه و تخیلی هیچ سرمایه گذاری نمی کنند بنظرم سازمان صدا سیما باید ورود کنه چون آمریکا برای به رخ کشیدن تکنو لوژی که هنوز ساخته نشده خودش رو قهرمان دنیا تصویر سازی میکنه چرا ایران دست به این کار نزنه در صنعت سینما و سریال
هرچند سعید درست میگن و من هم یه امتیاز مثبت بهشون دادم ولی فکر میکنم استفاده از لفظ مبتدی خوب نبوده اینجا. به هر حال من امروز دوازدهم دی ماه میام و این مطلب رو میخونم و دقیقا تذکری که روز چهارم دی داده شده هنوز اعمال نشده و به نظر من این بزرگترین اشتباهی هست که میشه به این مقاله گرفت (مقاله ضعفهای دیگه ای هم داره البته به نظر من). خواهشا لطف کنید و ویرایش کنید نکته ی دیگه اینکه من متن اصلی رو در سایت ورایتی خوندم و به نظرم منتقد مقاله رو خوب ننوشته و ایرادات مقاله به مترجم مربوط نیست. ایشون فقط همون دو خبطی گه گفته شد رو انجام داده اند که به راحتی جبران پذیرند و امیدوارم سریعا ویرایش کنن (کنید).