مروری بر کتاب «زندگی ۳.۰»
ما برای کنار آمدن با فناوری آینده به‌شدت ناآماده‌ایم
چهارشنبه ۱۷ آبان ۱۳۹۶ ۰۸:۰۸
 
اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی است، احتمالاً اشتباه است؛ اما اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی نیست، قطعاً اشتباه است. هوش مصنوعی احتمالاً مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود و زندگی‌هایمان را ‌طوری دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اما واقعیت این است که اکثر ما همچنان درک بسیار مبهمی از هوش مصنوعی داریم. یووال هراری از میزان آمادگی ما برای رویارویی با آینده می‌گوید.
تخمین زمان مطالعه : ۷ دقيقه
 
تصورات سینمایی... فیلم‌های علمی‌تخیلی‌ای مثل ماتریکس: بارگذاری مجدد با هنرنمایی کیانو ریور، به فهم محدود ما از هوش مصنوعی شکل داده‌اند. عکس از: اسنپ استیلز/REX
 

گاردین — هوش مصنوعی احتمالاً مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود. اقتصاد، فرهنگ، سیاست و حتی بدن‌ها و ذهن‌هایمان را نیز به‌طرقی دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی است، احتمالاً اشتباه است؛ اما اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی نیست، قطعاً اشتباه است.

فناوری هرگز جبرگرا نیست: می‌تواند برای خلق انواع گوناگونی از جوامع به کار رود. در قرن ۲۰، از راه‌آهن، الکتریسیته و رادیو برای شکل دادن به دیکتاتوری‌های نازی و کمونیستی، و همچنین برای ترویج دموکراسی‌های لیبرال و بازارهای آزاد استفاده شد. در قرن ۲۱، هوش مصنوعی طیف حتی گسترده‌تری از امکانات را کلید خواهد زد. تصمیم به تحقق هرکدام از این‌ها، به‌احتمال زیاد مهم‌ترین انتخاب بشر در دهه‌های پیش‌روست.

این انتخاب مسئلۀ مهندسی یا علم نیست. مسئلۀ سیاست است. بنابراین چیزی نیست که بتوانیم آن را به سیلیکون‌ولی وا نهیم، بلکه باید در میان مهم‌ترین موضوعات برنامۀ سیاسی‌مان باشد. متأسفانه تاکنون هوش مصنوعی به‌ندرت روی رادار سیاسی‌مان ثبت شده است. در هیچ‌یک از کارزارهای انتخاباتی موضوع اصلی نبوده و اکثر احزاب، سیاستمدارها

متأسفانه تا کنون هوش مصنوعی به‌ندرت روی رادار سیاسی‌مان ثبت شده است
و رأی‌دهنده‌ها، انگار هیچ نظری دربارۀ آن ندارند. دلیل اصلی آن این است که اکثر مردم درک بسیار مبهم و محدودی از یادگیری ماشین، شبکه‌های عصبی [مصنوعی] و هوش مصنوعی دارند. (اکثر ایده‌های پذیرفته توسط عموم دربارۀ هوش مصنوعی از فیلم‌های علمی‌تخیلی ازقبیل ترمیناتور و ماتریکس می‌آیند.) بدون فهم بهتری از این رشته، نمی‌توانیم به دوراهی‌هایی که سر راهمان قرار گرفته‌اند اشراف داشته باشیم: زمانی‌که علمْ سیاسی می‌شود، نادانی علمی منجر به فاجعۀ سیاسی می‌گردد.

کتاب مکس تگمارک، زندگی ۳.۰، سعی در جبران مافات دارد. این کتاب که فهم‌پذیر و جذاب نوشته شده و هدفش عموم کتاب‌خوان‌هاست، نقشه‌ای سیاسی و فلسفی از وعده‌ها و مخاطرات انقلاب هوش مصنوعی ارائه می‌کند. تگمارک به‌جای تمرکز روی یک برنامه یا پیش‌بینی خاص، در پی پرداختن به بیشترین زمینه‌های ممکن است و تنوع گسترده‌ای از سناریوهای مرتبط با تأثیر هوش مصنوعی بر بازار کار، جنگ و نظام‌های سیاسی را مرور می‌کند.

زندگی ۳.۰ در توضیح اصطلاحات اصلی و مباحث کلیدی، و زایل کردن اسطوره‌های رایج خوب عمل می‌کند. مثلاً درحالی‌که داستان‌های علمی‌تخیلی باعث شده‌اند افراد بسیاری نگران ربات‌های شرور باشند، تگمارک به‌درستی تأکید می‌کند که مشکل واقعی، پیامدهای پیش‌بینی‌نشدۀ توسعۀ هوش مصنوعیِ بسیار تواناست. لازم نیست هوش مصنوعی شرور باشد و نیازی هم نیست که برای آسیب رساندن، در کالبد یک روبات قرار گرفته باشد. به‌قول تگمارک «خطر واقعیِ هوش عمومی مصنوعی، نه بدجنسی بلکه توانایی است. یک هوش مصنوعی ابرهوشمند در نائل آمدن به اهدافش
درحالی‌که فلاسفه موجوداتی صبورند، مهندسان بی‌طاقتند و از آن‌ها بی‌قرارتر، سرمایه‌گذاران صندوق‌های پوششی‌اند
بسیار خوب خواهد بود و چنانچه آن اهداف با اهداف ما مطابق نباشند، به دردسر افتاده‌ایم.»

دررابطه‌با دل‌مشغولی با روبات‌ها، باید به خودمان یادآوری کنیم که یک سیستم نظارتی (سیستمی که دائماً مردم را ردیابی کرده و از الگوریتم‌های کلان‌داده برای تحلیل رفتار و شخصیت آن‌ها استفاده می‌کند) می‌تواند حریم خصوصی، فردیت و نهادهای دموکراتیک ما را نابود کند و نیازی هم به ماشین‌های قاتلی به سبک ترمیناتور نیست.

طبیعی است که آنچه تگمارک ترسیم می‌کند کامل نیست، و به‌خصوص توجه کافی به تلاقی هوش مصنوعی با زیست‌فناوری ندارد. قرن ۲۱ را نه فناوری اطلاعات تنها، بلکه ادغام فناوری اطلاعات با زیست‌فناوری شکل خواهد داد. هوش مصنوعی دقیقاً به‌این‌دلیل اهمیت حیاتی خواهد داشت که به ما قدرت محاسباتی لازم برای هک کردن ارگانیسم انسانی را خواهد بخشید. مدت‌ها پیش از پیدایش رایانه‌های ابرهوشمند، جامعه‌مان توسط هوش مصنوعیِ به‌نسبت زمخت و کم‌هوشی به‌کلی دگرگون خواهد شد که آن‌قدر خوب هست که انسان‌ها را هک، احساساتشان را پیش‌بینی، انتخاب‌هایشان را نیابت و امیالشان را دستکاری کند.

زمانی‌که الگوریتمی شما را بهتر از خودتان بشناسد، نهادهایی چون انتخابات دموکراتیک و بازارهای آزاد بلااستفاده خواهند شد، و اقتدار از انسان‌ها دریغ و به الگوریتم‌ها خواهد رسید. به‌جای ترسیدن از ربات‌های آدمکشی که به انهدام ما می‌کوشند، باید نگران انبوهی از ربات‌ها باشیم که بهتر از مادر خودمان می‌توانند عواطفمان را برانگیخته و سعی کنند از این توانایی مرموز برای فروختن چیزها به ما استفاده کنند. از فرط خرید ممکن است آخرالزمان شود.

اما مشکل اصلی کتاب تگمارک این است که خیلی زود اسیر محدودیت‌های مباحثه‌های سیاسی امروزی می‌شود. انقلاب هوش مصنوعی بسیاری از مسائل فلسفی را تبدیل به پرسش‌های
لازم نیست هوش مصنوعی شرور باشد و نیازی هم نیست که برای آسیب رساندن، در کالبد ربات باشد
سیاسیِ عملی کرده و ما را وادار می‌کند تا به‌قول نیک باسترومِ فیلسوف، درگیر «فلسفه با ضرب‌الاجل» شویم. فلاسفه هزاران سال است که دربارۀ آگاهی و اختیار بحث می‌کنند و به اجماعی نرسیده‌اند. این قضیه در عصر افلاطون یا دکارت اهمیتی نداشت زیرا در آن روزگار، تنها در تخیلات خود می‌توانستید موجودات ابرهوشمند بسازید. اما در قرن ۲۱، این مباحثه‌ها درحال نقل مکان از دانشکده‌های فلسفه به دپارتمان‌های مهندسی و علوم رایانه‌ای‌اند. و درحالی‌که فلاسفه موجوداتی صبورند، مهندسان بی‌طاقتند و از آن‌ها بی‌قرارتر، سرمایه‌گذاران صندوق‌های پوششی‌اند. هنگامی‌که مهندسان تِسلا موفق به طراحی اتومبیلی خودران می‌شوند، نمی‌توانند صبر کنند تا فلاسفه دربارۀ اخلاقیات آن استدلال کنند.

متعاقباً، تگمارک خیلی زود مباحثه‌های آشنا دربارۀ بازار کار، حریم خصوصی و تسلیحات کشتار جمعی را پشت سر گذاشته و به‌درون عوالمی قدم می‌گذارد که تا اینجا به‌جای سیاست، با فلسفه، الهیات و اسطوره‌شناسی مرتبط بوده‌اند. گریز از آن به‌سختی ممکن است. ازاین‌رو که آفرینش هوش مصنوعی ابرهوشمند رویدادی نه در سطح ملی، بلکه در سطح جهانی یا حتی کیهانی است. مدت چهار میلیارد سال حیات بر روی زمین براساس قوانین انتخاب طبیعی و شیمی آلی تکامل یافت. اکنون علم در آستانۀ آغاز عصری از حیات غیرارگانیک است که توسط طراحیِ هوشمندْ تکامل می‌یابد و چنین حیاتی کاملاً محتمل است که درنهایت زمین را ترک گفته و در سراسر کهکشان پخش گردد. انتخاب‌های امروزمان می‌توانند تأثیری عمیق بر خط سیر حیات برای هزاره‌های بی‌شمار، و تا دوردست‌ها ورای سیارۀ خودمان داشته باشند.

هرچند احتمالاً تگمارک
ما باید نگران انبوهی از ربات‌ها باشیم که بهتر از مادر خودمان می‌توانند عواطفمان را برانگیزند
حق دارد که امور را به این سطح کیهانی بکشاند، ترسم این است که حتی اگر نه اکثریت، تعداد زیادی از خواننده‌های آتی‌اش او را تا آنجا دنبال و درک نکنند. نظام‌های سیاسی، و درواقع ذهن‌های فردی ما واقعاً برای تفکر در چنین مقیاسی ساخته نشده‌اند. سازوکارهای سیاسی فعلی به‌ندرت موفق به گرفتن تصمیم‌هایی در مقیاس چند دهه می‌شوند -چگونه می‌توانند تصمیم‌هایی در مقیاس هزاره‌ها بگیرند؟ چه کسی وقت دارد نگران حکومت هوش مصنوعی بر سیاره باشد وقتی مجبور است با دونالد ترامپ و بِرِکسیت سروکله بزند؟

در مورد انقلاب هوش مصنوعی، همانند اغلب اوقات در تاریخ بشر، احتمالاً عمیق‌ترین تصمیم‌ها را برپایۀ ملاحظات کوتاه‌مدتِ کوته‌بینانه خواهیم گرفت. سیاستمدارهای بی‌مبالاتی که هراس از تهدیدات تروریستی می‌پراکنند، سهامدارانی که نگران درآمدهای فصلی‌اند و کارشناس‌های بازاریابی که می‌کوشند تجربۀ مشتری۱ را به حداکثر برسانند، آیندۀ حیات بر زمین را تعیین خواهند کرد.

اطلاعات کتاب‌شناختی:
Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf, 2017


پی‌نوشت‌ها:
* این مطلب را یووال نوآ هراری نوشته است و در تاریخ ۲۲ سپتامبر ۲۰۱۷ با عنوان «Life ۳.۰ by Max Tegmark review we are ignoring the AI apocalypse»در وب‌سایت گاردین منتشر شده است. وب‌سایت ترجمان در تاریخ ۱۷ آبان ۱۳۹۶ آن را با عنوان «با چشمان بسته به سوی آخرالزمانِ هوش مصنوعی می‌تازیم» و با ترجمۀ علی امیری منتشر کرده است.
** یووال نوآ هراری (Yuval Noah Harari) مورخ، و نویسندۀ کتاب ساپینس: تاریخچۀ مختصر بشر (Sapiens: A Brief History of Humankind) است. آخرین کتاب یووال نوآ هراری، هومو دئوس (Homo Deus) توسط انتشارات وینتج منتشر شده است.
[۱] تجربۀ مشتری محصول تعامل میان یک سازمان و یک مشتری در طول مدت رابطۀ آن‌هاست [مترجم].

کد مطلب: 8744
 


 
میلاد طلوعی
Germany
۱۳۹۶-۰۸-۱۸ ۰۰:۲۹:۱۲
واقعا عالی بود وقتی داشتم متن رو میخوندم بارها گفتم وای وای وای بدون اینکه حواسم باشه تخیلات و تصورات این مرد بی نظیره (2678)
 
پوری یا
۱۳۹۶-۰۸-۱۹ ۱۳:۲۹:۱۹
سپاس از ترجمه روان و عالیتان.
بشخصه فکر میکنم یکی از نقایص و مشکلات بنیادین هوش مصنوعی در نظر نداشتن یک هدف نشأت گرفته از نیازی انسانی برای ربات هاست. هوش مصنوعی تا به اینجای کار و حتی در تصورات نویسندگان و فیلم سازان تنها رقیبی چون انقلاب صنعتی برای کارگران سنتی هستند بشکلی که تنها عملکرد و هدفشان انجام دادن بخشی از کارهایی ست که توسط انسانها در زمان حال هم انجام میگیره، حالا با کیفیتی متفاوت. اما مسئله اینه که ربات ها نقش مستقل و جدیدی ندارن بلکع تنها قرار نقش عده ای از انسانها رو بگیرن. حال اینکه میشه ما این کمبودها رو با پرورش انسانهایی که تعلیم نمیبینند و از امکانات و ... بی بهره اند رفع کنیم. غایی ترین رسالت ربات ها شاید بالابردن سطح کیفی (قطعا) عده ای محدود از انسانها خواهد بود و این ماهیتاً به شکاف طبقاتی بین انسانها و شکاف احساسی بین هر فرد با خودش دامن میزند. و این تنها مشکلی بر وجود ربات ها با دیدی کاملا مثبت نسبت به اینده مدیریتی و ساختیاش بود، بماند نظریه هایی چون انقلاب و آرماگدون و اپوکالیپس هوش مصنوعی. (2684)