با چشمان بسته به سوی آخرالزمانِ هوش مصنوعی می‌تازیم

یوول نوآ هراری، گاردین — هوش مصنوعی احتمالاً مهم‌ترین عامل تغییر در قرن ۲۱ خواهد بود. اقتصاد، فرهنگ، سیاست و حتی بدن‌ها و ذهن‌هایمان را نیز به‌طرقی دگرگون خواهد کرد که اکثر مردم به‌سختی قادر به تصورش هستند. اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی است، احتمالاً اشتباه است؛ اما اگر سناریویی دربارۀ جهان در سال ۲۰۵۰ بشنوید که شبیه به داستان‌های علمی‌تخیلی نیست، قطعاً اشتباه است.

فناوری هرگز جبرگرا نیست: می‌تواند برای خلق انواع گوناگونی از جوامع به کار رود. در قرن ۲۰، از راه‌آهن، الکتریسیته و رادیو برای شکل دادن به دیکتاتوری‌های نازی و کمونیستی، و همچنین برای ترویج دموکراسی‌های لیبرال و بازارهای آزاد استفاده شد. در قرن ۲۱، هوش مصنوعی طیف حتی گسترده‌تری از امکانات را کلید خواهد زد. تصمیم به تحقق هرکدام از این‌ها، به‌احتمال زیاد مهم‌ترین انتخاب بشر در دهه‌های پیش‌روست.

این انتخاب مسئلۀ مهندسی یا علم نیست. مسئلۀ سیاست است. بنابراین چیزی نیست که بتوانیم آن را به سیلیکون‌ولی وا نهیم، بلکه باید در میان مهم‌ترین موضوعات برنامۀ سیاسی‌مان باشد. متأسفانه تاکنون هوش مصنوعی به‌ندرت روی رادار سیاسی‌مان ثبت شده است. در هیچ‌یک از کارزارهای انتخاباتی موضوع اصلی نبوده و اکثر احزاب، سیاستمدارها و رأی‌دهنده‌ها، انگار هیچ نظری دربارۀ آن ندارند. دلیل اصلی آن این است که اکثر مردم درک بسیار مبهم و محدودی از یادگیری ماشین، شبکه‌های عصبی [مصنوعی] و هوش مصنوعی دارند. (اکثر ایده‌های پذیرفته توسط عموم دربارۀ هوش مصنوعی از فیلم‌های علمی‌تخیلی ازقبیل ترمیناتور و ماتریکس می‌آیند.) بدون فهم بهتری از این رشته، نمی‌توانیم به دوراهی‌هایی که سر راهمان قرار گرفته‌اند اشراف داشته باشیم: زمانی‌که علمْ سیاسی می‌شود، نادانی علمی منجر به فاجعۀ سیاسی می‌گردد.

کتاب مکس تگمارک، زندگی ۳.۰، سعی در جبران مافات دارد. این کتاب که فهم‌پذیر و جذاب نوشته شده و هدفش عموم کتاب‌خوان‌هاست، نقشه‌ای سیاسی و فلسفی از وعده‌ها و مخاطرات انقلاب هوش مصنوعی ارائه می‌کند. تگمارک به‌جای تمرکز روی یک برنامه یا پیش‌بینی خاص، در پی پرداختن به بیشترین زمینه‌های ممکن است و تنوع گسترده‌ای از سناریوهای مرتبط با تأثیر هوش مصنوعی بر بازار کار، جنگ و نظام‌های سیاسی را مرور می‌کند.

زندگی ۳.۰ در توضیح اصطلاحات اصلی و مباحث کلیدی، و زایل کردن اسطوره‌های رایج خوب عمل می‌کند. مثلاً درحالی‌که داستان‌های علمی‌تخیلی باعث شده‌اند افراد بسیاری نگران ربات‌های شرور باشند، تگمارک به‌درستی تأکید می‌کند که مشکل واقعی، پیامدهای پیش‌بینی‌نشدۀ توسعۀ هوش مصنوعیِ بسیار تواناست. لازم نیست هوش مصنوعی شرور باشد و نیازی هم نیست که برای آسیب رساندن، در کالبد یک روبات قرار گرفته باشد. به‌قول تگمارک «خطر واقعیِ هوش عمومی مصنوعی، نه بدجنسی بلکه توانایی است. یک هوش مصنوعی ابرهوشمند در نائل آمدن به اهدافش بسیار خوب خواهد بود و چنانچه آن اهداف با اهداف ما مطابق نباشند، به دردسر افتاده‌ایم.»

دررابطه‌با دل‌مشغولی با روبات‌ها، باید به خودمان یادآوری کنیم که یک سیستم نظارتی (سیستمی که دائماً مردم را ردیابی کرده و از الگوریتم‌های کلان‌داده برای تحلیل رفتار و شخصیت آن‌ها استفاده می‌کند) می‌تواند حریم خصوصی، فردیت و نهادهای دموکراتیک ما را نابود کند و نیازی هم به ماشین‌های قاتلی به سبک ترمیناتور نیست.

طبیعی است که آنچه تگمارک ترسیم می‌کند کامل نیست، و به‌خصوص توجه کافی به تلاقی هوش مصنوعی با زیست‌فناوری ندارد. قرن ۲۱ را نه فناوری اطلاعات تنها، بلکه ادغام فناوری اطلاعات با زیست‌فناوری شکل خواهد داد. هوش مصنوعی دقیقاً به‌این‌دلیل اهمیت حیاتی خواهد داشت که به ما قدرت محاسباتی لازم برای هک کردن ارگانیسم انسانی را خواهد بخشید. مدت‌ها پیش از پیدایش رایانه‌های ابرهوشمند، جامعه‌مان توسط هوش مصنوعیِ به‌نسبت زمخت و کم‌هوشی به‌کلی دگرگون خواهد شد که آن‌قدر خوب هست که انسان‌ها را هک، احساساتشان را پیش‌بینی، انتخاب‌هایشان را نیابت و امیالشان را دستکاری کند.

زمانی‌که الگوریتمی شما را بهتر از خودتان بشناسد، نهادهایی چون انتخابات دموکراتیک و بازارهای آزاد بلااستفاده خواهند شد، و اقتدار از انسان‌ها دریغ و به الگوریتم‌ها خواهد رسید. به‌جای ترسیدن از ربات‌های آدمکشی که به انهدام ما می‌کوشند، باید نگران انبوهی از ربات‌ها باشیم که بهتر از مادر خودمان می‌توانند عواطفمان را برانگیخته و سعی کنند از این توانایی مرموز برای فروختن چیزها به ما استفاده کنند. از فرط خرید ممکن است آخرالزمان شود.

اما مشکل اصلی کتاب تگمارک این است که خیلی زود اسیر محدودیت‌های مباحثه‌های سیاسی امروزی می‌شود. انقلاب هوش مصنوعی بسیاری از مسائل فلسفی را تبدیل به پرسش‌های سیاسیِ عملی کرده و ما را وادار می‌کند تا به‌قول نیک باسترومِ فیلسوف، درگیر «فلسفه با ضرب‌الاجل» شویم. فلاسفه هزاران سال است که دربارۀ آگاهی و اختیار بحث می‌کنند و به اجماعی نرسیده‌اند. این قضیه در عصر افلاطون یا دکارت اهمیتی نداشت زیرا در آن روزگار، تنها در تخیلات خود می‌توانستید موجودات ابرهوشمند بسازید. اما در قرن ۲۱، این مباحثه‌ها درحال نقل مکان از دانشکده‌های فلسفه به دپارتمان‌های مهندسی و علوم رایانه‌ای‌اند. و درحالی‌که فلاسفه موجوداتی صبورند، مهندسان بی‌طاقتند و از آن‌ها بی‌قرارتر، سرمایه‌گذاران صندوق‌های پوششی‌اند. هنگامی‌که مهندسان تِسلا موفق به طراحی اتومبیلی خودران می‌شوند، نمی‌توانند صبر کنند تا فلاسفه دربارۀ اخلاقیات آن استدلال کنند.

متعاقباً، تگمارک خیلی زود مباحثه‌های آشنا دربارۀ بازار کار، حریم خصوصی و تسلیحات کشتار جمعی را پشت سر گذاشته و به‌درون عوالمی قدم می‌گذارد که تا اینجا به‌جای سیاست، با فلسفه، الهیات و اسطوره‌شناسی مرتبط بوده‌اند. گریز از آن به‌سختی ممکن است. ازاین‌رو که آفرینش هوش مصنوعی ابرهوشمند رویدادی نه در سطح ملی، بلکه در سطح جهانی یا حتی کیهانی است. مدت چهار میلیارد سال حیات بر روی زمین براساس قوانین انتخاب طبیعی و شیمی آلی تکامل یافت. اکنون علم در آستانۀ آغاز عصری از حیات غیرارگانیک است که توسط طراحیِ هوشمندْ تکامل می‌یابد و چنین حیاتی کاملاً محتمل است که درنهایت زمین را ترک گفته و در سراسر کهکشان پخش گردد. انتخاب‌های امروزمان می‌توانند تأثیری عمیق بر خط سیر حیات برای هزاره‌های بی‌شمار، و تا دوردست‌ها ورای سیارۀ خودمان داشته باشند.

هرچند احتمالاً تگمارک حق دارد که امور را به این سطح کیهانی بکشاند، ترسم این است که حتی اگر نه اکثریت، تعداد زیادی از خواننده‌های آتی‌اش او را تا آنجا دنبال و درک نکنند. نظام‌های سیاسی، و درواقع ذهن‌های فردی ما واقعاً برای تفکر در چنین مقیاسی ساخته نشده‌اند. سازوکارهای سیاسی فعلی به‌ندرت موفق به گرفتن تصمیم‌هایی در مقیاس چند دهه می‌شوند -چگونه می‌توانند تصمیم‌هایی در مقیاس هزاره‌ها بگیرند؟ چه کسی وقت دارد نگران حکومت هوش مصنوعی بر سیاره باشد وقتی مجبور است با دونالد ترامپ و بِرِکسیت سروکله بزند؟

در مورد انقلاب هوش مصنوعی، همانند اغلب اوقات در تاریخ بشر، احتمالاً عمیق‌ترین تصمیم‌ها را برپایۀ ملاحظات کوتاه‌مدتِ کوته‌بینانه خواهیم گرفت. سیاستمدارهای بی‌مبالاتی که هراس از تهدیدات تروریستی می‌پراکنند، سهامدارانی که نگران درآمدهای فصلی‌اند و کارشناس‌های بازاریابی که می‌کوشند تجربۀ مشتری^۱ را به حداکثر برسانند، آیندۀ حیات بر زمین را تعیین خواهند کرد.

اطلاعات کتاب‌شناختی:

Tegmark, Max. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf, 2017

پی‌نوشت‌ها:
• این مطلب را یوول نوآ هراری نوشته است و در تاریخ ۲۲ سپتامبر ۲۰۱۷ با عنوان «Life ۳.۰ by Max Tegmark review we are ignoring the AI apocalypse» در وب‌سایت گاردین منتشر شده است. وب‌سایت ترجمان در تاریخ ۱۷ آبان ۱۳۹۶ آن را با عنوان «با چشمان بسته به سوی آخرالزمانِ هوش مصنوعی می‌تازیم» و با ترجمۀ علی امیری منتشر کرده است.
•• یووِل نوا هراری (Yuval Noah Harari) مورخ و نویسندۀ انسان خردمند: تاریخ مختصر بشر (Sapiens: A Brief History of Humankind) و انسان خداگونه: تاریخ مختصر فردا (Homo Deus: A Brief History of Tomorrow) است.
[۱] تجربۀ مشتری محصول تعامل میان یک سازمان و یک مشتری در طول مدت رابطۀ آن‌هاست [مترجم].