نگرانی‌های هنری کیسینجر دربارۀ هوش مصنوعی

هنری کیسینجر، آتلانتیک — سه سال پیش، در کنفرانسی در باب مسائل مشترک امریکا و اروپا، موضوع هوش مصنوعی در دستور کار قرار گرفت. نزدیک بود بی‌خیال آن جلسه شوم، چون جزو دغدغه‌های معمول من نبود، اما شروع سخنرانی مرا روی صندلی‌ام نگه داشت.

سخنران کارهای یک برنامۀ کامپیوتری را توضیح می‌داد که قرار بود به‌زودی قهرمانانِ بین‌المللیِ بازیِ گو^۱ را به چالش بکشد. برایم جالب شد که یک کامپیوتر بتواند در گو، که از شطرنج پیچیده‌تر است، استاد شود. در گو، هر طرف ۱۸۰ یا ۱۸۱ قطعه را، بسته به رنگی که انتخاب می‌کند، می‌چیند و هر یک را به‌نوبت بر روی صفحه‌ای که در ابتدا خالی است، قرار می‌دهد؛ کسی پیروز بازی می‌شود که با اتخاذ تصمیمات راهبردیِ بهتر بتواند رقیب خود را با تصرفِ قلمروی بیشتری زمین‌گیر کند.

سخنران تأکید داشت که این قابلیت را نمی‌توان از پیش برنامه‌نویسی کرد. می‌گفت ماشین او یاد می‌گیرد با خودآموزی از طریق تمرین، استادِ گو شود. ابتدا قوانین اصلی گو را به کامپیوتر می‌دهند و کامپیوتر با خود بی‌شمار بار بازی می‌کند، از اشتباهات خود می‌آموزد و مطابق آن الگوریتم‌هایش را اصلاح می‌کند. در این فرایند، کامپیوتر از مهارت اساتید بشری خود پیشی می‌گیرد. و اکنون، چند ماه پس از آن سخنرانی، یک برنامۀ هوش مصنوعی به نام آلفاگو^۲ می‌تواند بزرگ‌ترین گو بازان جهان را مثل آب خوردن شکست دهد.

وقتی به سخنران که این پیشرفت فنی را جشن گرفته بود گوش می‌دادم، تجربۀ خودم به‌عنوان تاریخ‌دان و کسی که مدتی دولت‌مرد بوده ‌است، مرا به تأمل واداشت. این ماشین‌های خودآموز چه تأثیری بر تاریخ خواهند گذاشت؟ ماشین‌هایی که با فرایندهایی خاص خودشان دانش کسب می‌کنند و آن دانش را در خدمت اهدافی قرار می‌دهند که ممکن است برایشان هیچ مقوله‌ای در فهم بشری وجود نداشته باشد؟ این ماشین‌ها یاد می‌گیرند با هم ارتباط برقرار کنند؟ از میانِ گزینه‌هایی که جلوی پایشان قرار می‌گیرد، چگونه دست به انتخاب می‌زنند؟ آیا ممکن است تاریخ بشر به سرنوشت اینکاها^۳ دچار شود که با فرهنگ اسپانیایی‌ای مواجه شدند که آن را نمی‌فهمیدند و حتی برایش عظمت قائل بودند؟ آیا در مرز مرحلۀ جدیدی از تاریخ بشر هستیم؟

با علم به اینکه در این حوزه صلاحیت فنی ندارم، چند گفت‌وگوی غیررسمی را دربارۀ این موضوع با مشورت و همکاری آشنایان به تکنولوژی و علوم انسانی سامان دادم. این بحث‌ها به نگرانی‌هایم افزوده است.

تا پیش از این، پیشرفت تکنولوژیکی که بیشترین تغییر را در روند تاریخ مدرن ایجاد کرد، اختراع چاپ فشاری^۴ در سدۀ پانزدهم بود که باعث شد جست‌وجوی دانش تجربی جایگزین آموزۀ دعا شود، و به‌تدریج عصر خرد جانشین عصر دین گردد. بینش فردی و دانش علمی جایگزین ایمان به‌عنوان ملاک اصلی آگاهی بشر شد. اطلاعات در کتابخانه‌های در حال گسترش حفظ و نظام‌مند گشت. عصر خرد اندیشه‌ها و اقداماتی را سبب شد که نظم جهانی امروز را صورت بخشید.

اما آن نظم اکنون در میان تلاطم ظهور انقلاب تکنولوژیک جدید و حتی فراگیرتری است که نتوانسته‌ایم به‌خوبی تبعاتش را درک کنیم، و نقطۀ اوج آن ممکن است دنیایی باشد متکی بر ماشین‌هایی که از داده‌ها و الگوریتم‌ها قدرت می‌گیرند و هنجارهای اخلاقی یا فلسفی را به حاشیه می‌رانند.

عصر اینترنت که اکنون در آن زندگی می‌کنیم، از مسائل و اموری خبر می‌دهد که هوش مصنوعی تنها آن‌ها را بدتر می‌کند. عصر روشنگری کوشید بدیهیات سنتی را تسلیم خردِ بشریِ آزاد و تحلیلی کند. هدف اینترنت این است که دانش را از مجرای انباشت و دستکاری مداوم داده‌های فزاینده به دست آورد. شناخت بشری خصیصۀ شخصی خود را از دست می‌دهد. افراد به داده‌ها تبدیل می‌شوند، و داده‌ها حاکم می‌گردند.

کاربران اینترنت بازیابی و دستکاری اطلاعات را بر بسترمندسازی یا مفهوم‌سازی معنای آن ترجیح می‌دهند. آن‌ها به‌ندرت از تاریخ یا فلسفه می‌پرسند؛ به‌عنوان یک اصل، آن‌ها اطلاعاتی می‌خواهند که با نیازهای عملی فوری‌شان مرتبط باشد. در این فرایند، الگوریتم‌های موتور جست‌وجو به قابلیت پیش‌بینی ترجیحات مشتریان دست می‌یابد، و الگوریتم‌ها را قادر می‌سازد تا نتایج را شخصی کند و آن‌ها را برای اهداف سیاسی یا تجاری در اختیار احزاب دیگر قرار دهد. حقیقت نسبی می‌شود. ترس این می‌رود که اطلاعات بر معرفت غالب گردد.

کاربران از طریق رسانه‌های اجتماعی آنقدر در معرکۀ آرای عمومی غرق می‌شوند که از درون‌نگری بازمی‌مانند؛ در حقیقت، بسیاری از دوستداران تکنولوژی از اینترنت استفاده می‌کنند تا از تنهایی، که از آن هراس دارند، فرار کنند. تمام این فشارها باعث تضعیف آن شکیبایی‌ای می‌شود که برای توسعه و حفظ باورهایی لازم است که تنها با پیمودن راهی متروک عملی می‌گردد و این جزء لاینفک خلاقیت است.

به‌ویژه دربارۀ تأثیر تکنولوژیِ اینترنت بر سیاست صحبت می‌شود. توانایی هدف قراردادن ریزگروه‌ها اجماع پیشین در باب اولویت‌ها را، با ایجاد امکان تمرکز بر روی اهداف یا شکایات تخصصی، از بین برده‌ است. رهبران سیاسی، که غرق در فشارهای موقعیتشان هستند، وقت ندارند دربارۀ بسترها بیاندیشند یا تأمل کنند و همین امر فضای موجود برای آن‌ها جهت رشد بینش‌هایشان را تنگ می‌کند.

تأکید دنیای دیجیتال بر سرعتْ مانع بازاندیشی می‌شود؛ محرک‌های آن تندروها را بر اهل تأمل سوار می‌کند؛ ارزش‌هایش نه با درون‌نگری، بلکه با اجماع زیرگروه‌ها شکل می‌گیرد. دنیای دیجیتال با وجود تمام دستاوردهایش این خطر را دارد که وقتی معایب آن بر منافعش غالب گردد، به ضدش تبدیل شود.

از زمانی که اینترنت و قدرتِ رایانه‌ایِ روزافزونْ انباشت و تحلیل داده‌های گسترده را آسان ساخته، افق‌هایی بی‌سابقه به روی فهم بشری باز شده ‌است. احتمالاً مهم‌ترینشان پروژۀ ایجاد هوش مصنوعی است: تکنولوژی‌ای که می‌تواند مسائل پیچیده و به‌ظاهر انتزاعی را از طریق فرایندهایی حل کند که به نظر می‌رسد المثنای فرایندهای ذهن آدمی باشند.

این بسی فراتر از اتوماسیونی است که شناخته‌ایم. اتوماسیون با ابزارها سر و کار دارد؛ با معقول‌سازی یا مکانیزه‌کردن ابزارهای دسترسی به اهداف تعیین‌شده به آن‌ها می‌رسد. در مقابل، هوش مصنوعی با مقاصد سر و کار دارد؛ اهدافِ خود را می‌سازد. هوش مصنوعی، به دلیلِ آنکه دستاوردهایش را خودش تعیین می‌کند، ذاتاً در تغییر است. سیستم‌های هوش مصنوعی به‌واسطۀ خودِ عملیاتشان در تحولِ مدام‌اند، زیرا داده‌هایی جدید کسب و در لحظه تحلیل می‌کنند و بعد می‌کوشند بر پایۀ آن تحلیل‌ها خود را بهبود بخشند. از طریق این فرایند، هوش مصنوعی قابلیتی را ایجاد می‌کند که قبلاً تصور می‌شد خاص انسان‌هاست. هوش مصنوعی تصمیماتی راهبردی دربارۀ آینده می‌گیرد که برخی از آن‌ها بر پایۀ داده‌هایی است که در قالب کد (مثلاً، قوانین یک بازی) دریافت می‌کند، و برخی بر اساس داده‌هایی است که خود او جمع‌آوری کرده است (مثلاً، از طریق یک میلیون بار انجام یک بازی).

خودروهای بدون راننده تفاوت بین فعالیت کامپیوترهای سنتیِ تحت کنترل بشر و نیازمند به نرم‌افزار را با عالمی که هوش مصنوعی می‌کوشد بدان ورود کند، نشان می‌دهند. راندن یک خودرو نیازمند اتخاذ تصمیم در موقعیت‌های مختلفی است که نمی‌توان آن‌ها را پیش‌بینی و ازین‌رو از پیش برنامه‌نویسی کرد. اگر، با استمداد از یک مثال فرضی رایج، شرایطْ چنین خودرویی را مجبور سازد تا بین زیرگرفتن یک پدربزرگ یا یک بچه دست به انتخاب بزند، چه اتفاقی خواهد افتاد؟ کدام را انتخاب می‌کند؟ چرا؟ می‌کوشد کدام یک از عوامل موجود در بین گزینه‌هایش را بهینه سازد؟ آیا می‌تواند منطقش را توضیح دهد؟ اگر می‌توانست سخن بگوید، به‌هنگام پرسش احتمالاً صادقانه پاسخ می‌داد: «نمی‌دانم! (زیرا من تابع اصول ریاضیاتی هستم نه اصول بشری)» یا «نخواهید فهمید (زیرا یاد گرفته‌ام به طریق معینی عمل کنم، اما یاد نگرفته‌ام آن را توضیح دهم)». با این حال، احتمالاً طی یک دهۀ آینده، حضور خودروهای بدون راننده در جاده‌ها چیز رایجی خواهد بود.

اکنون تحقیقات هوش مصنوعی، که تا پیش از این محدود به حوزه‌های خاصی از فعالیت بود، به دنبال اختراع نوعی هوش مصنوعیِ «کاملاً هوشمند» است که بتواند وظایف مربوط به حوزه‌های مختلف را انجام دهد. الگوریتم‌های هوش مصنوعی، در یک دورۀ زمانی قابل‌محاسبه، خواهند توانست درصد روزافزونی از فعالیت‌های بشری را انجام دهند. اما این الگوریتم‌ها، که تفاسیر ریاضیاتیِ داده‌های مشاهده‌شده هستند، واقعیت بنیادینی که موجد آن‌هاست را توضیح نمی‌دهد. به شکل تناقض‌آمیزی، هرقدر جهان نمایان‌تر می‌شود، به نحوی فزاینده اسرارآمیزتر می‌گردد. چه چیز آن جهان جدید را از جهانی که شناخته‌ایم، تمییز می‌دهد؟ چگونه در آن زندگی خواهیم کرد؟ چگونه هوش مصنوعی را مدیریت خواهیم کرد، آن را بهبود خواهیم داد یا دست‌کم آن را از آسیب‌رساندن باز خواهیم داشت؟ این سوالات به شوم‌ترین دغدغه منتهی می‌شود: اینکه هوش مصنوعی سریع‌تر و قاطعانه‌تر از انسان‌ها در قابلیت‌های مشخصی استاد می‌شود، و می‌تواند با گذشت زمان که با داده‌هایش، قابلیت انسان‌ها و خود وضعیت بشری را تضعیف سازد.

با گذر زمان، هوش مصنوعی مزایایی فوق‌العاده در علم پزشکی، تأمین انرژی پاک، مسائل زیست‌محیطی و بسیاری از عرصه‌های دیگر به بار خواهد آورد. اما درست بدین خاطر که هوش مصنوعی در خصوص آینده‌ای روبه‌رشد و همچنان نامعلوم تصمیم می‌گیرد، عدم قطعیت و ابهامْ ذاتیِ نتایج آن خواهد بود. سه عرصه هست که توجه خاصی را می‌طلبد:

اول اینکه ممکن است هوش مصنوعی نتایج ناخواسته‌ای به بار بیاورد. داستان‌های علمی‌تخیلی سناریوهایی را تصور کرده‌اند که هوش مصنوعی به آفرینندگان خود حمله می‌برد. این خطر محتمل‌تر است که هوش مصنوعی به خاطر ذات فاقد بسترش دستورات انسان‌ها را اشتباه تفسیر کند. مثال مشهور و اخیر آن ربات سخنگوی^۵ هوش مصنوعی به نام تِی^۶ است که هدف از طراحی آن ایجاد یک مکالمۀ دوستانه مطابق الگوهای زبانی یک دختر نوزده‌ساله بود. اما معلوم شد که این ماشین نمی‌تواند الزامات زبان «دوستانه» و «منطقی» نصب‌شده توسط آموزگارانش را تعریف کند و پاسخ‌هایی نژادپرستانه، جنسیت‌زده و تحریک‌آمیز ارائه داد. برخی در دنیای تکنولوژی مدعی‌اند که این آزمایش نسنجیده و شیوۀ انجامش بد بود، اما ماجرا بیانگر ابهامی بنیادین است: تا چه حد می‌توان هوش مصنوعی را قادر ساخت تا بستری را بفهمد که بر دستوراتش تأثیر می‌گذارد؟ چه واسطی می‌تواند کمک‌کار تِی باشد تا اهانت را، که انسان‌ها در باب معنایش توافق‌نظر ندارند، برای خود تعریف کند؟ می‌توانیم یک برنامۀ هوش مصنوعی را که خارج از چارچوب انتظارات ما رفتار می‌کند، در مراحل ابتدایی شناسایی و اصلاح کنیم؟ یا هوش مصنوعی، که به حال خود رها شده‌است، ناگزیر انحرافات ریزی خواهد داشت که با گذشت زمان به بدعت‌هایی فاجعه‌بار تبدیل خواهند شد؟

دوم اینکه ممکن است هوش مصنوعی در مسیر رسیدن به اهداف معین‌شده‌اش فرایندهای اندیشه و ارزش‌های بشری را تغییر دهد. آلفاگو با حرکت‌های راهبردی بی‌سابقه‌ای که انسان‌ها تصورش را نکرده بودند و هنوز نتوانسته‌اند راه غلبه بر آن‌ها را یاد بگیرند، قهرمانان جهانی گو را شکست داد. آیا این حرکت‌ها فراتر از ظرفیت مغز آدمی است؟ یا آیا اکنون که اربابی جدید به انسان‌ها یاد داده است، می‌توانند یادشان بگیرند؟

پیش از اینکه هوش مصنوعی وارد بازی گو شود، این بازی اهدافی مختلف و چندلایه داشت: بازیگر نه تنها می‌خواست برنده شود، بلکه به دنبال آن بود تا راهبردهایی جدید بیاموزد که به طور بالقوه در دیگر ابعاد زندگی کاربرد داشت. در مقابل، هوش مصنوعی تنها یک هدف را برای خود می‌شناسد: برنده‌شدن. هوش مصنوعی از مجرای تطابق‌هایی ریز با الگوریتم‌هایش، به صورت ریاضیاتی «یاد می‌گیرد» و نه به صورت مفهومی. پس، هوش مصنوعی یاد می‌گیرد متفاوت از انسان بازی کند و برندۀ گو شود، و سرشت و تأثیر این بازی را تغییر داده ‌است. آیا این اصرار مصممانه بر پیروز شدنْ مشخصۀ همۀ هوش‌های مصنوعی است؟

دیگر پروژه‌های هوش مصنوعی بر روی اصلاح اندیشۀ انسان‌ها کار می‌کنند؛ از طریق توسعۀ ابزارهایی که می‌توانند پاسخ‌هایی متنوع به کنکاش‌های بشری بدهند. ورای پرسش‌های واقعیت‌‌محور^۷ («دمای هوای بیرون چند درجه است؟»)، پرسش از سرشت واقعیت و معنای زندگی مسائل عمیق‌تری را مطرح می‌سازد. آیا می‌خواهیم بچه‌هایمان ارزش‌ها را از راه گفت‌وگو با الگوریتم‌هایی افسارگسیخته بیاموزند؟ آیا ناچاریم با محدودکردن یادگیری هوش مصنوعی دربارۀ پرسشگران خود، از حریم خصوصی حفاظت کنیم؟ اگر چنین است، چگونه به این اهداف می‌رسیم؟

اگر هوش مصنوعی به صورت نمایی^۸ سریع‌تر از انسان‌ها یاد می‌گیرد، باید انتظار داشت که، باز به صورت نمایی، فرایند آزمون و خطا را، که تصمیم‌گیری انسان‌ها عموماً بر اساس آن گرفته می‌شود، تسریع کند: باید انتظار این را داشت که هوش مصنوعی نسبت به انسان‌ها سریع‌تر -و با گسترۀ بیشتری- مرتکب اشتباه شود. همان‌گونه که محققان هوش مصنوعی غالباً می‌گویند، شاید ممکن نباشد که با لحاظ‌کردن اخطارهایی برای الزام به مسائل «اخلاقی» یا «عقلانی» در یک برنامه، این اشتباهات را تعدیل کرد. همۀ رشته‌های دانشگاهی حاصل ناتوانی بشر برای توافق‌نظر درباب شیوۀ تعریف این اصطلاحات است. بنابراین، آیا هوش مصنوعی حَکَم آن‌ها می‌شود؟

سوم اینکه ممکن است هوش مصنوعی به اهداف مطلوبش برسد، اما نتواند منطق نتیجه‌گیری‌هایش را توضیح دهد. ممکن است توانایی هوش مصنوعی در برخی حوزه‌ها -الگوهای شناخت، تحلیل کلان‌داده‌ها، استراتژی‌های بازی- از انسان بیشتر باشد. اگر تشدید قدرت محاسباتی هوش مصنوعی همچنان ادامه یابد، احتمالاً به‌زودی قادر خواهد بود موقعیت‌ها را به شیوه‌هایی بهینه سازد که دست‌کم تفاوتی ناچیز و احتمالاً تفاوتی مهم با شیوۀ انسان‌ها در بهینه‌سازی خواهد داشت. اما در آن زمان، آیا هوش مصنوعی می‌تواند به نحو قابل‌فهمی برای انسان‌ها، توضیح دهد که چرا اعمالش بهینه هستند؟ یا آیا تصمیم‌گیری هوش مصنوعی از قدرت‌های توضیحی زبان و خرد بشری پیشی می‌گیرد؟ در تمام تاریخ بشر، تمدن‌ها شیوه‌هایی برای توضیح جهان پیرامونشان ایجاد کرده‌اند: در قرون وسطا، دین؛ در عصر روشنگری، خرد؛ در سدۀ نوزدهم، تاریخ؛ در سدۀ بیستم، ایدئولوژی. دشوارترین و در عین حال مهم‌ترین پرسش دربارۀ جهانی که در مسیر ورود به آن هستیم، این است: چه بلایی بر سر هوش بشری می‌آید اگر هوش مصنوعی بر قدرت توضیحی آن فائق شود، و جوامع نتوانند جهانی که در آن زندگی می‌کنند را در چارچوب‌هایی که برایشان معنادار است، تفسیر کنند؟

چگونه می‌توان آگاهی را در جهانی از ماشین‌ها تعریف کرد که تجربۀ بشری را به داده‌های ریاضیاتی تقلیل می‌دهند و با حافظه‌هایشان تفسیر می‌کنند؟ چه کسی مسئول اقدامات هوش مصنوعی است؟ خسارت اشتباهات آن‌ها چگونه تعیین می‌شود؟ آیا یک نظام حقوقی طراحی‌شده توسط انسان‌ها می‌تواند همگام با فعالیت‌هایی پیش برود که هوشی مصنوعی انجام می‌دهد، هوشی که می‌تواند سریع‌تر از آن‌ها بیاندیشد و به صورت بالقوه از آن‌ها پیشی بگیرد.

سرانجام، شاید هوش مصنوعی اصطلاحی بی‌مسما باشد. برای اطمینان، این ماشین‌ها می‌توانند مسائل پیچیده و به‌ظاهر انتزاعی را، که قبلاً تنها به شناخت بشری سپرده می‌شد، حل کنند. اما این عمل بی‌نظیر آن‌ها تفکر، مطابق معنایی که تاکنون تصور و تجربه می‌شد، نیست. بلکه یک‌جور به‌حافظه‌سپردن و محاسبه‌کردن بی‌سابقه است. احتمالاً هوش مصنوعی در تمام بازی‌هایی که برایش تعیین شود، به خاطر برتری ذاتی‌اش در این حوزه‌ها، برنده می‌شود. اما برای ما انسان‌ها بازی صرفاً برای پیروزی نیست، برای تفکر است. ما با تلقی تحلیلِ ریاضیاتی به صورتی که گویی نوعی اندیشیدن است، و حتی با تلاش برای تقلید آن فرایند یا صرفاً پذیرش نتایج آن، در خطر ازدست‌دادن قابلیتی هستیم که گوهر شناخت بشری بوده ‌است.

یک برنامۀ تازه طراحی‌شده، آلفازیرو^۹، پیامدهای این انقلاب را نشان داده ‌است. شطرنج‌بازیِ این برنامه در سطحی مافوق اساتید شطرنج است و به سبکی که تاکنون در تاریخ این بازی دیده نشده ‌است. این برنامه به‌تنهایی و تنها طی چند ساعت بازی با خود، به سطحی از مهارت می‌رسد که برای انسان‌ها ۱۵۰۰ سال طول می‌کشد. تنها اصول اولیۀ بازی را به آلفازیرو دادند. نه انسان‌ها و نه داده‌های تولیدشده توسط انسان سهمی در فرایند خودآموزیِ او نداشتند. اگر آلفازیرو توانست با این سرعت به چنین مهارتی دست یابد، هوش مصنوعی در پنج سال به کجاها خواهد رسید؟ در کل، این اتفاقات چه تأثیری بر شناخت بشری خواهد داشت؟ در این فرایند، که اساساً شامل تسریع انتخاب‌هاست، اخلاقیات چه نقشی خواهند داشت؟

معمولاً پاسخ این پرسش‌ها به تکنولوژیست‌ها و اندیشمندانِ حوزه‌های علمیِ مرتبط واگذار می‌شود. فلاسفه و دیگر متفکران علوم انسانی که به شکل‌گیری مفاهیم پیشینِ نظم جهانی کمک کرده‌اند، معمولاً بی‌بهره می‌مانند، نسبت به مکانیزم‌های هوش مصنوعی دانشی ندارند یا مبهوت توانایی‌هایش شده‌اند. در مقابل، جهان علمی به سمت کشف امکان‌های فنی دستاوردهایش کشیده می‌شود، و جهان تکنولوژیک دل‌مشغول افق‌هایی تجاری با مقیاسی افسانه‌ای می‌گردد. انگیزۀ این دو جهان جابه‌جاکردنِ مرزهای اکتشاف است، نه فهمیدنشان. و حکومت، تا آنجا که به این موضوع می‌پردازد، به احتمال زیاد به جای کاوش در این استحالۀ شناخت بشری که آغاز شده‌ است، به پژوهش در کاربردهای هوش مصنوعی برای امنیت و اطلاعات می‌پردازد.

روشنگری با بینش‌هایی اساساً فلسفی آغاز شد و با یک تکنولوژی جدید -یعنی چاپ- منتشر گشت. دورۀ ما در جهت عکس آن حرکت کرده است. این دوره در جست‌وجوی فلسفه‌ای است تا بتواند راهبر تکنولوژی بالقوه غلبه‌گری شود که به وجود آمده است. دیگر کشورها هوش مصنوعی را نوعی پروژۀ ملی کرده‌اند. ایالات متحده به‌مثابه یک ملت هنوز به صورت نظام‌مند قلمروی کامل آن را کشف، پیامدهایش را مطالعه و فرایند یادگیری نهایی‌اش را آغاز نکرده ‌است. باید برای این مسئله، یعنی مناسباتِ هوش مصنوعی با سنت‌های اومانیستی، اولویتی ملی بالاتر از دیگر مسائل قائل شد.

توسعه‌دهندگان هوش مصنوعی، که همان قدر در سیاست و فلسفه بی‌تجربه‌اند که من در تکنولوژی، باید برخی از پرسش‌هایی که اینجا مطرح کردم را از خود بپرسند تا پاسخ‌هایی را در مساعی مهندسی‌شان لحاظ کنند. ایالات متحده باید به دستور رئیس‌جمهور کمیسیونی متشکل از متفکران برجسته تشکیل دهد تا به توسعۀ نگاهی ملی در این زمینه کمک کنند. این اندازه یقینی است: اگر به‌زودی این تلاش را آغاز نکنیم، چیزی نخواهد گذشت که خواهیم فهمید بسیار دیر شروع کرده‌ایم.

پی‌نوشت‌ها:
• این مطلب را هنری کیسینجر نوشته است و در ۱۸ جولای ۲۰۱۸ با عنوان «How the Enlightenment Ends» در وب‌سایت آتلانتیک منتشر شده است. وب‌سایت ترجمان آن را در تاریخ ۷ مهر ۱۳۹۷ با عنوان «نگرانی‌های هنری کیسینجر دربارۀ هوش مصنوعی» و با ترجمۀ میلاد اعظمی‌مرام منتشر کرده است.
•• هنری کیسینجر (Henry Kissinger) سیاستمدار، دیپلمات و نظریه‌پرداز سیاسی آمریکایی است. در زمان ریاست‌جمهوری نیکسون پست وزارت خارجه را بر عهده داشت و سال‌ها مشاور امنیت ملی رئیس‌جمهور ایالات متحده بود.

[۱] Go
[۲] AlphaGo
[۳] امپراتوری اینکا (۱۴۳۸ – ۱۵۳۳)، یک امپراتوری از مردم بومی (سرخ‌پوست) در آمریکای جنوبی بود که در بیشترین وسعت خود، کشورهای امروزی پرو، اکوادور، بولیوی و بخش‌هایی از آرژانتین، شیلی و کلمبیا را دربرمی‌گرفت. شهر کوزکو پایتخت اداری، سیاسی و نظامی آن به‌شمار می‌آمد. در سدۀ شانزدهم میلادی با ورود اسپانیایی‌ها به پرو، این امپراتوری درهم‌شکست و قلمرو آن مستملکۀ اسپانیا گشت [ویکی‌پدیا].
[۴] printing press
[۵] chatbot
[۶] Tay
[۷] factual questions
[۸] exponentially
[۹] AlphaZero