چه کسی باید بر هوش مصنوعی فرمان براند؟

گروهی از نویسندگان، پروجکت سیندیکیت— از اواخر سال گذشته که هوش مصنوعیِ مولد ¹ توجه جهانیان را به خود جلب کرده، چالش سامان‌دهی این فناوری موضوع مباحثات و مناظرات بسیار داغی بوده است. اما وقتی بحث به اینجا می‌رسد که هوش مصنوعی مولد قرار است به نفعِ عموم باشد یا نه، آنگاه مسئله فقط این نیست که چگونه می‌خواهد این کار را انجام دهد، بلکه این هم مطرح می‌شود که چه کسانی می‌خواهند این کار را انجام دهند.

دارون عجم‌اوغلو، سیمون جانسون و آستین لنچ از ام‌آی‌تی بر این نظرند که خودِ نیروی کار باید با اتخاذ نقشی محوری کارفرمایان خود را به آن سمت هدایت کنند که کورکورانه به دنبال خودکارسازی نروند، بلکه از هوش مصنوعی برای تقویت خلاقیت انسانی، افزایش بهره‌وری و درنهایت ایجاد رفاه عمومی در سطحی وسیع استفاده کنند. اعتصاب اخیر انجمن نویسندگان آمریکا ² یک محک مهم خواهد بود: اگر فیلمنامه‌نویسان اعتصاب‌کنندۀ هالیوود شکست بخورند، «سایر دانش‌ورزان ³شانس چندانی برای شکل‌دادن به آیندۀ کار و فناوری نخواهند داشت».

ماریا ایتل، معاون بخش مسئولیتِ سازمانی نایک، محدودکردن خطرات هوش مصنوعی را دقیقاً جزء مسئولیت‌های همان شرکت‌هایی می‌داند که این فناوری را ایجاد کرده و به کار می‌برند. او خاطرنشان می‌کند «قانون‌گذاران و دولت‌ها به طور کامل نمی‌دانند محصولات مبتنی بر هوش مصنوعی چگونه کار می‌کنند یا چه خطراتی می‌توانند ایجاد کنند. فقط شرکت‌های مربوطه به این مسئله واقف‌‌اند». اما باید برای این شرکت‌ها الزامی قانونی وجود داشته باشد تا، با تدوین «برنامۀ عملیاتی معتبر» و متعهدماندن به آن، در مسیر هدایت مسئولانۀ نوآوری گام بردارند.

با‌این‌حال، به گفتۀ هارولد جیمز از پرینستون، ما فقط می‌توانیم چیزهای محدودی را کنترل کنیم. فناوری «هیچگاه این‌طور نبوده که صرفاً به خواستۀ برخی افراد از حرکت خود بازایستد». هوش مصنوعی همان‌گونه که «نحوۀ مفهوم‌بندی فعالیت جمعی» را تغییر داده است -به‌ویژه از طریق «خودکارسازیِ جنگ»- همچنین سبب شده که قدرت «از دستان مردم خارج شود» و «درک ما از حاکمیت مشروع» تغییر کند. هر کاری هم بکنیم، «هوش مصنوعی همه‌چیز را تغییر می‌دهد».

همه باید مثل نویسندگان هالیوود علیه هوش مصنوعی قیام کنند
دارون عجم‌اوغلو، سایمون جانسون، آستین لنچ

هوش مصنوعی بحث داغ این روزهای کسب‌وکارهای بزرگ است. شرکت‌ها بدون فوت وقت توانمندی‌های خود در نحوۀ استفاده از مدل‌های جدید هوش مصنوعی مولد را به نمایش می‌گذارند و رسانه‌ها مملو از داستان‌هایی است دربارۀ ظرفیت این فناوری برای ایجاد تغییر و تحول. نمی‌توان انکار کرد که هوش مصنوعی می‌تواند بهره‌وری را به میزان قابل‌توجهی افزایش دهد. اما چه کسی سود می‌برد؟ اعتصاب انجمن نویسندگان آمریکا شاید بتواند پاسخی برای این سؤال ارائه دهد.

فیلمنامه‌نویسان هالیوود آیندۀ شغلی‌ای را پیش چشمان خود می‌بینند که همۀ دانش‌ورزان به‌زودی با آن روبه‌رو خواهند شد –و بدون هیچ حمایتی از سوی هیچ اتحادیه‌ای. موضوع این است که هوش مصنوعی چگونه و توسط چه کسانی استفاده خواهد شد. آیا تولیدکنندگان تلویزیون و سینما هوش مصنوعی را جایگزینی برای نویسندگان و کاهش هزینه‌ها می‌بینند یا از آن برای تولید محتوای باکیفیت‌تری استفاده می‌کنند که به کارمندان خلاق قدرت می‌دهد تا بهره‌وری بالاتری داشته باشند و درآمد بیشتری کسب کنند؟

ما قبلاً هم مسیر مشابهی را طی کرده‌ایم. در اوایل قرن بیستم، پیشرفت‌های سریع در فناوری‌های تولیدی مانند خطوط مونتاژ متحرک و ماشین‌آلات برقی منجر به افزایش شدید بهره‌وری شد. هنری فورد، پیشگام در به‌کارگیری این فناوری‌ها، تخمین زد که دستگاه‌های مجهز به موتور «به‌تنهایی بهره‌وری صنعت را احتمالاً دو برابر کرده است» و هم‌زمان ساخت کارخانه‌های بسیار بزرگ‌تر را ممکن ساخته است. اما کارکنان به‌طور خودکار سهمی در این دستاوردها نداشتند و تا زمانی هم که کارهای جدید ایجاد نشدند و کارگران قدرت چانه‌زنی کافی برای مطالبۀ دستمزدهای بالاتر را به دست نیاوردند، همچنان از این دستاوردها بی‌بهره بودند. کارهای جدید و قدرت چانه‌زنی از ارکان رفاه عمومی به شمار می‌آیند.

درحالی‌که فورد و معاصرانش برخی از فرایندها را با قطعیت خودکار می‌کردند، کارخانه‌های بهبود‌یافتۀ آن‌ها نیز فعالیت‌های جدید بسیاری را آغاز می‌کردند که به نیروی انسانی نیاز داشت -‌از آماده‌سازی مواد، و تعمیر و نگهداری ماشین‌آلات گرفته تا هماهنگی کارها. این وظایفْ مشارکت کارگران را در تولید گسترش داد و به افزایش شدید تقاضا برای نیروی کار منجر شد. در سال ۱۸۹۹، صنعت خودرو ایالات‌متحده چند هزار کارگر استخدام کرد و سالانه حدود ۲۵۰۰ وسیله نقلیه تولید می‌کرد. تا سال ۱۹۲۹، فورد و جنرال موتورز هر کدام ۱.۵ میلیون خودرو در سال تولید می‌کردند (مجموع تولید خودرو در ایالات‌متحده حدود ۴.۵ میلیون بود) و این صنعت بیش از ۴۰۰ هزار نفر را به استخدام خود درآورد.

رکن دومْ قدرت چانه‌زنی است. اعتصاب معروف در جنرال موتورز در سال‌های ۱۹۳۶-۱۹۳۷ گامی کلیدی در رسمیت‌یافتن اتحادیه، بهبود شرایط کاری و پرداخت غرامت بیشتر برای کارگران بود. طی چندین دهه، تعادل جدیدی که بین مدیریت و کارگران در خودروسازی ایجاد شد به رشد سریع دستمزدها کمک کرد. بخشی از آنچه این امکان را فراهم آورد تأکید بر آموزش مداوم و ارتقای مهارت کارگران برای انجام وظایف جدید بود. هم کارفرمایان و هم کارکنان از دستاوردهای افزایش بهره‌وری سود بردند.

از دهۀ ۱۹۲۰تا دهۀ ۱۹۶۰، تولید خودرو در ایالات‌متحده بیش از دو برابر شد و چهار تولیدکنندۀ بزرگ ۳/۱ میلیون کارگر را استخدام کرده بودند و این یعنی اشتغال در این صنعت بیش از سه برابر شده بود. علاوه‌براین، حقوق و مزایای منطبق بر تورم برای شرکت‌های بزرگ، یعنی جنرال موتورز و فورد، حدود پنج برابر بیشتر از دهه‌های گذشته شده بود.

ظهور نیروی کار سازمان‌یافته در صنعت خودرو همچنین باعث شد سایر صنایع مدلی از مذاکرات سرمایه-کار را سرلوحۀ خود قرار دهند. تصور کنید چه اتفاقی می‌افتاد اگر شرکت‌های تولیدی «کارخانه‌های بدون کارگر» را در دهۀ ۱۹۵۰ می‌پذیرفتند، همان‌طور که برخی شروع به حمایت از آن کرده بودند. در این صورت، به دلیل کم‌رنگ‌شدن یا ازبین‌رفتن نقش نیروی انسانی در کارهای فنی، طراحی، نگهداری، بازرسی و حل‌مسئلۀ خلاقانه، رشد بهره‌وری (و همچنین رفاه عمومی) بسیار لطمه می‌دید.

امروز هم ما با تغییراتی به همان اندازه انقلابی روبه‌رو هستیم، و این بار هوش مصنوعیِ مولد است که تحول‌آفرین خواهد بود، همانی که اکنون مدیران اجرایی در حال بررسی چگونگی اعمال آن در تمام بخش‌های تولید و توزیع دانش هستند. شرکت های فناوری‌محور پیشرو با بسیاری از همان انتخاب‌هایی روبه‌رو هستند که خودروسازان در آغاز قرن بیستم با آن مواجه بودند. آیا باید از فناوری‌های جدید قدرتمند برای خودکارسازی کارهای دانش‌محور و کنارگذاشتن کارکنان متخصص استفاده شود؟ یا اینکه هوش مصنوعی می‌تواند به ابزار افزایش بهره‌وری و خلاقیت کارکنان بدل شود؟ و این خیلی به این بستگی دارد که آیا کارکنان اعمال نظر می‌کنند و منشأ اثر هستند یا نه، و اینکه چنین انتخاب‌هایی چه تأثیری بر بهره‌وری و کیفیت محصول خواهد گذاشت.

بنا به دلایلی، می‌توان گفت اعتصاب نویسندگان هالیوود می‌تواند حتی از مبارزه برای به‌رسمیت‌شناختن اتحادیه در کارخانه‌های فورد و جنرال موتورزِ یک قرن پیش مهم‌تر باشد؛ در درجۀ اول به این دلیل که کارکنان خلاق هالیوود در مقایسه با کارکنان دیگر صنایع سازمان‌یافته‌تر و پرنفوذتر هستند. اگر آن‌ها شکست بخورند، دانش‌ورزان دیگر هم شانس چندانی برای شکل‌دادن به آیندۀ کار و فناوری نخواهند داشت.

انتخاب‌های پیش ‌روی ما انتخاب‌های تاریخ‌سازی هستند، زیرا اکنون وسوسه‌ای آشکار تهیه‌کنندگان فیلم را به سمت این مسیر میانبر می‌کشاند که «هر چیزی را که می‌توانید خودکار کنید». این رویکرد ممکن است در کوتاه‌مدت سودآور باشد، مثلاً اگر منجر به نمایش‌های بیشتر با تولید ارزان‌تر شود و فیلم‌نامه‌نویس، بازیگر و پرسنل کمتری داشته باشند. اما سودی که استودیو به جیب می‌زند یک چیز است و خروجی باکیفیت یک چیز دیگر. هنوز هیچ جایگزینی برای نبوغ و خلاقیت انسان وجود ندارد. اگر از گرد و خاکی که هوش مصنوعی راه انداخته کور نشده باشیم، باید واضح باشد که از پیش‌بینی کلمۀ بعدی در یک جمله و جمع‌آوری «حکمت» موجود در اینترنت بعید است که خروجی هنری سطح بالایی بیرون بیاید– هرچند مدل‌های زبانی بزرگ شاید بتوانند کمدی‌های تلویزیونی معمولی تولید کنند.

مسیر میانبر اتفاقاً به دلیل چیزهایی که از دست می‌دهد پرهزینه خواهد بود. هوش مصنوعیِ مولد می‌تواند به ابزاری بسیار سودمند در دستان هنرمندان خلاق تبدیل شود و به تحقق و توسعۀ ایده‌های جدید آنان کمک کند. اگر بتوانیم راه خود را در این مسیر پیدا کنیم، هوش مصنوعی می‌تواند پیشرفت فناوری بیشتری به همراه داشته باشد و عواید حاصل از نبوغ انسان را دوچندان کند.

اعتصاب نویسندگان هالیوود نتایج زیادی خواهد داشت. مشخصاً برای این نویسندگان فاجعه است که از استودیوهای فیلمسازی کنار گذاشته شوند. دانش‌ورزان -و درواقع، همۀ کارکنان- باید چشم امیدشان بر موفقیت انجمن نویسندگان و اعضای آن باشد، از دو لحاظ، اینکه چگونه اتحادیه‌ها می‌توانند دستمزدها را در کوتاه‌مدت افزایش دهند، و چگونه می‌توان از فناوری برای حمایت از خلاقیت استفاده کرد، نه به‌جای آن.

مسئولیت سازمانی در عصر هوش مصنوعی
ماریا اِیتل
در یک سال اخیر، هوش مصنوعی سروصدای بسیاری کرده است. دسته‌ای می‌گویند هوش مصنوعی ما را به دنیای درخشان جدیدی از امکانات بی‌پایان می‌برد، و دستۀ دیگری می‌گویند هوش مصنوعی ما را به سوی ویرانشهری وحشتناک خواهد کشاند. این بحث‌ها مثل سناریوهای «باربی» و «اوپنهایمر»، فیلم‌های پرفروش تابستانی هالیوود، جذاب و متفاوت هستند. اما یک بحث در این میان بسیار مغفول مانده: بحث درمورد مسئولیت سازمانی.

من در سال ۱۹۹۸ به‌عنوان اولین معاون بخش مسئولیت سازمانی به نایک پیوستم و این درست مصادف بود با بزرگ‌ترین بحران شرکتی عصر فراجهانی‌سازی⁴: شرکت نایک، تجسم ورزش و تناسب اندام در جهان، به چهرۀ استثمارگر نیروی کار کشورهای در حال توسعه بدل شده بود. در برخورد با این بحران و درنظرگرفتن مسئولیت سازمانی برای نایک، درس‌های گرانبهایی آموختیم که اکنون می‌تواند کمک کند و به تلاش‌های ما در مسیر عبور از انقلاب هوش مصنوعی جهت دهد.

امروز یک تفاوت اساسی وجود دارد؛ ماجرای نایک که در اواخر دهۀ ۱۹۹۰ اتفاق افتاد نسبتاً طول کشید و زمان برد تا به‌طور عمومی پخش شود. اما درمورد هوش مصنوعی، ما از نعمت طول‌کشیدن محرومیم. پارسال همین موقع، اکثر مردم چیزی درمورد هوش مصنوعی نشنیده بودند و حالا تقریباً نقل همۀ محافل شده است. این فناوری همچون یک صاعقه در اواخر سال ۲۰۲۲ وارد آگاهی جمعی ما شد و از آن زمان تاکنون داریم تلاش می‌کنیم که آن را درک کنیم.

فعلاً برای شرکت‌های هوش مصنوعی مولد، هیچ‌کس هیچ گاردریلی نگذاشته و همین باعث شده همۀ ما موش‌های آزمایشگاهی آن‌ها باشیم. و این اصلاً عادی نیست. اگر بوئینگ یا ایرباس هواپیمایی می‌آوردند با این نوید که ارزان‌تر و سریع‌تر اما بالقوه بسیار خطرناک است، ما این خطر را نمی‌پذیرفتیم. اگر شرکت داروسازی‌ای محصولی آزمایش‌نشده را روانۀ بازار کند و هشدار هم بدهد که ممکن است سمی باشد، باز هم مسئولیت کیفری بیماری یا مرگ ناشی از آن دارو بر عهدۀ اوست. پس چرا برای شرکت‌های فناوری اشکالی ندارد که محصولات هوش مصنوعی را که به هشدار خودشان خطر نابودی آدمیان را به همراه دارد را روانۀ بازار کنند؟

حتی قبل از اینکه هوش مصنوعی مولد وارد صحنه شود، شرکت‌های بزرگ فناوری و اقتصادِ توجه به دلیل اثرات منفی خود با انتقادهای روزافزونی مواجه بودند. محصولاتی مانند اسنپ‌چت، اینستاگرام و تیک‌تاک طوری طراحی شده‌اند که دوپامین در مغز را به‌طور ناگهانی بالا می‌برند و همین آن‌ها را به اندازۀ سیگار اعتیاد آور می‌کند. در این مورد اتفاق نظر علمی وجود دارد که رسانه‌های دیجیتال به سلامت روان کاربران –به‌ویژه کودکان- آسیب می‌رسانند.

هوش مصنوعی اقتصاد توجه را توربوشارژ کرده، به عبارتی به رقابت بر سر جلب توجه مخاطبان سرعت و قدرتی مضاعف بخشیده و سیلی از مخاطرات جدیدی را جاری ساخته که هنوز مانده تا بفهمیم چه بر سرمان خواهند آورد. با اینکه ندای فراخوان‌ها برای تنظیم قانون و مقررات در حوزۀ هوش مصنوعی هر روز بلندتر می‌شود، اما این صدا از سمت همان افراد پشت صحنۀ این فناوری می‌آید و عمدتاً در قالب کمپین‌های بخش روابط عمومی این شرکت‌ها و تاکتیک‌های وقت‌کشی نمود می‌یابد. قانون‌گذاران و دولت‌ها به طور کامل نمی‌دانند محصولات مبتنی بر هوش مصنوعی چگونه کار می‌کنند یا چه خطراتی می‌توانند ایجاد کنند. فقط شرکت‌های مربوطه بر این واقف‌اند.

این مسئولیت شرکت‌هاست که اطمینان حاصل کنند که دانسته آسیبی وارد نمی‌کنند و اگر هر مشکلی ایجاد کنند آن را برطرف می‌نمایند. این وظیفۀ دولت است که از شرکت‌ها حساب بکشد و آن‌ها را جوابگو و مسئول بداند. اما جوابگویی معمولاً پس از واقعه اتفاق می‌افتد و این برای فناوری‌ای همچون هوش مصنوعی خیلی خیلی دیر است.

اگر صاحبان پوردو فارما، خانوادۀ سَکلر، به محض اینکه متوجه خطر اکسی‌کونتین شده بودند، مسئولانه عمل می‌کردند و اقداماتی را برای جلوگیری از تجویز بیش از حد این دارو انجام می‌دادند، شاید می‌شد از بحران مواد افیونی که در سال‌های اخیر گریبانگیر ایالات‌متحده شده جلوگیری کرد. تا زمانی که دولت ورود کند، چه‌ بسیار جان‌هایی که از دست رفتند و چه خانواده‌ها و جوامعی که نابود شدند و با هیچ شکایت و دادگاه وجریمه‌ای جبران نشدند.

وقتی صحبت از هوش مصنوعی به میان می‌آید، شرکت‌ها می‌توانند بهتر عمل کنند و باید بهتر عمل کنند. اما باید سریع باشند، قبل از اینکه ابزارهای مبتنی بر هوش مصنوعی آن‌قدر با فعالیت‌های روزانۀ ما عجین شود که خطراتش عادی شود و آن‌قدر چهار نعل تاخته باشد که مهارش ناممکن شود.

در شرکت نایک، ترکیبی از فشار بیرونی و تعهد درونی برای انجام کار درست بود که منجر به بازنگری اساسی در مدل کسب‌وکار آن شد. صنعت نوپای هوش مصنوعی به‌وضوح فشار بیرونی را احساس می‌کند: در ۲۱ ژوئیه، کاخ سفید از هفت شرکت برتر هوش مصنوعی تعهد داوطلبانه گرفت که محصولات ایمن و قابل اعتماد، مطابق با طرح اولیۀ منشور حقوق هوش مصنوعی که سال گذشته معرفی شد، ایجاد کنند. اما دستورالعمل‌های داوطلبانۀ مبهم راه‌در‌روهای خیلی زیادی باقی می‌گذارند.

آیندۀ جمعی ما اکنون به این بستگی دارد که آیا شرکت‌ها -در خلوت اتاق‌ هیئت‌مدیره، جلسات اجرایی و جلسات غیرعلنی استراتژی‌- تصمیم می‌گیرند کار درست را انجام بدهند یا خیر. شرکت‌ها به یک ستارۀ راهنمای پرنور نیاز دارند که همیشه بتوانند در مسیر نوآوری به آن رجوع کنند و گمراه نشوند. گوگل در روزهای ابتدایی کار خود تصمیم درستی گرفت، وقتی شعار سازمانی‌اش این بود که «شیطان نباش». هیچ شرکتی نباید، در پی کسب منافع خود، دانسته به مردم آسیب برساند.

این کافی نیست که شرکت‌ها صرفاً بگویند قانون‌گذاران سابق را استخدام کرده‌اند و راه‌حل‌های ممکن فلان و بهمان است. شرکت‌های هوش مصنوعی باید برنامه‌های عملیاتی معتبر و مؤثری طراحی کنند که به پنج سؤال کلیدی زیر پاسخ دهد:

• عواقب غیرمنتظرۀ هوش مصنوعی چیست؟
• چگونه خطرات شناسایی‌شده را کاهش می‌دهید؟
• قانون‌گذاران برای نظارت بر تلاش‌ شرکت‌ها در جهت کاهش خطرات بالقوه و مسئولیت‌پذیری آن‌ها چه اقداماتی می‌توانند بکنند؟
• قانون‌گذاران برای انجام این وظیفه به چه منابعی نیاز دارند؟
• چگونه متوجه می‌شویم که گاردریل‌ها دارند جواب می‌دهند؟

با چالش هوش مصنوعی هم باید مانند هر چالش شرکتی دیگر برخورد کرد. الزام شرکت‌ها به تعهد به یک برنامۀ عملیاتی در ۹۰ روز منطقی و واقع‌بینانه است. بهانه ممنوع است و از مهلت داده‌شده‌ که گذشت باید جریمه‌های جدی اعمال شود. لازم نیست این برنامه کامل و بی‌نقصی باشد و احتمالاً در مسیر یادگیری نیاز به تغییر و تنظیم دارد؛ اما تعهد به آن الزامی است.

شرکت‌های بزرگ فناوری باید به همان اندازه که به حداکثر‌رساندن سود متعهدند به محافظت از انسان‌ها نیز متعهد باشند. اگر ته داستان فقط پول باشد، همهٔ ما به دردسر می‌افتیم.

برهۀ پاگواش هوش مصنوعی
آن ماری اسلاتر، فادی چهاده
۶۶ سال پیش، ۲۲ دانشمند برجسته از ده کشور جهان از جمله ایالات‌متحده و اتحاد جماهیر شوروی، در شهر پاگواش، استان نوا اسکوشیای کانادا، گرد هم آمدند تا خطرات ناشی از سلاح‌های هسته‌ای را شناسایی کنند و به روش‌های صلح‌آمیزی برای حل‌وفصل منازعات بین کشورها برسند. با این حرکت، سازمان بین‌المللی معروف به کنفرانس‌های پاگواش در امور علمی و جهانی یا جنبش پاگواش متولد شد. اگرچه جهانِ عاری از سلاح‌های هسته‌ای تقریباً محال است، اما تلاش‌های این جنبش برای مبارزه با خلع سلاح هسته‌ای به اندازه‌ای مؤثر بود که جایزۀ صلح نوبل را در سال ۱۹۹۵ به دست آورد.

امروز جهان نیازمند یک جنبش پاگواش جدید است که این بار باید بر هوش مصنوعی متمرکز باشد. برخلاف تسلیحات هسته‌ای، هوش مصنوعی به همان اندازه که خطر دارد، امیدبخش نیز هست، و ظرفیت تخریبگری آن هنوز بیشتر در سطح تئوری است تا واقعیت. بااین‌حال، هر دو فناوری مخاطرات وجودی برای بشریت دارند. بنابراین دانشمندان، فناوران، فیلسوفان، اخلاق‌شناسان و انسان‌دوستان برجسته از همۀ قاره‌های جهان باید گرد هم آیند و برای نظارت بر هوش مصنوعی در سطحی جهانی بر چهارچوبی مستحکم توافق نمایند که از پشتوانۀ محلی، ملی و جهانی برخوردار باشد.

برخلاف جنبش اصلی پاگواش، لازم نیست درمورد هوش مصنوعی چارچوبی را از صفر طراحی کرد. ابتکار عمل‌های زیادی برای مدیریت و هدایت هوش مصنوعی (در زمینۀ توسعه و کاربردهای هوش مصنوعی) صورت گرفته است. به‌عنوان مثال می‌توان به طرح اولیۀ منشور حقوق هوش مصنوعی در ایالات‌متحده، دستورالعمل های اخلاقی برای هوش مصنوعی مورداطمینان در اتحادیۀ اروپا، اصول هوش مصنوعیِ سازمان توسعه و همکاری اقتصادی و توصیه‌های اخلاقی در هوش مصنوعی توسط یونسکو اشاره کرد.

درعوض، جنبش جدید پاگواش می‌تواند عمدتاً بر این متمرکز باشد که بازیگران مرتبط را به هم وصل کند، اقدامات لازم را همسو با هم جلو ببرد و از اجرایی‌شدن آن‌ها اطمینان یابد. وجود نهادها در این راستا حیاتی و ضروری خواهد بود. اما چه نوع مؤسسه‌هایی مورد نیاز است و آیا می‌توان در واقعیت آن‌ها را تأسیس یا توانمند ساخت تا سریعاً به چالش هوش مصنوعی رسیدگی کنند؟

آنتونیو گوترش، دبیرکل سازمان ملل متحد، خواستار «چندجانبه‌گرایی شبکه‌ای» ⁵ شده است که، در قالب آن، سازمان ملل و «مؤسسات مالی بین‌المللی، سازمان‌های منطقه‌ای، بلوک‌های تجاری و امثالهم» -از جمله بسیاری از نهادهای غیردولتی- «با هم نزدیک‌تر و مؤثرتر کار می‌کنند». اما برای اثربخشی این طرح، چنین شبکه‌های چندذی‌نفعی باید در جهت تحقق کارکردهای معینی طراحی شوند.

این ماه، گروهی از محققان و کارشناسان برجستۀ هوش مصنوعی از دانشگاه‌ها و شرکت‌های فناوری مقاله‌ای منتشر کردند و در این راستا چهار وظیفه را شناسایی کردند: گسترش فناوری سودمند، هماهنگ‌سازی مقررات، تضمین توسعه و استفادۀ ایمن، و مدیریت ریسک‌های ژئوپلیتیکی.

منطقی است که «تضمین توسعه و استفادۀ ایمن» در نظر بسیاری افراد اولویت اول باشد. لذا تلاش‌هایی در دست اقدام است تا مؤسسه‌ای ایجاد شود که آسیب‌های واقعی و بالقوۀ ناشی از کاربردهای هوش مصنوعی را شناسایی و بر آن نظارت کند، درست مثل هیئت بین‌دولتی تغییرات اقلیمی که بر خطر وجودی تغییرات اقلیمی نظارت می‌کند. درواقع، دیده‌بان جهانی هوش مصنوعی، که «طرح ابتکاری هوش مصنوعی و برابری» را پیشنهاد داده، آشکارا نوعی الگوبرداری از کار هیئت بین‌دولتی تغییرات اقلیمی بوده و اساساً شبکه‌ای از شبکه‌هاست که در انباشتن دانش از منابع مختلف بسیار خوب عمل می‌کند.

شبکه‌های انباشت -از سیستم گزارش‌دهی آژانس امنیت سایبری و زیرساخت ایالات‌متحده گرفته تا ویکی‌پدیا- دارای یک هاب یا قطب مرکزی معتبر هستند که می‌تواند اطلاعات و تحلیل‌ها را از انواع مختلفی از مؤسسات، که برخی از آن‌ها قبلاً شبکه‌ شده‌اند، جمع‌آوری کند. اما چنین مرکزی نمی‌تواند بر اساس اطلاعاتی که جمع‌آوری می‌کند اقدام سریعی انجام دهد. برای ادارۀ هوش مصنوعی، یک نهاد چندجانبۀ سلسله‌مراتبی با قدرت تصمیم‌گیری و اجرایی -‌مانند شورای امنیت سازمان ملل متحد- همچنان مورد نیاز است.

درمورد گسترش فناوری سودمند (که برای اکثر مردم به اندازۀ جلوگیری از آسیب مهم است)، احتمالاً شبکۀ ترکیبی نوآوری-همکاری بهترین عملکرد را دارد. شبکه‌های نوآوری معمولاً شامل تعداد زیادی گره‌های دور از هم -برای اطمینان از دسترسی به بیشترین منابع ممکن ایده‌ها و اقدامات جدید- و چند هاب است که تمرکزش بر تبدیل ایده‌ها به عمل، همکاری در بهترین اقدامات و جلوگیری از استثمار است. این هاب‌ها می‌توانند بر مناطق معینی متمرکز باشند یا شاید به هدف خاصی از اهداف توسعۀ پایدار سازمان ملل متحد مرتبط باشند.

هماهنگ کردن مقررات -از جمله آزمایش‌کردن انواع مختلف مقررات- به ساختار گسترده‌تر، رهاتر و هرچه جامع‌تر نیاز دارد. فناوری‌های هوش مصنوعی زیادی وسیع و زیادی سریع هستند، طوری که یک یا حتی چندین پایگاه نظارتی مرکزی نمی‌توانند به‌تنهایی آن‌ها را هدایت کنند. درعوض، ما یک شبکه چندقطبی (مالتی‌هاب) که توزیع وسیع‌تری در سطح جهان دارد را پیشنهاد می‌کنیم تا از آنچه «حاکمیت جهانی دیجیتال» می‌نامیم پشتیبانی کند.

مدل ما مبتنی بر تشکیلات توزیع‌شده و سیستم حاکمیتی مشترک است که در سطحی گسترده‌ به حفظ ثبات و انعطاف‌پذیری اینترنت کمک می‌‍‌کنند. دهه‌ها پیش، محققان فناوری، با حمایت دولت ایالات‌متحده و کسب‌وکارهای اینترنتی اولیه، چندین مؤسسه ایجاد کردند که مجموعه‌ای بودند با هماهنگی آزادانه و منعطف با یکدیگر و هر کدام مسئولیت‌ها و کارکردهای خاص خود را داشتند.

اینترنت سوسایتی یک اینترنت باز و متصل در سطح جهانی را ترویج می‌کند. کنسرسیوم ورلد واید وب استانداردهای وب را توسعه می‌دهد. اینترنت گاورننس فورم ذی‌نفعان را گرد هم می‌آورد تا درمورد مسائل مربوط به سیاست‌گذاری بحث کنند. و شرکت اینترنت کورپوریشن فور نیمز اند نامبرز⁶ شناسه‌های منحصربه‌فرد اینترنت را هماهنگ و محافظت می‌کند.

رمز موفقیت این مؤسسات این است که از طریق شبکه‌های توزیع‌شدۀ خودگردانی اداره می‌شوند که طیف وسیعی از ذی‌نفعان را برای طراحی مشترک هنجارها، قوانین و دستورالعمل‌های اجرایی گرد هم می‌آورند. به عنوان مثال، شرکت اینترنت کورپوریشن فور نیمز اند نامبرز دارای ده‌ها شبکۀ خودسازمانده است که با سیستم نام دامنه سروکار دارند -که برای اینترنت‌گردی کاربران بسیار مهم است- و سایر شبکه‌های خودگردان را هماهنگ می‌کند، مانند پنج مؤسسه منطقه‌ای که تخصیص آدرس‌های آی‌پی را در سطح جهان مدیریت می‌کنند.

این مؤسسات قادر به رسیدگی به طیف وسیعی از مسائل سیاست‌گذاری، از فنی گرفته تا سیاسی، هستند. هنگامی که روسیه در سال ۲۰۲۲ به اوکراین حمله کرد، مقامات اوکراینی به شرکت اینترنت کورپوریشن فور نیمز اند نامبرز فشار آوردند تا ru. را از فهرست اصلی سیستم نام دامنه، که به روت زون ⁷ معروف است، حذف کند؛ روت‌ زون را ۱۲ مؤسسه در چهار کشور جهان مدیریت می‌کند که با شرکت اینترنت کورپوریشن فور نیمز اند نامبرز هماهنگ است اما تحت کنترل آن نیست. درنهایت، مقامات شرکت اینترنت کورپوریشن فور نیمز اند نامبرز این درخواست حذف را رد کردند.

کنفرانسی شبیه به پاگواش درمورد هوش مصنوعی هیچ کمبود مشارکتی از لحاظ پروپوزال، یا شرکت‌کنندگان دولتی، دانشگاهی، شرکتی و مدنی نخواهد داشت. شرکت‌کنندگان در کنفراس اصلی پاگواش در پاسخ به درخواست غول‌های متفکری همچون برتراند راسل فیلسوف و آلبرت انیشتین فیزیکدان در آن شرکت کردند. امروز چه کسی قدم پیش می‌گذارد؟

هوش مصنوعی همه‌چیز را تغییر می‌دهد
هارولد جیمز
تحولات پرسرعت هوش مصنوعی نه‌تنها مفاهیم مرسوم کار را زیر و زبر می‌کند، بلکه جوهرۀ هویت انسان را نیز تغییر خواهد داد. پیشرفت‌های قبلی فناوری رفتارها و ظواهر انسان را تغییر می‌دادند، اما هوش مصنوعی اساساً باورهای اجتماعی و سیاسی اصلی افراد، از جمله باورهای مربوط به ماهیت و نقش دولت، را تغییر خواهد داد.

در انقلاب صنعتی قرن نوزدهم، نیروی مکانیکی -که عمدتاً از سوخت کربن تأمین می‌شد- به‌عنوان منبع انرژی جایگزین نیروی انسانی و حیوانی شد تا در دگرگونی طبیعت و تولید کالاهای صنعتی و مصرفی مورد استفاده قرار گیرد. با بلوغ انقلاب صنعتی در قرن بیستم، کار فیزیکی سخت تنها در گروهی از مشاغلِ رو به کاهش باقی ماند.

اگر می‌خواهید فقط چشمه‌ای از دوران کاری قبل از صنعتی‌شدن را ببینید، به کارگران طاق‌زن (در اجرای سقف‌ شیروانی) نگاه کنید که همچنان در معرض مستقیم هر نوع آب و هوای سخت، و در وضعیت بدنی خم و ناراحت ساعت‌ها زحمت می‌کشند و بسیار خسته و فرسوده می‌شوند. آن‌ها در قرن بیست‌ویکم وارث کاری هستند که زمانی تجربه‌ای عمومی بود. کارگران اتومبیل‌سازی در اوایل قرن بیستم روی ابزارهای خود خم می‌شدند، اجسام سنگین را بلند می‌کردند و انرژی بسیار زیادی روی کارشان می‌گذاشتند. اما همتایان آن‌ها در اوایل قرن بیست‌و‌یکم به مانیتورها نگاه می‌کنند و ربات‌هایی را زیر نظر می‌گیرند که کارهای سنگین فیزیکی برعهده دارند. با محوشدن اقتصاد مبتنی بر عرق‎ریختن، کارگران از لحاظ بدنی ضعیف‌تر، اما درعین‌حال سالم‌تر شده‌اند. کسانی که می‌خواهند قدرت بدنی خود را حفظ کنند اکنون به باشگاه می‌روند.

انقلاب فناوری اطلاعات گام رو به جلوی دیگری در مسیر این پیشرفت انسانی بود. ازآنجاکه ماشین‌ها وظایف شناختی بیشتری را بر عهده گرفته‌اند، رایانه‌ها اکنون بر ربات‌هایی که کار فیزیکی انجام می‌دهند نظارت می‌کنند. با حذف کار ذهنی (مثل محاسبات پیچیده‌ای که فروشنده‌های قدیم انجام می‌دادند)، همان الگوی قدیمی ادامه یافته: بسیاری از مردم فکرکردن را در کارشان تعطیل و آن انرژی‌های ذهنی را صرف حل جدول کلمات، سودوکو یا وُردل (حدس کلمات آنلاین) کرده‌اند.

انقلاب امروزی بسیار فراتر می‌رود، زیرا بر مفهوم فعالیت جمعی تأثیر می‌گذارد. این پیشرفت شاید در ارتش آشکارتر باشد، اما در مشارکت سیاسی و حتی درک ما از اقتدار مشروع نیز اثرگذار است.

قرن بیستم قرن مخرب‌ترین جنگ‌ها در تاریخ بشر بود که این به‌نوبۀ خود تکانۀ جدیدی برای دموکراتیک‌شدن ایجاد کرد. ازآنجاکه باید به سربازان و خانواده‌هایشان به پاس این فداکاری‌ پاداشی داده می‌شد، هر دو جنگ جهانی منجر به افزایش گسترهٔ حق رأی شد. لیبرالیسم سیاسی کلاسیک معتقد بود که نباید از مردم انتظار داشت که جان خود را برای یک نهاد سیاسی خاص فدا کنند، مگر اینکه در امر تصمیم‌گیری حق اعمال نظر داشته باشند.

اما فناوری راهی برای دورزدن این فرایند دارد. امروزه در سراسر جهان انتظار نمی‌رود که جمعیت شهری تحصیل‌کرده در بعد خشن روابط انسانی مشارکت کنند. روسیه را در نظر بگیرید. ولادیمیر پوتین، رئیس‌جمهور روسیه، برای جنگ در اوکراین به گروه‌های مزدور نیمه‌خودمختار، جمعیت‌های پیرامونی و حتی زندانیان متکی است، زیرا می‌داند که جمعیت مسکو و سن پترزبورگ از نظر جسمی و -مهم‌تر از آن- از نظر روانی برای این کار مناسب نیستند.

البته این مشکل جدیدی نیست. قبل از جنگ جهانی اول، با توجه به اینکه زندگی صنعتی مدرن بسیاری از افراد را از نظر فیزیکی برای خدمت سربازی نامناسب کرده بود، فرماندهان نظامی در کشورهای بزرگ اروپایی با خود فکر می‌کردند که چطور ارتش‌های بزرگی را تشکیل دهند. امروزه، برنامه‌ریزان نظامی همچنان همان نگرانی‌ها را دارند. در سال ۲۰۱۷، پنتاگون تخمین زد که ۷۱ درصد از جوانان آمریکایی (۱۷ تا ۲۴ ساله) برای خدمت مناسب نیستند و حالا این رقم به ۷۷ درصد افزایش یافته است. اما حالا فناوری‌هایی موجود است که نسل‌های قبلی حتی تصورش را هم نمی‌کردند. اکنون جنگ بر عهدۀ وسایل بدون سرنشین -مانند هواپیماهای خودران- است، درست مثل کارهای صنعتی و اداری در دوران اخیر.

برای درک پیامدهای سیاسی خودکارسازی جنگ، فقط به چگونگی تغییر کلی جامعه در دوران مدرن توجه کنید. در جامعۀ قرون وسطی، انسان‌ها به‌طور کلی به سه طبقه تقسیم می‌شدند: سخنوران، جنگاوران، کارگران: کسانی که وعظ یا دعا می‌کردند (روحانیان)؛ کسانی که می‌جنگیدند (اشراف)؛ و باقی مردم که درواقع «کار یدی» انجام می‌دادند.

اشراف در ابتدا به دلیل توانایی جنگاوری خود می‌توانستند مدعی قدرت عظیم سیاسی باشند. اما پس از بازنشستگی از جنگ، به درباریانی پرفیس‌وافاده تبدیل می‌شدند که مشروعیت حاکمیتشان پشت عطر و رخت بس پرطمطراقشان گم می‌شد. با ارتش‌های مردمی‌ای که پس از انقلاب فرانسه به وجود آمدند، جنگ دموکراتیک شد و سیاست هم همین‎طور. اما اکنون که جنگ از طریق تکنولوژی دارد جلو می‌رود، قدرت از دستان مردم خارج خواهد شد.

بر سر بقیۀ گروه‌های اجتماعی چه خواهد آمد؟ همان‌طور که انقلاب صنعتی نیاز به کارگران یدی را کاهش داد، انقلاب هوش مصنوعی هم انسان‌ها را از حوزۀ نظامی بیرون می‌کند. مانند کارگران، جنگاوران هم دارند ماشینی می‌شوند. حال سخنوران مانده‌اند که کارشان همچنان فقط انسانی است.

آیا دست فناوری آن‌ها را هم از دور خارج خواهد ساخت و در آخر نابودشان خواهد کرد؟ برخی از منتقدان و رهبران فناوری دنیا بسیار هراسان شده و خواستار نوعی «مکث» در توسعۀ هوش مصنوعی هستند. اما فناوری هیچگاه صرفاً به خواستۀ بعضی افراد از حرکت بازنایستاده.