گفت‌وگو

دانیل کانمن در کتاب جدیدش دوباره سراغ قضاوت‌های انسانی رفته است

چرا توانایی درک شیوع یک ویروس را نداریم، یا نمی‌توانیم آیندۀ هوش مصنوعی را درک کنیم؟

دانیل کانمن در کتاب جدیدش دوباره سراغ قضاوت‌های انسانی رفته است

به‌نظرتان وقتی یک بیمار با علائمی مشخص به دو متخصص مراجعه می‌کند، چقدر احتمال دارد که نسخه‌های متفاوتی دریافت کند؟ یا اگر پرونده‌ای حقوقی به دو قاضی ارجاع شود، چقدر محتمل است که احکام متفاوتی صادر شود؟ دنیل کانمن، وقتی سال‌ها پیش آزمایشی را در این باره طراحی می‌کرد، حدس می‌زد اختلاف بین قضاوتِ متخصصان مختلف در یک حوزه، باید چیزی حدود ۱۰درصد باشد، اما بعد از انجام آزمایشش، فهمید این اختلاف بسیار زیاد و حدود ۵۰ درصد است. کتاب جدید او و همکارانش تلاشی برای فهم این معضل است.

Guardian

Daniel Kahneman: Clearly AI is going to win. How people are going to adjust is a fascinating problem

گفت‌وگوی تیم آدامز با دنیل کانمن،گاردین — دنیل کانمنِ ۸۷ ساله، با کار در حوزه روانشناسیِ قضاوت و تصمیم‌گیری توانست در سال ۲۰۰۲ جایزه نوبل اقتصاد را از آن خود کند. او در نخستین کتابش، تفکر، سریع و کند که در سطح جهان پرفروش شد، ایده‌هایی انقلابی دربارۀ خطا و سوگیری‌ انسانی مطرح می‌کند و توضیح می‌دهد که چگونه می‌توان این رفتارها را شناسایی کرد و کاهش داد. کانمن در کتاب جدیدش، نویز : نقیصه‌ای در قضاوت انسانی۱ که با همکاری اولیورسیبونی، و کَس سانستاین نوشته شده، این ایده‌ها را در سازمان‌ها به‌کار می‌گیرد. این مصاحبه هفته گذشته از طریق نرم‌افزار زوم با دنیل کانمن در خانه‌اش در نیویورک انجام شد.

تیم آدامز: من تصور می‌کنم همه‌گیری موضوع خوبی برای شروع باشد. این همه‌گیری از جهتی بزرگترین آزمایش ساعت‌به‌ساعتی است که تا به حال در عرصۀ تصمیم‌گیریِ سیاسیِ جهانی رخ داده است. فکر می‌کنید در درکِ ضرورتِ «گوش فراسپردن به علم» به لحظۀ دوران‌سازی رسیده‌ایم؟

دنیل کانمن: هم بله و هم خیر، زیرا روشن است که گوش‌ندادن به علم چیز بدی است. از طرف دیگر، مدتی زمان می‌برد تا علم بتواند اقداماتش را به نتیجه برساند.

آدامز: یکی از مشکلات اصلی که به نظر می‌رسد فراگیر شده عدم درک ایدۀ اساسی رشد نمایی است. این مسئله شما را شگفت‌زده نمی‌کند؟

کانمن: فهم پدیده‌های نمایی تقریباً برای ما ناممکن است. عمدۀ تجارب ما در جهانی کمابیش خطی روی می‌دهد. اگر چیزی در حال شتاب گرفتن باشد، معمولاً تا حد امکان به شتاب خود ادامه خواهد داد. تغییر نمایی [مثل شیوع این ویروس] واقعاً چیز دیگری است. ما آمادگی‌اش را نداریم. کسب آگاهی در این زمینه زمان زیادی می‌برد.

آدامز: آیا فکر می‌کنید که تضارب آرا در رسانه‌های اجتماعی این مسئله را وخیم‌تر می‌کند؟

کانمن: من چیز زیادی دربارۀ رسانه‌های اجتماعی نمی‌دانم، بالاخره، شکاف نسلی بزرگی ایجاد شده. اما واضح است که امکان نشر اطلاعات کاذب به مدد این فضا افزایش یافته است. رسانۀ اجتماعی، نوع جدیدی از رسانه است که اساساً مسئولیتی در قبال دقت و حتی وارسی اعتبار اطلاعات ندارد.

آدامز: ممکن است به زبان غیرتخصصی توضیح دهید که منظورتان از «نویز» در این کتاب چیست؟ این مفهوم چقدر با مفاهیمی از قبیل ذهنیت‌گرایی و خطا فرق می‌کند؟

کانمن: در واقع، موضوع اصلی ما نویز سیستمی است. نویز سیستمی پدیده‌ای در درون فرد نیست، بلکه پدیده‌ای در درون سازمان یا سیستمی است که بناست تصمیمات یکدستی اتخاذ کند. این مفهوم با ذهنیت‌گرایی یا سوگیری بسیار متفاوت است. لازم است به شیوۀ آماری موارد بسیار زیادی را بررسی کنید و آنگاه نویز را مشاهده خواهید کرد.

آدامز: برخی از نمونه‌هایی که توصیف می‌کنید -مثلاً تفاوت چشمگیری که در صدور حکم برای جرائم یکسان دیده می‌شود (که حتی از عواملی خارجی مانند آب‌و‌هوا یا نتایج مسابقات فوتبال آخر هفته تأثیر می‌پذیرند) یا اختلاف فاحش در تعیین حق بیمه، تشخیص‌های پزشکی و مصاحبه‌های شغلی بر اساس اطلاعات پایۀ یکسان- تکان‌دهنده هستند. اغلب به نظر می‌رسد که عامل و محرّک این نویزها به مصونیت «متخصصان» انتخاب‌کننده مربوط است. تصور می‌کنم هیچ قاضی‌ای تصدیق نمی‌کند که یک الگوریتم بتواند در اجرای عدالت عادل‌تر باشد. درست است؟

کانمن: فکر می‌کنم که سیستم قضایی به نوعی استثنا است؛ زیرا این سیستم همانند فردِ «عاقل» است که تصمیم می‌گیرد. در پزشکی نویز فراوان یافت می‌شود، اما در این علم معیاری عینی برای تشخیص حقیقت وجود دارد.

آدامز: آیا تا به حال خودتان در هیئت منصفه حضور داشته‌اید یا مدت زمان زیادی در دادگاه‌ها سپری کرده‌اید؟

کانمن: خیر. اما مکالمات بسیاری با قضات داشته‌ام تا بتوانم در مورد چگونگی تأثیر نویز بر قضاوتشان تحقیق کنم. اما همان طور که می‌دانید جامعه قضایی علاقه ندارد مورد بررسی قرار بگیرد.

آدامز: گمان می‌کنم که مردم به صورت غریزی و عاطفی همچنان بیش از آن که به فرآیندهای انتزاعی متمایل باشند، رغبت دارند به سیستم‌های انسانی اعتماد کنند.

کانمن: قطعاً همین طور است. به عنوان مثال، همین مسئله را در طرز نگرش به واکسیناسیون مشاهده می‌کنیم. افراد مایلند هنگام مواجهه با واکسیناسیون، خطرات بسیار کمتری متحمل شوند تا هنگام مواجهه با این بیماری. لذا شکاف میان امر طبیعی و مصنوعی همه جا یافت می‌شود. تا اندازه‌ای به این دلیل است که وقتی هوش‌ مصنوعی مرتکب اشتباه می‌شود، این اشتباه به چشم انسان‌ها کاملاً احمقانه یا تقریباً شیطانی می‌آید.

آدامز: شما در تحلیلتان اشاره‌ای به خودرو‌های بدون راننده نداشته‌اید. اما من گمان می‌کنم که این موضوع دارد به عرصۀ اصلی این بحث تبدیل می‌شود این طور نیست؟ هر چقدر هم که خودروهای اتوماتیک بتوانند از لحاظ آماری ایمن‌تر شوند، هر باری که تصادف ‌کنند در موردشان بزرگنمایی خواهد شد؟

کانمن: ایمن‌تر بودن خودروهای اتوماتیک در مقایسه با خودروهای دارای راننده کافی نیست، بلکه در مقایسه با انسان واقعاً باید با ضریب ایمنی بسیار بالاتری داشته باشند.

آدامز: ۵۰ سال از زمانی که شما و مرحوم آموس تورسکی پا در راه پژوهش دربارۀ این پرسش‌ها گذاشتید می‌گذرد. آیا احساس می‌کنید که نتایجتان از سوگیری و خطاپذیری مشهود انسانی از آن زمان تا به حال بیشتر درک شده است؟

کانمن: همان طور که می‌دانید، هنگامی که پژوهشمان را انجام دادیم انتظار خاصی نداشتیم که جهان را تغییر دهیم. جای تأمل دارد که این دانش کیفیت قضاوت من را تا چه اندازه اندک تغییر داده است. اجتناب از نویز در قضاوت چیزی نیست که آدم‌ها بتوانند به‌خوبی از پس آن بر بیایند. اگر قرار باشد در این مورد به جایی اعتماد کنم، واقعاً سازمان‌ها را شایستۀ اعتماد می‌دانم.

آدامز: برایم سئوال است که آیا می‌توان کارتان را در زمرۀ سبکِ هجوآمیزی دید که سعی دارد حماقت بشری را برجسته سازد؟

کانمن: نه این طور نیست. در واقع من خودم را روانشناسی کاملاً بی‌طرف می‌دانم. بدیهی است که انسان‌ها محدودند، اما شگفت‌انگیز نیز هستند. در کتاب تفکر، سریع و کند سعی کردم نه‌تنها در مورد نقائص تفکر شهودی بلکه در مورد شگفتی‌های آن نیز صحبت کنم، اما نقائص جالب‌ترند و از این رو بیشتر به آن‌ها پرداخته شد.

آدامز: یکی از مواردی که در خواندن این کتاب توجه مرا جلب کرد، این مطلب بود که هرچه قدر هم که افراد و سازمان‌ها ادعا کنند که می‌خواهند کارا و عقلانی باشند، اما بخشی بنیادین از وجودِ ما از پیش‌بینی‌پذیری خسته می‌شود و صرفاً می‌خواهد با تاس‌انداختن شانس خودش را امتحان کند. آیا فکر می‌کنید به اندازۀ کافی به این بخش توجه دارید؟

کانمن: در بسیاری از حیطه‌ها به تنوع و خلاقیت احتیاج دارید، اما از طرفی هم در کارهای معینی به یکنواختی نیاز است. اگر تلاش برای دستیابی به یکنواختی بیش از اندازه بروکراتیک شود یا اگر افراد را بی‌انگیزه کند، فی نفسه می‌تواند مشکل‌ساز باشد. باز جای شکرش باقی است که سازمان‌ها مجبورند برای حل این مشکل گفت‌و‌گو کنند.

آدامز: هنگامی که نظاره‌گر انتخابات آمریکا بودم نکته‌ای نظر مرا به خود جلب کرد. هر از چند گاهی سیاستمداران هر دو حزب از خدا هدایت و یاری می‌طلبیدند. شما در این کتاب صحبتی از مذهب به میان نیاورده‌اید، اما آیا ایمان ماورایی مشکل نویز را تشدید می‌کند؟

کانمن: من فکر می‌کنم تفاوت میان مذهب و سایر نظام‌های اعتقادی کمتر از چیزی است که می‌پنداریم. همگی ما مایلیم باور داشته باشیم که در تماس مستقیم با حقیقت قرار داریم. من معتقدم که از برخی جهات باور من به علم تفاوت چندانی با باور مردم به مذهب ندارد. منظورم این است که به طور مثال من به تغییرات آب‌و‌هوایی باور دارم، اما واقعاً تصوری از آن ندارم. آنچه بدان باور دارم نهادها و روش‌هایی است که به من می‌گویند تغییرات آب‌و‌هوایی واقعی است. نباید فکر کنیم که چون مذهبی نیستیم از افراد مذهبی بسیار باهوشتریم. تکبر دانشمندان چیزی است که بسیار به آن می‌اندیشم.

آدامز: شما کتابتان را با طرح ایده‌هایی برای رفع نویز، ساخت چک لیستی برای تصمیم‌گیری، تعیین «ناظران تصمیم‌»۲ و غیره به پایان می‌رسانید. به یاد آن دسته از مطالعاتی افتادم که نشان می‌دهند تلاش‌های جمعی برای کاهش سوگیری‌های ناخودآگاه جنسیتی و نژادی از طریق آموزش اجباری بلااثر شده و نتیجه عکس می‌دهد. شما چنین نتایج غیرمنتظره‌ای را چگونه ارزیابی می‌کنید؟

کانمن: همیشه چنین ریسکی وجود دارد و آن ایده‌های که اشاره کردید عمدتاً آزموده نشده‌اند، اما من فکر می‌کنم که ارزش آن را دارد که بررسی شوند. سایر مواردی که در این کتاب بر اساس آزمون‌های بیشتر به‌دست آمده‌اند از استحکام بیشتری برخوردارند.

آدامز: آیا فکر می‌کنید که استفاده از داده‌ها و هوش ‌مصنوعی برای تقویت قضاوت انسانی یا جایگزینی با آن خطرات وسیع‌تری در پی دارد؟

کانمن: چنین تغییری عواقب گسترده‌ای در پی خواهد داشت که بخشی از آن‌ها همین الآن هم پدیدار شده است. برخی از تخصص‌های پزشکی به‌وضوح در معرض جایگزین‌شدن قرار دارند و مسلماً در زمینۀ تشخیصِ بیماری این اتفاق رخ خواهد داد. هنگامی که صحبت از رهبری به میان می‌آید، سناریو‌های بسیار ترسناکی وجود دارد. مثلاً وقتی به‌وضوح مشخص است که می‌شود هوش مصنوعی‌ای داشت که قضاوت حرفه‌ایِ۳ به‌مراتب بهتری دارد، چه بر سر رهبری انسانی می‌آید؟

آدامز: آیا در حال حاضر واکنش‌هایی علیه این مسئله مشاهده می‌کنیم؟ من گمان می‌کنم که یکی از راه‌های درک پیروزی‌های انتخاباتی ترامپ و جانسون این است که پیروزی آن‌ها را واکنشی در برابر جهانی از اطلاعات بدانیم که روز به روز پیچیده‌تر می‌شود، یعنی جذابیت آن‌ها در این است که افرادی فرصت‌طلب، بسیط و تکانه‌ای هستند. آیا ممکن است که بیشتر شاهد این نوع عوام‌گرایی باشیم؟

کانمن: من یاد گرفته‌ام که هیچ‌گاه پیش‌بینی نکنم. نه صرفاً به این دلیل که قادر به انجام چنین کاری نیستم، بلکه به این دلیل که اطمینان ندارم چنین کاری اساساً شدنی باشد. اما چیزی که به نظر بسیار محتمل می‌آید این است که این تغییرات عظیم به آهستگی رخ نخواهند داد. اختلال گسترده‌ای در حال وقوع است. تکنولوژی با سرعت بسیار زیادی و احتمالاً به صورت نمایی در حال توسعه یافتن است. اما انسان‌ها خطی هستند. وقتی افرادی خطی با تغییراتی نمایی مواجه شوند، نمی‌توانند به آسانی خود را با آن تطبیق دهند. بسیار واضح است که چیزی در حال وقوع است … و روشن است که هوش‌مصنوعی [بر هوش بشری] چیره خواهد شد. اما نه به این زودی‌ها. نحوۀ تطبیق یافتن افراد با این تغییر مسئله‌ جالبی است، بااین‌حال، چنین چیزی برای فرزندان و نوه‌هایم رخ می‌دهد، نه برای من.

آدامز: شما در شرایط نااطمینانیِ بسیار شدیدی زندگی‌تان را آغاز کردید؛ به عنوان پسربچه‌ای در فرانسه اِشغال‌شده: پدرتان در ابتدا به خاطر یهودی بودنش به دستِ نازی‌ها دستگیر شد، اما جان سالم به‌ در برد و به همراه خانواده گریختید و مخفی شدید. فکر می‌کنید که علاقه دیرین شما به این پرسش‌ها -نیاز به درک محرکات انسانی- تا چه اندازه ریشه در ترس و اضطراب آن دوران دارد؟

کانمن: وقتی به گذشته نگاه می‌کنم، فکر می‌کنم همیشه می‌خواستم روان‌شناس باشم. از سنین بسیار کم، دربارۀ نحوه کارکرد ذهن کنجکاو بودم. فکر نمی‌کنم پیشینۀ زندگانی من ارتباط زیادی با این مسئله داشته باشد. این مسائل همیشه در ذهنم وجود داشت.

آدامز: آیا احساس نمی‌کنید که همان بچۀ شش، هفت ساله‌اید؟

کانمن: چرا. قطعاً تداومی در این میان هست. هنوز هم می‌توانم نشانه‌هایی از آن دوران درون خودم بیابم.

آدامز: وقتی این کار را شروع کردید تصور می‌کردید که تا ۸۷ سالگی همچنان سخت‌ کار کنید؟

کانمن: نه، فکر می‌کردم که بمیرم! خودم تعجب می‌کنم که هنوز همان قدر کنجکاوم. از زمانی که نوشتن این کتاب را به اتمام رساندم تا به حال، در چندین پروژه و تحقیق همکاری کرده‌ام. در یکی از تحقیقاتم به ارتباط میان ناتوانی در حل معمای معروف «خفاش و توپ» با مسئله باور به خدا و توطئه‌بودن ماجرای یازده سپتامبر می‌پردازم. همۀ این‌ها مثل همیشه برایم جالب است.


فصلنامۀ ترجمان چیست، چه محتوایی دارد، و چرا بهتر است اشتراک سالانۀ آن را بخرید؟
فصلنامۀ ترجمان شامل ترجمۀ تازه‌ترین حرف‌های دنیای علم و فلسفه، تاریخ و سیاست، اقتصاد و جامعه و ادبیات و هنر است که از بیش از ۱۰۰ منبع معتبر و به‌روز انتخاب می‌شوند. مجلات و وب‌سایت‌هایی نظیر نیویورک تایمز، گاردین، آتلانتیک و نیویورکر در زمرۀ این منابع‌اند. مطالب فصلنامه در ۴ بخش نوشتار، گفت‌وگو، بررسی کتاب، و پروندۀ اختصاصی قرار می‌گیرند. گزیده‌ای از بهترین مطالب وب‌سایت ترجمان همراه با مطالبی جدید و اختصاصی، شامل پرونده‌های موضوعی، در ابتدای هر فصل در قالب «فصلنامۀ ترجمان علوم انسانی» منتشر می‌شوند. تاکنون به موضوعاتی نظیر «اهمال‌کاری»، «تنهایی»، «سفر»، «خودیاری»، «سلبریتی‌ها» و نظایر آن پرداخته‌ایم.

فصلنامۀ ترجمان در کتاب‌فروشی‌ها، دکه‌های روزنامه‌فروشی و فروشگاه اینترنتی ترجمان به‌صورت تک شماره به‌ فروش می‌رسد اما شما می‌توانید با خرید اشتراک سالانۀ فصلنامۀ ترجمان (شامل ۴ شماره)، علاوه بر بهره‌مندی از تخفیف نقدی، از مزایای دیگری مانند ارسال رایگان و دریافت یک کتاب به‌عنوان هدیه برخوردار شوید. فصلنامه برای مشترکان زودتر از توزیع عمومی ارسال می‌شود و در صورتی‌که فصلنامه آسیب ببیند بدون هیچ شرط یا هزینۀ اضافی آن را تعویض خواهیم کرد. ضمناً هر وقت بخواهید می‌توانید اشتراکتان را لغو کنید و مابقی مبلغ پرداختی را دریافت کنید.


اطلاعات کتاب‌شناختی:

Kahneman,Daniel.Noise: A Flaw in Human Judgment. Little, Brown Spark, 2021


پی‌نوشت‌ها:
• این مطلب گفت‌وگویی است با دنیل کانمن در تاریخ ۱۶ می ۲۰۲۱ با عنوان «Daniel Kahneman: Clearly AI is going to win. How people are going to adjust is a fascinating problem» در وب‌سایت گاردین منتشر شده است. و وب‌سایت ترجمان آن را در تاریخ ۵ تیر ۱۴۰۰ با عنوان «دنیل کانمن در کتاب جدیدش دوباره سراغ قضاوت‌های انسانی رفته است» با ترجمۀ محمدعلی کریم‌زاده منتشر کرده است.
•• دنیل کانمن (Daniel Kahneman) برندۀ جایزۀ نوبل اقتصاد ۲۰۰۲ و استاد دانشگاه پرینستون و همچنین نویسندۀ کتاب تفکر، سریع و آهسته (Thinking, Fast and Slow‎​) و نویز: نقیصه‌ای در قضاوت انسانی (Noise: A Flaw in Human Judgment) است.
••• انتشارات ترجمان علوم انسانی ترجمۀ فارسی این کتاب را به‌زودی منتشر خواهد کرد.
•••• تیم آدامز (Tim Adams) روزنامه‌نگار گاردین است و پیش از این، سردبیر بخش کتاب آبزرور بوده است. «در ستایش رانندگی؛ فیلسوفِ موتورسوار از خودروهای معمولی دفاع می‌کند» از دیگر مطالبی است که از او در ترجمان منتشر شده است.

[۱] Noise: A Flaw in Human Judgment
[۲] Decision observer
[۳]  قاعدۀ قضاوت حرفه‌ای (Business Judgment) به این پیش‌فرض اشاره دارد که مدیران شرکت‌ها مسئولیتی در برابر ضررهای ناشی از تصمیماتی که با حسن‌نیت می‌گیرند، ندارند [مترجم].

مرتبط

کناره بگیر و از تنهایی نترس

کناره بگیر و از تنهایی نترس

حتی اگر فرهنگ امروزی ما با خلوت‌‌گزیدن دشمن باشد، هنوز می‌توانیم راهمان را از آن جدا کنیم

گفت‌و‌گو لذت بی‌پایان است

گفت‌و‌گو لذت بی‌پایان است

ما در مکالمه کمبود خود را با درآمیختن با «دیگری» پر می‌کنیم

خبرنامه را از دست ندهید

نظرات

برای درج نظر ابتدا وارد شوید و یا ثبت نام کنید

گروهی از نویسندگان

ترجمه میثم غلامی و همکاران

گروهی از نویسندگان

ترجمه احمد عسگری و همکاران

امیلی تامس

ترجمه ایمان خدافرد

سافی باکال

ترجمه مینا مزرعه فراهانی

پاملا دراکرمن

ترجمه مریم خوشحال‌پور

جف کرایسلر, دن آریلی

ترجمه بابک حافظی

دنیل تی. ویلینگهام

ترجمه سید امیرحسین میرابوطالبی

لیا اوپی

ترجمه علیرضا شفیعی نسب

دیوید گرِیبر

ترجمه علیرضا شفیعی نسب

جو موران

ترجمه علیرضا شفیعی نسب

لی برِیوِر

ترجمه مهدی کیانی

آلبرتو منگوئل

ترجمه عرفان قادری

d

خرید اشتراک چهار شمارۀ مجلۀ ترجمان

تخفیف+ارسال رایگان+چهار کتاب الکترونیک رایگان (کلیک کنید)

آیا می خواهید از جدیدترین مطالب ترجمان آگاه شوید؟

بله فعلا خیر 0