حالا کنار شغلِ اصلی‌ام، یک کارِ دیگر هم دارم: راضی نگه‌داشتنِ هوش مصنوعیِ هیجانی

الن کوشینگ، آتلانتیک—خوشبختانه کامپیوترم فکر می‌کند شخصیت خوبی دارم؛ براساس اپلیکیشنی به نام مُرف‌کست، در یکی از جلسه‌های اخیر با رئیسم، درمجموع «خوشحال»، «مصمم» و «علاقه‌مند» بوده‌ام، هرچند گاهی هم «کم‌حوصله» به نظر رسیده‌ام. مُرف‌کست مدعی است با استفاده از هوش مصنوعی می‌تواند به لایه‌های عمیق و پیچ‌وخم‌های هیجان انسانی راه بیابد. این برنامه تشخیص داده بود که حالت هیجانی من «مثبت» و «فعال» است، نه منفی و منفعل. توجه نسبتاً بالایی هم داشتم. ضمناً تذکر داده بود که عینکی‌ام -چه کشف شگفت‌انگیزی!

اما متأسفانه نرم‌افزارهای نظارتیِ نوین دیگر به رصدِ رفتارهای فیزیکی ما قانع نیستند و با بهره‌گیری از هوش مصنوعی می‌خواهند اعماق و لایه‌های پیچیدۀ هیجان انسانی را رمزگشایی کنند. برای درک ابعاد این ماجرا، کافی است به عملکرد شرکت مرف‌کست نگاه کنید که مجوز فناوری خود را به اپلیکیشن‌های سلامت روان، ابزارهای کنترلِ میزان توجه دانش‌آموزان و حتی کمپین‌های تبلیغاتی مک‌دونالد در پرتغال فروخته است. این شرکت صرفاً یکی از ده‌ها مجموعه‌ای است که با عناوینی دهان‌پرکن همچون هوش مصنوعی هیجانی یا رایانش عاطفی شناخته می‌شود و هدف اصلی‌اش تبدیلِ پیچیده‌ترین واکنش‌های روانیِ انسان به داده‌های سرد و قابل‌تحلیل است.

بعضی از این ابزارها ویدئوی جلسه‌ها و مصاحبه‌ها را تحلیل می‌کنند، بعضی لحن صدا و انتخاب واژه‌ها را می‌سنجند، و بعضی دیگر چت‌ها و ایمیل‌ها را می‌خوانند تا از وضعیت هیجانی کارمند گزارش بدهند. استفاده از این فناوری‌ها هم نه سخت است و نه لزوماً گران. من مرف‌کست را با یک نسخۀ آزمایشی رایگان امتحان کردم، بی‌آنکه به ابزار خاصی نیاز داشته باشم. تازه، در هیچ مرحله‌ای هم مجبور نبودم رضایت طرف مقابلم را بگیرم -هرچند من این کار را کردم.

هر فناوریِ موفقی باید مشکلی را بیابد که مردم برای حلش حاضر باشند هزینه کنند؛ و در بازارِ هوش مصنوعیِ هیجانی، آن مشکل چیزی نیست جز بهره‌وری کارگران. اگر شنیده‌اید که تماستان «برای تضمین کیفیت» ضبط می‌شود، به احتمال زیاد فردِ پشتِ خط زیر تیغ تحلیل هوش مصنوعی است. این نظارت‌ها طیف وسیعی دارند، از شرکت‌های حمل‌ونقل که با ردیاب چشم و اسکن مغز خستگیِ رانندگان را می‌کاوند گرفته تا برگرکینگ که با چت‌باتی به نام «پتی» به کارمندانش نمره می‌دهد که آیا به اندازۀ کافی «دوستانه» رفتار می‌کنند یا نه.

کوری دکترو، نويسنده، در سال ۲۰۲۲ برای مسیر گسترش این نرم‌افزار یک اسم گذاشت: «منحنی پذیرش فناوری‌های مزخرف». ایده ساده است: فناوری‌های این‌چنینی اول روی آدم‌هایی امتحان می‌شوند که دستشان به جایی بند نیست -مثلاً کارگران کم‌درآمد- و بعد، وقتی کمی صیقل خوردند و عادی شدند، به طبقاتِ پرقدرت‌تر سرایت می‌کنند.

گام بعدی کارمندان‌اند. نرم‌افزار اِوِر با ادغام در اسلک پیام‌ها را برای ارزیابی «احساسات و میزان سمی‌بودن» زیر نظر می‌گیرد؛ آزورِ مایکروسافت هم امکان تحلیل انبوه چت‌های کارکنان را می‌دهد. ایمنتیو هم به کارفرماها وعده می‌دهد با رصد مصاحبه‌های شغلی شدت و ارزش‌گذاری هیجانی داوطلبان و حتی نوع شخصیت آن‌ها را بگوید. سال پیش اتحادیۀ اروپا هوش مصنوعی هیجانی را در محیط کار -مگر برای موارد پزشکی یا ایمنی- ممنوع کرد. اما بازارِ این فناوری، که توجهی به این قوانین ندارد، قرار است تا ۲۰۳۰ سه برابر شود و به ۹ میلیارد دلار برسد. آینده روشن است: روزگاری می‌رسد که کارگر نه‌تنها باید بیشتر و سخت‌تر کار کند، بلکه مجبور است خوشحال هم به نظر برسد.

شغل ذاتاً یعنی معاملۀ آزادی با پول. کارن لوی از دانشگاه کرنل می‌گوید «رصد کارکنان چیز تازه‌ای نیست». ردیابی احساسات بدون رضایت و نبودِ حریم خصوصی هم داستان تازه‌ای نیست؛ فقط ابزارها پیشرفته‌تر شده‌اند. در گذشته، نبودِ امکان تحلیل این حجم از داده‌ها حافظ منافع کارگران بود، نه قانون. و حالا آن سد شکسته شده. امروز لحظه‌به‌لحظۀ کارمندان زیر ذره‌بین است -هرچند کارمندان هم با ترفندهای خودشان آن‌ها را دور می‌زنند. اما محصول اصلی این نرم‌افزارها نه خودِ داده‌ها، که روایت مبتنی بر آن‌هاست، قضاوتِ حاضر و آماده‌ای که به مدیر می‌گوید کارمندِ زیردستش خوب است یا بد.

و همان‌طور که شرایط فناورانه برای نظارت آماده شده، فرهنگ و اقتصادش هم مهیا شده است. کرونا کارگران را، به دور از چشم مدیرانشان، به دورکاری فرستاد، و باعث شد اعتماد میان کارفرما و کارمند از بین برود. هم‌زمان، در سایۀ رکودی که سال‌هاست وعده‌اش داده می‌شود، هوش مصنوعی بازار کار را زیرورو کرده: ابزارهایی که امروز کارکنان مراکز تماس را پایش می‌کند فردا شاید اساساً جای آن‌ها را بگیرد. شرکت‌ها هم در این فاصله ده‌ها هزار نفر را اخراج می‌کنند و دنبال راه‌های بیشتری برای جایگزینی انسان با ماشین‌اند. وفورِ داده‌ها واحد منابع انسانی را از یک حوزۀ کیفی به «تحلیلگریِ نیروی انسانی» تنزل داده است. این تحول آینۀ تمام‌نمای «نیهیلیسمِ حریم خصوصی» در جامعه است که مردم، پس از سال‌ها تبلیغاتِ هدفمند، اینک دربرابر این نظارت بی‌حس‌ شده‌اند.

شرکت‌های نظارت دیجیتال محصولاتشان را با شعار «سلامت روان» و امنیت می‌فروشند (مثلاً هوش مصنوعیِ بانک فرست‌هورایزن با دیدن استرسِ کارمند عکس خانواده‌اش را برای تسکین نشان می‌دهد). اما در عمل، این سیستم‌ها ابزارِ ردیابیِ دقیقه به دقیقۀ بهره‌وری هستند. گزارش نیویورک‌ تایمز نشان می‌دهد که۸۰ درصد کارفرمایان بزرگ آمریکا عملکرد کارمندان را ردیابی می‌کنند، ردیابی‌ای که برای ۳۷ درصدِ آن‌ها نه ابزارِ سلامت، که سلاحی برای اخراج بوده است.

اما مشکل این ابزارها این است که در انجام کارهایی که ادعا می‌کنند می‌توانند انجام دهند چندان خوب عمل نمی‌کنند؛ ردیاب‌های کیبورد تفاوتِ «تایپِ بی‌هدف» و «کارِ متمرکز» را نمی‌فهمند و آمارِ اپلیکیشن‌ها هم چیزی از کیفیتِ فعالیت افراد نمی‌گوید. برای نمونه، مثلاً نرم‌افزار یونایتدهلت گروپ مددکاران اجتماعی را به دلیلِ «غیرفعال‌بودنِ کیبورد» جریمه می‌کرد، آن‌هم وقتی مشغولِ جلسۀ درمانی با بیماران بودند. شرکت هم در مواجهه با این رسوایی صرفاً به پاسخی کلیشه‌ای بسنده کرد: «عواملِ متعددی در ارزیابی دخیل‌اند».

اگر ماشین‌ها حتی در تشخیص بهره‌وریِ ساده لنگ می‌زنند، در برابر هیجان‌های انسانی تقریباً کورند. هوش مصنوعی سوگیریِ داده‌های آموزشی‌اش را بازتولید می‌کند؛ در مطالعه‌ای در سال ۲۰۱۸، سیستم‌های تشخیص هیجانْ بازیکنان سیاه‌پوست ان‌بی‌اِی را، حتی وقتی لبخند می‌زدند، خشمگین‌تر از هم‌تیمی‌های سفیدپوستشان تشخیص دادند. بااین‌حال، بسیاری از محصولات هوش مصنوعی هیجانی هنوز به نظریۀ «هیجان‌های پایه» پل اکمن تکیه دارند، نظریه‌ای که شش احساس جهان‌شمول را مفروض می‌گیرد -خشم، انزجار، ترس، شادی، اندوه و شگفتی- درحالی‌که سال‌هاست این نظریه به‌عنوان الگویی ساده‌انگارانه و معیوب نقد شده است.

تصور «زبان بدن» به‌مثابۀ زبانی جهانی کلیشه‌ای بیش نیست. لیزا فلدمن بارت، عصب‌شناس، تأکید می‌کند که «حرکات شما، چه روی صورتتان باشد، چه در بدنتان، و چه در لحن‌ صدایتان، معنای ذاتی ندارند؛ آن‌ها معنایی رابطه‌ای دارند». معنای یک حالتِ خاص بسته به موقعیت، فرهنگ و حتی دمای اتاق تغییر می‌کند، سیالیتی که هوش مصنوعی، با نگاهِ خشک و فرمولی‌اش، مطلقاً قادر به درک آن نیست.

به گفتۀ بارت، آمریکایی‌ها هنگام خشم فقط در ۳۵ درصد موارد اخم می‌کنند. بنابراین، اگر هوش مصنوعی خشم را از روی اخم تشخیص دهد، هم ۶۵ درصدِ خشم‌های واقعی را از دست می‌دهد، و هم نیمی از اخم‌های بی‌ربط را خشم می‌خواند. کافی است در مصاحبۀ شغلی از شدت تمرکز اخم کرده باشید. ماشین شما را «عصبانی» تشخیص می‌دهد و همان‌جا فرصت شغلی‌تان می‌پرد. به همین قیاس، همدردیِ یک مددکارِ دلسوز با بیمار با جرمِ «نداشتن روی خوش» ثبت می‌شود.

بارت سال‌هاست که روان‌شناسی هیجان را مطالعه می‌کند. در اواخر گفت‌وگویمان، از او پرسیدم مردم باید دربارۀ هوش مصنوعی هیجانی چه بدانند. گفت «صدها مطالعه با هزاران شرکت‌کننده نشان داده‌اند که، در هیجان، تنوع استثنا نیست، قاعده است». به عبارت دیگر، ایدۀ سنجشِ عینیِ احساسات از اساس خیال‌پردازی است. البته تولیدکنندگان و مشتریانِ این فناوری هم حرفِ حساب دارند: انسان‌ها هم خودشان سوگیری دارند. و از طرف دیگر، درست هم می‌گویند، «فناوری روزبه‌روز بهتر می‌شود».

اگر واقعاً درست بگویند چه؟ راستش را بخواهید، هرچه بیشتر با مُرف‌کست کار کردم، بیشتر از عکسِ این وضعیت ترسیدم: جهانی که در آن ربات‌هایش واقعاً بتواند حالِ هیجانیِ مرا درست بخوانند. آن‌وقت، کنار شغلِ اصلی‌ام، یک کارِ دیگر هم دارم: راضی نگه‌داشتنِ رباتِ هیجانی. در چنین جهانی، هر حالتِ ناخواستۀ صورتم تأثیر مستقیم بر تأمینِ معاشم دارد. همیشه می‌دانستم محلِ کارم قدرتِ زیادی بر من دارد، اما صادقانه نمی‌خواهم این نفوذ و قدرت تا این اندازه برایم عینی و ملموس شود.

لوی در کتابش شرح می‌دهد که رایانش عاطفی و دیگر ابزارهای نظارت هیجانی چگونه وارد صنعت کامیون‌داری شدند، حوزه‌ای که سال‌ها، به‌خاطر پراکندگی نیروی کارش، از نظارت گسترده تا حدی در امان بود. اما از ۲۰۱۶، با اجباری‌شدن ثبت الکترونیکی، این وضعیت تغییر کرد، آن هم با وعدۀ کاهش خستگی و تصادف. نتیجه، به گفتۀ لوی، بیشتر استرس بود تا ایمنی. رانندگان کامیون همیشه از غرور حرفه‌ای و استقلال زیادی برخوردار بودند، اما نظارتِ رایانه‌ای همین حس را هم به‌تدریج از بین برده است. لوی می‌گوید «وقتی انسان تا این حد زیر ذره‌بین باشند، باید به‌شدت نگران کرامت انسانی باشیم». برایم مایۀ دلگرمی بود که کامپیوتر از من خوشش آمده ، اما اساساً ترجیح می‌دهم مرا نشناسد.

---

فصلنامۀ ترجمان چیست، چه محتوایی دارد، و چرا بهتر است اشتراک سالانۀ آن را بخرید؟

ما در مجلۀ ترجمان تازه‌ترین نوشته‌های دنیای علوم انسانی را از میان معتبرترین مجلات جهان ترجمه و منتشر می‌کنیم. در ترجمان تلاش می‌کنیم از دریچۀ علوم انسانی به مسائل فرهنگی و اجتماعی روزمره بنگریم، با زبانی روشن دربارۀ آن‌ها حرف بزنیم و خواننده را با دیدگاه‌های گوناگون نسبت به هر مسئله آشنا کنیم.
مطالب مجله پیش از آن‌که در سایت ترجمان منتشر شوند، در نسخۀ چاپی در اختیار خوانندگان قرار می‌گیرند. با خرید اشتراک سالانه یا تهیۀ هر شمارۀ مجله، زودتر از دیگران به محتوای کامل ترجمان دسترسی خواهید داشت و از مزایایی مانند تخفیف، ارسال رایگان و هدیه‌های ویژه نیز بهره‌مند می‌شوید. برای آشنایی بیشتر با محتوای مجله یا خرید نسخه‌های چاپی، به فروشگاه اینترنتی ترجمان سر بزنید.