از جنرال موتورز تا گوگل
آنچه در ابتدا تبلیغات بود، اکنون تهدیدی علیه آزادی و دموکراسی است
سه شنبه ۱۲ آذر ۱۳۹۸ ۰۹:۰۶
 
کتاب جدید شوشانا زوبوف، استاد برجستۀ هاروارد، تحسین فراوانی برانگیخته است. زیدی اسمیت به خوانندگانش گفته است خوشحال می‌شود اگر به‌جای خریدن کتاب جدید خودش، «عصر سرمایه‌داری نظارتی» را بخرند و نائومی کلاین و مارگارت آتوود بارها در صحبت‌هایشان این کتاب را ستوده‌اند. زوبوف در این کتاب می‌گوید سرمایه‌داری همواره با تبدیل چیزهای غیرقابل خرید و فروش به کالا، بازارهای جدید خلق کرده است و حالا به آخرین چیزی که باقی مانده روی آورده: تبدیل جزئی‌ترین رفتارها و احساسات روزمرۀ ما به کالا.
تخمین زمان مطالعه : ۱۵ دقيقه
 
 

جوانا کاوِنا، گاردین — روزی زیبا در آخرین هفتۀ تابستان، در منطقۀ سرسبز همپستد هیث لندن است. پارلمان هنوز تعطیل است. در یکی از خیمه‌های «جشنوارۀ چه نورهایی که می‌تابد»، پروفسور شوشانا زوبوف دربارۀ آخرین کتابش حرف می‌زند: عصر سرمایه‌داری نظارتی: نبرد برای آیندۀ بشر در جبهۀ جدید قدرت۱. کسی به چشمش می‌آید که انگار متقاعد نشده است. از او می‌خواهد دغدغه‌اش را مطرح کند. او می‌گوید: «در ماه ژانویه که این کتاب منتشر شد، از خانه بیرون آمدم و سه هفته مسافر جاده‌ها بودم. هنوز هم هستم».

حضار می‌خندند. چون عصر سرمایه‌داری نظارتی، تحلیلی جامعه‌شناختی از زمانۀ دیجیتال با حجمی بیش از ۷۰۰ صفحه، طبق اصطلاحات امروز، یک اثر پرفروش بین‌المللی شده است. در نتیجه، آن را با آثاری انقلابی مثل بهار خاموش۲ به قلم ریچل کارسون مقایسه می‌کنند. نائومی کلان همه را به مطالعۀ این کتاب دعوت کرده و گفته است مطالعۀ سرمایه‌داری نظارتی نوعی «دفاع شخصی در دنیای دیجیتال» حساب می‌شود.

این کتاب شرح می‌دهد که شرکت‌های جهانی فناورانه‌ای مثل گوگل و فیسبوک چطور ما را ترغیب کردند که برای آسودگی بیشتر، از خیر حریم ‌خصوصی‌مان بگذریم؛ اطلاعات شخصی‌ای («داده‌هایی») را که این شرکت‌ها جمع می‌کنند، دیگران به کار می‌گیرند تا نه‌تنها رفتار ما را پیش‌بینی کنند بلکه بر آن اثر بگذارند و اصلاحش کنند؛ و این موضوع چه پیامدهای فاجعه‌باری برای دموکراسی و آزادی دارد. تعبیر «سرمایه‌داری نظارتی» در عنوان کتاب یعنی همین. زوبوف این‌گونه تعریفش می‌کند: یک «نظم اقتصادی جدید» و «نقضِ حقوق حیاتی بشر که باید آن را کودتایی از بالا شمرد».

کمی بعد، زوبوف در فضای بی‌رنگ‌و‌حالی که از کنار هم پارک‌کردن چند کانتینر ساخته شده، توضیح می‌دهد که چرا این کتاب را نوشت. چشم‌هایش تیره‌اند و عینکی با فریم استخوانی می‌زند، موهای مجعدِ پُرپشت، و صدایی آرام و پرطنین. استاد درخشانی است که استدلال‌هایش را با عباراتی نافذ و تراش‌خورده طرح می‌کند. انگار دارد با صدای بلند کتاب می‌خواند. سابقۀ پژوهش او روی مضامین عصر سرمایه‌داری نظارتی به اواخر دهۀ ۱۹۷۰ برمی‌گردد. او در آن دوران دانشجوی تحصیلات تکمیلی دانشگاه هاروارد بود که رسالۀ دکترایش را دربارۀ انقلاب صنعتی می‌نوشت. برای آنکه پولی درآورد، مشاور تغییر سازمانی شد و در دفاتری کار می‌کرد که برای اولین‌بار داشتند «رایانه‌ای» می‌شدند. «آن‌ها انتظار بهره‌وری، رشد و کارآیی فوری داشتند. اما آنچه نصیبشان می‌شد آشوب و فاجعه بود. اتفاقات دیوانه‌واری می‌افتاد. کارکنان می‌گفتند: کارهایمان روی هواست!»

در سال ۱۹۷۸، زوبوف در واشنگتن‌پست با افرادی کار می‌کرد که داشتند از دستگاه

پیش‌بینی‌هایتان در چه صورت مطلوب مشتریان خواهد بود؟ در صورتی که درست از آب در بیایند
حروف‌چینی سراغ ماشین حروف‌چینی رایانه‌ای می‌رفتند. «یک‌بار که نوبت کار شبم تمام شده بود، در پرسه‌زنی به گالری ملی هنر رسیدم و آنجا این اجسام درشت‌پیکر، چرک و تیره را در محوطۀ یک آمفی‌تئاتر سفید درخشان دیدم». این مجسمه‌ها از مجموعۀ ولتری-بولتون بودند، مجسمه‌هایی ساختۀ دستِ دیوید اسمیت، همان مجسمه‌ساز آمریکایی که در دهۀ ۱۹۶۰ از ماشین‌آلات و آوارهای کارخانه‌های قدیمی مجسمه می‌ساخت. «آنجا بود که فهمیدم فرآیند رایانه‌ای‌سازی، انقلاب صنعتی بعدی خواهد بود و همه‌چیز را عوض خواهد کرد، از جمله نحوۀ فکر، احساس و معناسازی ما را. یک دفترچۀ یادداشت داشتم و شروع به نوشتن کردم. از آن زمان، همین دستورکار زندگی فکری من بوده است».

این تأملات به نگارش اولین کتاب زوبوف منجر شد: در عصر ماشین هوشمند: آیندۀ کار و قدرت۳ (۱۹۸۸). او در این کتاب پیامبرگونه تحلیل می‌کند که فناوری اطلاع‌رسانی چگونه زندگی شغلی را دگرگون خواهد کرد. مدت‌ها پیش از ظهور اینترنت، زوبوف استدلال آورد که هرچیزی که قابل تبدیل به اطلاعات باشد به این قالب درخواهد آمد (تعاملات، رویدادها، اشیا)، و هرجا میسر باشد از داده‌ها برای نظارت و کنترل استفاده خواهد شد. سپس با همسرش جیمز مکسمین که مدیرعامل سابق شرکت‌هایی مثل لورا اشلی و دانش‌پژوهی برجسته در ام‌آی‌تی بود، کتاب اقتصاد حمایتی‌: چرا شرکت‌ها افراد را ناکام می‌کنند و مرحلۀ بعدی سرمایه‌داری۴ (۲۰۰۲) را نوشت. همسرش در سال ۲۰۱۶ درگذشت.

به‌خاطر قوّت همان کتاب اول، زوبوف یکی از اولین زنانی شد که به عضویت هیئت‌ علمی دانشکدۀ مدیریت دانشگاه هاروارد درآمد. بعداً یکی از جوان‌ترین اساتیدی شد که بر یک کُرسی وقفی دانشگاه نشست. او با همسرش برای زندگی به مناطق روستایی ایالت مین رفتند. سه بچه بزرگ کردند و مزرعۀ پرورش گوزن داشتند. در سال ۲۰۰۹ صاعقه به خانه‌شان زد و آتش گرفت و خاکستر شد. خانواده فرار کردند اما همۀ داشته‌هایشان سوخت: کتاب‌ها، مواد تحقیقاتی، گذرنامه‌ها. «یک چیز عجیب: وقتی خانه سوخت، آن دفترچۀ یادداشت قدیمی از واشنگتن دی‌سی سالم ماند». مدت زیادی نگذشته بود که زوبوف نگارش سرمایه‌داری نظارتی را آغاز کرد.

این کتاب داستان انقلاب دیجیتال را می‌گوید، و اینکه دورنماهای آرمان‌شهری اولیه چطور تیره و تار شدند تا «یک جهش سرکش سرمایه‌داری» رُخ داد که «نشانه‌اش تمرکز بی‌سابقۀ ثروت، دانش و قدرت در تاریخ بشر» بود. جی‌میل در سال ۲۰۰۴ راه‌اندازی شد. گوگل بعداً اعتراف کرد که مکاتبات خصوصی را غربال می‌کرد تا اطلاعات شخصی را به دست بیاورد. در همان سال، فیسبوک تأسیس شد که الگوی کسب‌وکار آن هم بر اساس دسترسی به اطلاعات شخصی و ثبت و ضبط آن‌ها بود. زوبوف از استعارۀ فتح استفاده می‌کند: «چون چیز زیادی نمانده بود که کالا نشده باشد، آخرین قلمرو بکر و دست‌نخورده تجربه‌های خصوصی بشر بود». در سال ۱۹۸۶ حدود ۱درصد از اطلاعات دنیا دیجیتال شد. این رقم در سال ۲۰۱۳ به ۹۸ درصد رسید.

بنیان این جنبش، الگوریتم‌های پیش‌بینی‌کننده و محاسبۀ ریاضیاتیِ رفتار انسان است. سرمایه‌داران نظارتی «اطمینان را به آن دسته از مشتریان خود می‌فروشند

من یک بوتۀ تمام‌نشدنی قدرت درون خودم دارم... من باید تصمیم بگیرم آیا چهره‌ام، خانه‌ام، ماشینم، صدایم به داده تبدیل شود یا خیر
که مایلند با اطمینان بدانند ما چه می‌کنیم. تبلیغ‌های هدفمند هم هست، اما کاسبان می‌خواهند بدانند که رهن به ما بفروشند یا بیمه، به چه قیمتی، و آیا امن رانندگی می‌کنیم؟ می‌خواهند بدانند در یک مبادله حداکثر چقدر می‌توانند از ما دربیاورند. می‌خواهند بدانند چگونه رفتار خواهیم کرد تا بدانند بهترین راه مداخله در رفتارمان چیست». پیش‌بینی‌هایتان در چه صورت مطلوب مشتریان خواهد بود؟ در صورتی که درست از آب در بیایند: «تنظیم و هدایت و شکل‌دهی و هُل دادن ما به سمتی که بیشترین احتمال موفقیت کسب‌وکارشان را رقم بزند». به‌هیچ‌وجه نمی‌توان «اسمی جز اصلاح رفتاری روی این کار گذاشت». در سال‌های ۲۰۱۲ و ۲۰۱۳، فیسبوک «آزمایش‌های کلان‌مقیاس سرایت» را انجام داد تا ببیند آیا می‌تواند «بر هیجانات و رفتار کاربران در دنیای واقعی به گونه‌ای اثر بگذارد که مسیر آگاهی آن‌ها را دور بزند اما خودشان متوجه نشوند»؟

نقاط عطفی در زندگی جوامع و افراد وجود دارد. یک الهام در گالری. یک آتش‌سوزی خانمان‌برافکن و یک دفترچه یادداشت نجات‌یافته. زوبوف می‌گوید اکنون در یکی دیگر از این نقاط عطف قرار داریم: «عصر سرمایه‌داری نظارتی، کشمکشی عظیم میان سرمایه‌داری در یک سو و تک‌تک ما در سوی دیگر است. این عصر، مداخله‌ای مستقیم در ارادۀ ماست، هجمه‌ای علیه خودمختاری بشر». این پدیده دنبال ثبت و ضبط جزئیات بسیار خصوصی زندگی ماست، و حتی چهره‌هایمان. «آن‌ها هیچ حقی بر چهرۀ من ندارند که وقتی در خیابان قدم می‌زنم از آن عکس بگیرند».

زوبوف می‌گوید این تعرض‌ها، آزادی‌مان را تهدید می‌کنند. «به اراده که فکر می‌کنیم، فلاسفه از پُرکردن شکاف میان اکنون و آینده حرف می‌زنند. ما به خودمان وعده‌هایی می‌دهیم: در آن لحظۀ آتی فلان کار را خواهم کرد، مثلاً به جلسه‌ای می‌روم یا تماسی تلفنی می‌گیرم. اگر با ما مثل توده‌ای از کاربران برخورد شود که هدایت‌پذیر و قابل ترغیب‌اند، این وعده‌ها بی‌معنا می‌شود. من یک انسان متمایزم. من یک بوتۀ تمام‌نشدنی قدرت درون خودم دارم... من باید تصمیم بگیرم آیا چهره‌ام، خانه‌ام، ماشینم، صدایم به داده تبدیل شود یا خیر. این باید انتخاب من باشد».

زوبوف که سال ۱۹۵۱ در نیوانگلند به دنیا آمد، دختر پدری داروساز و مادری خانه‌دار است. پدربزرگ مادری‌اش، مکس میلر، کارآفرینی خودساخته بود که مکانیسم فرمان‌یاری دستگاه‌های فروش خودکار را اختراع کرد. زوبوف در دوران جوانی «مدت زیادی را در آرژانتین سپری کرد، و در آلتیپلانو با مردمی روزگار می‌گذراند که زندگی‌های بسیار ساده‌ای داشتند». او دلدادۀ دنیای طبیعی است، چنانکه استعاره‌هایش اغلب به مزرعه‌داری و محیط روستایی گریز می‌زنند. فقط یک‌بار در میانۀ جمله‌ای مکث کرد، آن‌هم وقتی بود که زاغی با پرهای آبی رنگین‌کمانی کنار ما نشست. «چه پرندۀ خوشگلی!» زوبوف برایم می‌گوید که در آغاز انقلاب صنعتی، متقاعد کردن کشاورزان به کار در کارخانه مثل این بود که بخواهی به یک گوزن گاوآهن ببندی. چنان با آن‌ها نامتناجس بود که حاضر به انجامش نبودند. «سپس، بعد از مدتی، گوزن گاوآهن را قبول کرد. بازه‌ای کوتاه وجود دارد و پس از آن، نسیان اجتماعی شکل می‌گیرد».

از او می‌پرسم که این اتفاقات چقدر عامدانه بود؟ آیا واقعاً مارک زاکربرگ،

«قرار نیست کسی بیاید و شما را به گولاگ ببرد. نمی‌خواهند ما را بکشند. فقط می‌خواهند که ما در جهت پیش‌بینی‌هایشان حرکت کنیم و داده‌هایمان را بگیرند»
لری پیج و سرگئی برین صرفاً چند آدم شاد و خوشحال با رؤیای آرمان‌شهر فناورانه بوده‌اند که بر حسب تصادف در جعبۀ پاندورا را باز کرده‌اند؟ او پوزخند می‌زند. «این اتفاق، خلق حجمی از ثروت بود که در تاریخ جهان نظیر نداشت». سرمایه‌داران نظارتی «استراتژی‌های متعددی برای حفاظت از خودشان در برابر قانون دارند. لابی‌گری، تصرّف سیاسی، و سایر روش‌های اقتصادی که ما در کارتل‌ها می‌شناسیم». آن‌ها همچنین مدعی شده‌اند اینترنت واقعیتی جدید است که پروتکل‌های متفاوتی دارد: «لری پیج گفته است گوگل چطور می‌تواند تابع قوانینی باشد که پیش از ظهور اینترنت مصوب شده‌اند؟ این پروپاگانداست». زوبوف در سخنرانی‌اش در آن جشنواره، یک گزارۀ دیگر را هم رد کرد: اینکه این‌ها شرکت‌های نوآوری هستند که هرازگاهی مرتکب اشتباه می‌شوند. «بله، مثلاً گوگل نِست [شرکت سیستم‌های امنیتی خانگی گوگل] بیاید و بگوید: اوه، ببخشید، ما یک میکروفون در سیستم نظارت نِست گذاشتیم و یادمان رفت! یادمان رفت آن را در طرح شماتیک سیستم هم بیاوریم!» (این خبر در فوریه منتشر شد و گوگل گفت اینکه میکروفون را در مشخصات سیستم نیاورده است «یک خطا» بوده است).

دربارۀ ادعاهای زاکربرگ چه می‌شود گفت که گفته بود: «حریم ‌خصوصی دیگر یک هنجار اجتماعی نیست»؟ یا نصیحت اریک اشمیت (مدیرعامل گوگل از ۲۰۰۱ تا ۲۰۱۱) که: «اگر چیزی دارید که نمی‌خواهید هیچکس بداند، شاید اصلاً نباید انجامش می‌دادید»؟ صدالبته زوبوف این حرف‌ها را هزاران بار شنیده است. نه‌تنها سرمایه‌داران نظارتی، بلکه حکومت‌های هوادار نظارت جمعی بر شهروندان هم این‌ها را تکرار کرده‌اند. او پاسخ تر و تمیزی می‌دهد: «من به مردم می‌گویم که اگر هیچ‌چیزی ندارید که بخواهید پنهان کنید، هیچ‌چیز نیستید. مسأله در اینجا فردیت هایکی یا فلسفۀ لیبرتارینی نیست؛ بلکه این یک فرآیند تاریخیِ تشخُص‌یابی است که دست در دست آزادی سیاسی و دموکراسی پیش رفته است». مسأله، جورج اورول و برادر بزرگ هم نیست. «قرار نیست کسی بیاید و شما را به گولاگ ببرد. نمی‌خواهند ما را بکشند. فقط می‌خواهند که ما در جهت پیش‌بینی‌هایشان حرکت کنیم و داده‌هایمان را بگیرند». البته «در چین شاهدیم که تلاش می‌شود این فناوری‌ها به دولت سرکوبگر پیوند بخورند».

برخی هم گفته‌اند که «معماری انتخاب‌مَدار» (سقلمه‌ها و ترغیب‌ها) اگر حکیمانه استفاده شود، می‌تواند سود اجتماعی داشته باشد. کَس سانستین و ریچارد تالر (نویسندگان کتاب سقلمه: بهبود تصمیم‌ها در زمینۀ سلامت، ثروت و شادی۵) در زمرۀ هواداران این استدلال‌اند. «همین‌که به سقلمۀ غیبی مشروعیت بدهید، تحمل‌ناپذیر می‌شود. این یعنی اِعمال قدرت روی دیگری، نه آموزش یا هشدار. سقلمه‌زنی پدرسالاری است. اقتصاددانان رفتاری مثل تالر که به سقلمه مشروعیت بخشیدند، گستاخی سرمایه‌داران نظارتی را تقویت کرده و افزایش دادند. تالر البته جایزۀ نوبل هم گرفت».

اصلاً زوبوف چرا این‌قدر دلواپس است؟ می‌گوید: «طی سال‌های متمادی، از خیر وقت زیادی گذشتم تا این کتاب را بنویسم. وقتی که می‌شد با همسرم و فرزندانم بگذرانم. از خیر سلامتم هم گذشتم. هرچه داشتم پای این کار گذاشتم چون احساس می‌کردم عقربه‌های ساعتِ نسیان اجتماعی، یا همان کرختی روانی، بی‌امان جلو می‌روند. بُهت و حیرتِ مردم داشت رنگ می‌باخت». بله، او هم قبول دارد که «اسنودن سهم عظیمی

طی سال‌های متمادی، از خیر وقت زیادی گذشتم تا این کتاب را بنویسم. وقتی که می‌شد با همسرم و فرزندانم بگذرانم. از خیر سلامتم هم گذشتم. هرچه داشتم پای این کار گذاشتم
در بیدارکردن مردم داشت. شرکت‌های فناوری هم در آن کار دست داشتند». اسنادی که درز کرد نشان می‌داد آژانس امنیت ملی داده‌های یاهو، گوگل، فیسبوک و مایکروسافت را جمع می‌کرد. و رسوایی کمبریج آنالیتیکا۶ چطور؟ «کار کرول کدوالادر قهرمانانه است. و کریس وایلی [افشاگر کمبریج انالیتیکا] نشان داد که عملیات‌های این شرکت همگی مصادیقی از کارهای روزمرۀ یک سرمایه‌دار نظارتی است». یعنی به‌جای اصلاح رفتاری برای مقاصد تجاری، کار به مقاصد سیاسی کشیده است؟ رأی دادن به‌جای خریدن؟ «در انگلستان، ایالات متحده و بسیاری کشورهای دیگر، دموکراسی به گوشۀ رینگ رانده شده است. و عملیات‌های سرمایه‌داری نظارتی سهم عمده‌ای در این قضیه داشته‌اند».

هربار که زوبوف سخنرانی عمومی دارد، از مخاطبان می‌پرسد: «چه دغدغه‌ای شما را به اینجا کشانده است؟» مردم هم کلماتی را فریاد می‌زنند: حریم‌خصوصی، ویران‌شهر، کنترل، انحصار، دستکاری، تعدی، استثمار، دموکراسی، گمراه‌سازی، ترس، آزادی، قدرت، شورش، برده‌داری، مقاومت. همه‌جا عملاً همین کلمات بیان می‌شوند. چه می‌شود کرد؟ مردم مخالفت می‌کنند اما اتفاقی نمی‌افتد. آیا این وضع به رخوت نمی‌انجامد؟ او قاطعانه می‌گوید: «رگولاتوری». و توضیح می‌دهد: «شرکت‌های فناورانه از همین بیش از هر چیز می‌ترسند. ما می‌گوییم بازارهایی که آیندۀ انسان در آن معامله می‌شود، غیرقانونی‌اند؛ مثل تجارت بردگان که غیرقانونی شد». سپس «برنامه‌هایی حلقه‌بسته»۷ را طراحی می‌کنیم و «دوباره مدعی و احیاگر این ایده می‌شویم که می‌شود دنیای دیجیتال را بدون سرمایه‌داری نظارتی داشت». این کار مستلزم «خشم» شهروندان، روزنامه‌نگاران، دانش‌پژوهان و قانون‌گذاران است. «سرمایه‌داری نظارتی بیست سال است که بدونِ هیچ مانعی پیش رفته است. ولی هنوز بسیار جوان است».

فردا هم زوبوف قرار است سخنرانی دیگری داشته باشد و از جمع دیگری از مخاطبان بپرسد: «چه دغدغه‌‌ای شما را به اینجا کشانده است؟» گویی که او نسخه‌ای از همان سؤال قدیمی فیسبوک را می‌پرسد: «به چه فکر می‌کنید؟»

الآن ۹ ماه است که زوبوف مسافر جاده‌هاست. مسیر دیگر، هیچ کاری نکردن و «اسیر قدرت عریان شدن» برایش محال است. «ما صرفاً کاربر و استفاده‌کننده نیستیم. بلکه اساساً سوءاستفاده می‌شویم. باید چشممان را به آیندۀ مشترکمان باز کنیم».


اطلاعات کتاب‌شناختی:

Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs, 2019


پی‌نوشت‌ها:
• این مطلب را جوانا کاوِنا نوشته است و در تاریخ ۴ اکتبر ۲۰۱۹ با عنوان «Shoshana Zuboff: Surveillance capitalism is an assault on human autonomy» در وب‌سایت گاردین منتشر شده است. وب‌سایت ترجمان آن را در تاریخ ۱۲ آذر ۱۳۹۸ با عنوان «در عصر سرمایه‌داری نظارتی، انسان‌ نه مصرف‌کننده که مادۀ خام تولید است» و ترجمۀ محمد معماریان منتشر کرده است.
•• جوانا کاوِنا (Joanna Kavenna) روزنامه‌نگار و رمان‌نویس بریتانیایی است. آخرین رمان‌های او راهنمای مسیریابی در واقعیت (A Field Guide to Reality) و زِد (Zed) نام دارند.

[۱] The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power
[۲] Silent Spring
[۳] In the Age of the Smart Machine: The Future of Work and Power
[۴] Why Corporations Are Failing Individuals and the Next Episode of Capitalism
[۵] Nudge: Improving Decisions About Health, Wealth, and Happiness
[۶] یک شرکت داده‌کاوی و تحلیل داده‌ها که از اطلاعات شخصی کاربران برای تأثیرگذاری بر کارزارهای انتخاباتی استفاده می‌کرد [مترجم].
[۷] Closed loop

کد مطلب: 9593
 


 
رزمی نیا
۱۳۹۸-۰۹-۱۲ ۰۹:۴۹:۳۲
درد ناشی از تیغ برنده تکنولوژی عنان‌گسیخته با تخدیر شادی‌ها و لذ‌ت‌های کاذب، فرو نشانده می‌شود ولی خون‌ریزی آن، آخرالامر جان آدمی را می‌گیرد.
من کاملا با ایده تعدی قانون‌مندانه فناوری به حریم بشر موافقم ولی خودکرده را تدبیر نیست... (6222)