باج بده یا بمیر

شاید در نگاه اول این گونه به نظر نرسد، اما من فردی خوش بین هستم. به نظرم مجبور نیستیم کل دنیای دیجیتال را دور بیندازیم. اما یک فناوری پیشرفتۀ خاص است که حتی در مقادیر کم هم زهرآگین است.

مسئله فقط این نیست که کاربران اینترنت سرگرم محیط هایی می شوند که بدترین ویژگی ها را در ما بیدار می‌کند، یا اینکه قدرت زیادی در دست معدود افرادی متمرکز شده که ابررایانه‌های ابری^۱ را کنترل می‌کنند. مشکل بزرگ‌تر این است که همۀ ما دستگاه‌هایی با خود حمل می‌کنیم که ابزار مناسبِ اصلاح توده‌ای رفتار   هستند. مثلاً در تبلیغات قدیمی، بعد از پخش تبلیغ می‌شد سنجید که آیا محصول موردنظر عملکرد بهتری داشته یا نه. اما حالا شرکت‌ها بررسی می‌کنند که آیا رفتار افراد در هنگام مرور و کاوش تغییر می‌کند یا نه. آنگاه فید هر فرد را دائماً به تناسب تغییر می‌دهند تا نتایج دلخواه‌شان را به دست آورند. به طور خلاصه، رفتار شما به یک محصول تبدیل شده و مشتریان سازمانی و سیاسی صف کشیده‌اند تا آن را بخرند.

در پایان، می توانیم خطی دور خطر اصلی پیشِ رویمان بکشیم و توجهمان را به آن جلب کنیم. اگر می‌توانستیم خود را از شرّ این مدل آسیب زای کسب‌وکار رها کنیم، آنگاه فناوری زیربنایی آن چندان هم بد نخواهد‌بود.

برخی رسانۀ اجتماعی را با صنعت تنباکو مقایسه کرده‌اند، اما من چنین قصدی ندارم. مقایسۀ بهتر را می‌توان با رنگی ساختمانی انجام داد که حاوی سرب است. وقتی تردیدی باقی نماند که سرب برای سلامتی مضر است، هیچ کس نگفت که دیگر نباید خانه ها را رنگ آمیزی کنیم. بلکه پس از فشار و قانون گذاری، رنگ‌های بدون سرب به استاندارد جدید تبدیل شد.

من در مقام یک دانشمند کامپیوتر سخن می گویم، نه دانشمند علوم اجتماعی یا روان شناس. به چشم می بینم که زمان در حال تمام شدن است و چاره این نیست که هیچ کاری نکنیم. برای درک موقعیتمان، چیزی که بتوان آن را علم موشکافانه نامید چندان در دسترسمان نیست، اما نتایج کافی در دست داریم که مشکل پیشِ‌ رویمان را شرح می دهند؛ فقط وقت زیادی برای حل آن نداریم.

حالا فرصت مناسبی است تا یک کلمۀ اختصاری از خود بسازم. نظرتان راجع به «اصلاح رفتار کاربران و تبدیل آن به یک امپراطوریِ اجاره ای»^۳ چیست؟ اختصاری که به دست می آید بامر^۴ است.

ماشين آمار

بامر یک ماشین است، یک ماشین آماری که در ابرهای کامپیوتری زندگی می‌کند. ازآنجاکه تأثیر این ماشینْ آماری است، تهدید آن تاحدی مانند تغییر اقلیم است. نمی‌توان گفت تغییر اقلیم عامل یک طوفان، سیل یا خشکسالی خاص است، اما می‌توان گفت که احتمال وقوعشان را افزایش می‌دهد. در مدتی طولانی تر، فاجعه بارترین رویدادها نظیر افزایش سطح دریا و نیاز به جابه جایی اکثر مردم و یافتن منابع غذایی جدید را می توان به تغییر اقلیم نسبت داد، اما تا آن موقع این استدلال از بین خواهد رفت.

به همین طریق، نمی‌توانم ثابت کنم که یک فرد خاص را بامر فاسد کرده است. این را هم نمی توانم ثابت کنم که بدون بامر رذیلتی خاص در جامعه پیش نمی‌آمد. نمی توان با قطعیت دانست که آیا رفتارتان را تغییر داده یا نه، اما اگر از پلتفرم های بامر استفاده می‌کنید، احتمالاً -هرچند جزئی- تغییر کرده اید.

هرچند نمی توان گفت بدون بامر کدام جزئیات دنیایمان متفاوت خواهد بود، اما این را در مورد تصویر کلی می توان فهمید. بامر هم مانند تغییر اقلیم، اگر خود را اصلاح نکنیم، ما را به جهنم خواهد برد.بامر یک ماشین با شش جزء متحرک است. در اینجا به شش جزء این ماشین اشاره می‌کنم و هر یک را مختصراً توضیح می‌دهم:

اول: جلب توجه

انسان‌ها معمولاً در فضای مجازی عجیب و بدجنس می‌شوند. این پدیدۀ عجیب در نخستین روزهای شبکه همه را متعجب کرده‌بود و تا کنون هم تأثیری شگرف بر دنیایمان گذاشته است. بدجنسی به چیزی مانند نفت خام برای شرکت‌های رسانۀ اجتماعی و دیگر امپراطوری‌های جهت دهندۀ رفتار تبدیل شد، شرکت‌هایی که فوراً افسار اینترنت را به دست گرفتند، چون اینترنت به بازخوردهای رفتاری منفی دامن می‌زد.

چرا این بدجنسی اتفاق می‌افتد؟ بخواهم به طور خلاصه بگویم، در دنیای مجازی، افراد عادی در فضایی دور هم جمع می‌شوند که پاداش اصلی (یا شاید تنها پاداشِ) موجودْ توجه است.

آن ها وقتی دنبال چیزی جز توجه نباشند، به افرادی احمق^۵ تبدیل می شوند، چون احمق‌ترین آدم‌ها بیشترین توجه را به خود جلب می‌کنند. این گرایش ذاتی به حماقت به تمام بخش‌های دیگر ماشین بامر رنگ و بو می‌دهد.

دوم: فضولی در زندگی همه

همۀ افرادْ تحت نظارتی خاص قرار گرفته‌اند که انگار مستقیماً از یک رمان علمی تخیلی و ویران شهری بیرون آمده.
جاسوسی را عمدتاً از طریق دستگاه های شخصی متصل -به ويژه گوشی‌های هوشمند- انجام می دهند، دستگاه‌هایی که مردم عملاً به بخشی از بدنشان تبدیل کرده‌اند. داده‌هایی در مورد ارتباطات، علاقه‌ها، حرکت‌ها، مخاطبان، واکنش‌های احساسی به شرایط، حالت‌های چهره، خریدها، علائم حیاتی و ... گردآوری می‌شود: داده‌هایی که حجم و تنوعشان دائماً در حال افزایش است.

الگوریتم‌ها داده‌های هر فرد و نیز میان افراد را مطابقت می‌دهد. این تطابق‌ها عملاً نظریاتی در مورد سرشت هر فرد هستند، نظریاتی که قدرت پیش‌بینی‌شان دائماً مورد سنجش و نمره دهی قرار می‌گیرد. این‌ها مانند تمام نظریات مدیریت شدۀ دیگر، دائماً از طریق بازخوردهای سازگارانه پیشرفت کرده و دقیق تر می شوند.

سوم: فروکردن محتوا در حلق شما

الگوریتم ها تعیین می‌کنند هر فرد در دستگاه خود چه چیز تجربه می‌کند. این مؤلفه را می‌توان فید، موتور پیشنهاد یا سفارشی سازی نامید، بدین معنا که هر فرد چیزهای متفاوتی می‌بیند. انگیزۀ مستقیم این است که محرک هایی را به صورت فردی برای اصلاحِ رفتار بفرستند.

البته تمام سفارشی‌سازی‌ها بخشی از بامر نیستند. مثلاً وقتی نتفلیکس یک فیلم پیشنهاد می‌کند یا ای‌بِی چیزی را برای خرید به شما پیشنهاد می‌دهد، این ربطی به بامر ندارد. این امر فقط در رابطه با مؤلفه‌هاي دیگر به بامر تبدیل می شود. نه نت فلیکس از شخص ثالثی پول می‌گیرد تا، جدای از کار مستقیمی که با سایتشان دارید، تغییری در رفتارتان ایجاد کنند و نه ای‌بِی.

چهارم: جهت‌دهی رفتار به زیرکانه‌ترین شکل ممکن

پیوند مؤلفه‌های بالا یک ماشین سنجش و بازخورد به وجود می‌آورد که عمداً رفتار را اصلاح می‌کند. فرآیند به این صورت است: فیدهای سفارشی بهینه می‌شوند تا هر کاربر را «درگیر» خود کنند. این کار معمولاً با اشاراتِ دارای بار احساسی انجام می‌گیرد که منجر به اعتیاد می‌گردد. مردم متوجه نمی شوند که چگونه تحت جهت‌دهی هستند. هدف اولیۀ جهت‌دهیْ وابسته کردن بیشتر و بیشتر مردم است، به صورتی که زمان بیشتر و بیشتری را در سیستم بگذرانند. اما اهداف دیگری نیز برای جهت دهی مورد آزمون قرار می‌گیرد.

مثلاً اگر در یک دستگاه کتاب می‌خوانید، رفتارهای کتاب‌خوانی شما با رفتارهای کتاب‌خوانی بی شمار افراد دیگر مطابقت می‌یابد. اگر کسی که الگوی کتاب خوانی‌اش شبیه به شماست، محصولی را پس از نوع خاصی تبلیغ خریداری کند، آنگاه به احتمال زیاد شما هم همان تبلیغ را دریافت خواهید کرد. ممکن است قبل از انتخابات، شما هدف پست‌های عجیبی قرار بگیرید که قبلاً ثابت شده بدبینی افرادی مشابه با شما را برمی‌انگیزند؛ تا شاید احتمال رأی‌دادنتان کاهش یابد.

پلتفرم‌های بامر با افتخار گزارش می‌دهند آزمایش‌هایی انجام داده‌اند تا افراد را غمگین کنند، میزان مشارکت را در انتخابات تغییر دهند و وفاداری به برندها را تقویت نمایند. این‌ها جزء شناخته شده‌ترین نمونه پژوهش هایی‌اند که در روزهای سرنوشت ساز بامر آشکار شد. اصلاح رفتار با رویکرد شبکه‌های دیجیتالْ تمام این نمونه‌ها و تمام این برش‌های مختلف زندگی را به صورت یک برش درمی‌آورد. از دیدگاه الگوریتمی، احساسات، شادی و وفاداری به برندها فقط نشانه‌هایی مختلف اما مشابه هستند که باید بهینه گردند.

پنجم: کسب درآمد از طریق اجازه‌دادن به بدترین افراد برای اذیت‌کردن مخفیانۀ دیگران

ماشین اصلاح توده‌ای رفتار برای کسب درآمد اجاره داده می‌شود. جهت‌دهی‌ها بی‌نقص نیستند، اما آن قدر قدرت دارند که برندها، سیاست مداران و دیگر نهادهای رقابتی، اگر به بنگاه‌های بامر پول ندهند، درواقع خودکشی کرده‌اند. باج‌گیریِ شناختیِ همگانی این گونه به وجود می‌آید و موجب می‌شود تا هزینه‌هایی که صرف بامر می‌کنند، روزبه‌روز افزایش یابد.

اگر کسی مستقیماً به یک پلتفرم پول ندهد، باید خود را به سوختِ داده‌ای برای آن پلتفرم تبدیل کند تا در آن غرق نشود. وقتی فیس بوک در فید خود بر «اخبار» تأکید می‌کرد، تمام دنیای روزنامه‌نگاری می بایست خود را با استانداردهای بامر صورت‌بندی می‌کردند. روزنامه‌نگاران برای اینکه عقب نمانند، مجبور بودند داستان‌هایی ایجاد کنند که حالت تله کلیک^۶ بود و قابل جداسازی از بستر بود. آن‌ها مجبور بودند بامر شوند تا بامر نابودشان نکند.

ششم: جمعیتی جعلی و جامعه‌ای جعلی تر

این مؤلفه تقریباً همیشه وجود دارد، هرچند که معمولاً بخشی از طراحی اولیۀ دستگاه بامر نبوده. افراد جعلی با تعدادی نامشخص اما بسیار زیاد حاضر هستند و محیط را رقم می‌زنند. بات‌ها، هوش های‌مصنوعی، مرورنویس های جعلی، دوست‌های جعلی، فالوورهای جعلی، پست‌نویسان جعلی، زورگیران اینترنت: باغ وحشی از انواع این اشباح وجود دارد.

خرابکاری اجتماعی و نامرئی این گونه به وجود می‌آید. فشار اجتماعی، که بر روان و رفتار انسان تأثیر بسیاری دارد، این گونه ایجاد می‌شود.

هرچه تخصصی تر به یک مشکل بپردازیم، آن مشکل قابل حل‌تر خواهد شد. مشکل ما اینترنت، گوشی‌های هوشمند، بلندگوهای هوشمند، یا هنر الگوریتم‌ها نیست؛ مشکلْ ماشین بامر است. البته هستۀ این ماشین دقیقاً تکنولوژی هم نیست، بلکه سبکی از طرح کسب وکار است که محرک‌هایی منحرف بیرون داده و افراد را فاسد می‌کند.

این طرح کسب وکار حتی کاربرد گسترده هم ندارد. خارج از چین، تنها غول‌های تکنولوژی -که کاملاً وابسته به این سیستم‌اند- فیس بوک و گوگل‌اند. سه شرکت دیگر از میان پنج شرکت بزرگ تکنولوژی هم گهگاهی سراغ آن می‌روند چون این روزها به هنجار تبدیل شده است، اما به آن وابسته نیستند. چند شرکت بامر کوچک تر نظیر توییتر هم تأثیرگذارند، اما آن ها معمولاً کلنجار می‌روند.

کدام شرکت‌ها بامر هستند؟ روشی مناسب برای یافتن پاسخ این است که شرکت های تراز اول بامر آن‌هایی‌اند که تلاش ها یا هزینه‌های کنشگرهای ضعیف، نظیر واحدهای نظامیِ اطلاعات دولتیِ روسیه، را جذب می‌کنند. این راه تشخیص نشان می‌دهد که سرویس‌های کاذبی وجود دارد که فقط حاوی زیرمجموعه های مؤلفه هایند، مثلاً ردیت^۷ فورچن^۸، اما با این حال نقشی حیاتی در اکوسیستم بامر ایفا می‌کنند.

اما این استدلال مربوط به شرکت‌ها نیست، مربوط به شماست. چون می‌توانیم دور این دستگاه خط بکشیم، می‌توانیم دور چیزی خط بکشیم که باید از آن اجتناب کنیم.

مشکل بامر این نیست که شامل هرگونه تکنولوژی خاصی است. مشکل این است که بامر قدرت نمایی کسی دیگر است. شاید تصمیم بگیرید یک رفتاردرمانگرِ شناختی شما را معالجه کند و از آن منفعت ببرید. امیدوارم آن درمانگر سوگند یاد کرده باشد که معیارهای حرفه‌ای را رعایت کند و اعتماد شما را جلب کند. اما اگر درمانگرتان وام دار یک شرکت دوردست و غول آساست و پول می‌گیرد تا تصمیمات خاصی را در شما القا کند که لزوماً به نفع خودتان نیست، آن بامر خواهد بود.

مشکلْ یک تکنولوژی خاص نیست. بلکه استفاده از تکنولوژی برای جهت‌دهی مردم و تمرکز قدرت به چنان شکل دیوانه وار و وحشت آوری است که به تهدیدی برای بقای تمدن تبدیل می گردد.

اگر می خواهید به سلامت عقلی دنیا کمک کنید، نیازی نیست گوشی های هوشمند یا سرویس های ابری کامپیوتری تان را کنار بگذارید یا از وب سایت ها دیدن نکنید. بامر چیزی است که باید از آن دوری بجویید. حسابتان را حذف کنید!

 جارن لانییِر، گاردین/ ترجمه علیرضا شفیعی نسب به نقل از وب سايت ترجمان
اطلاعات کتاب شناختی:Lanier, Jaron. Ten Arguments for Deleting Your Social Media Accounts Right Now. Henry Holt and Co, 2018

پی نوشت ها:

جارن لانییِر (Jaron Lanier) نویسندۀ حوزۀ فلسفۀ کامپیوتر است و از سال ۲۰۰۹ به عنوان محقق ارشد شرکت مایکروسافت فعالیت می کند. در دنیا، لانییر را با لقب «پدر واقعیت مجازی» می شناسند. دو کتاب پرفروش او ده دلیل برای اینکه همین حالا حساب کاربری تان را در رسانه های اجتماعی حذف کنید (Ten Arguments for Deleting Your Social Media Accounts Right Now) و آنکه آینده از آن اوست (Who Owns the Future) نام دارند.


[۱] Giant cloud computers
[۲] Mass behavior modification
[۳] Behaviors of Users Modified, and Made into an Empire for Rent
[۴] Bummer: معنای اصلی آن ناخوشایند و فاجعه آمیز است. اما با توجه به اینکه نویسنده این واژه را در جای جای مقاله با حرف بزرگ می نویسد و آن را به عنوان یک اسم اختصاری مدنظر دارد، لذا در ترجمه هم در سایر موارد از خودِ واژۀ بامر استفاده شده است [مترجم].
[۵] asshole
[۶] Clickbait: مطلبی که کنجکاوی را برانگیزد، اما اطلاعات کافی برای ارضای این کنجکاوی نذاشته باشد و بدین صورت فرد را به مراجعه به منبعی دیگر سوق دهد [مترجم].
[۷] Reddit
[۸] 4chan