آنچه در حال حاضر در صنعت فناوری میگذرد، نوعی صدای ناهنجار و خشن از نارضایتی ها و رسوایی ها است و به نوعی در همه جا هم وجود دارد.
خوب، حالا چگونه می‌توانیم به درک مشترکی از مشکل واقعی دست پیدا کنیم؟
و چگونه می توانیم آن را رفع کنیم؟
با دانش نسبت به همه چالش هایی که اخیراً دیدید - مشکل صنعت فناوری را دقیقا چه میدانید؟
ما اعتیاد به فناوری داریم. مواردی مانند قطبی‌سازی، دستکاری انتخابات، خشم‌پروری، هتک حرمت، بطالت و بیهودگی، مسئله سلامت روان نوجوانان، موضوع ربات‌ها و … ما را درگیر کرده اند.
من می خواهم ادعا کنم که در واقع یک چیز وجود دارد که همه این مشکلات را ایجاد می کند. و آن را ادوارد او. ویلسون (E.O. Wilson) زیست شناس-اجتماعی (Sociobiology) آمریکایی بیان کرده است: مشکل واقعی بشریت این است که "ما احساسات پارینه سنگی، نهادهای قرون وسطایی و فناوری خداگونه داریم."
به نوعی مشکل، بشر بودن است. زیرا در عین حالی که ما همچنان این غرایز باستانی پارینه سنگی را داریم، فناوری در حال رشد نمایی است.
اولین باری که من در معرض این غرایز پارینه سنگی قرار گرفتم، در کودکی، به عنوان یک شعبده باز بود. سحر و جادو نوعی دانش در مورد محدودیت های؛ ویژگی های تکاملی ذهن ما است، درست است؟ شما از این محدودیت های تکاملی توجه، حواس پرتی، محدودیت های هدایت نادرست انسان استفاده می کنید. اینها انواع ویژگی های ذهن هستند. و بعداً به‌عنوان یک فن‌آور، یاد می‌گیرید که هنگام طراحی نرم‌افزار چگونه از طریق همین نقص ها وارد مغز مردم شوید؟
در آزمایشگاه های "فناوری متقاعد کننده"، می‌توانید نحوه عملکرد مغز افراد را یاد بگیرید، و سپس دانش تان را در روابط آنها اجرا کنید و نقش و نحوه بازی افراد را در روابط اش کنترل و شکل دهید. به عنوان یک اخلاق شناس طراحی (design ethicist) به شما می گویم گوگل این کار را با افکار 2 میلیارد نفر انجام می دهد - چگونه بر غرایز پارینه سنگی 2 میلیارد نفر تأثیر می گذارد؟
همه ما به فکر لحظه ای هستیم که فناوری بر نقاط قوت و هوش انسان غلبه کند - چه زمانی قرار است از منحصربفرد بودن عبور کنیم و شغل ما با باهوش تر از انسان جایگزین شود؟ این چیزی است که همه درباره آن صحبت می کنند.
اما لحظه ای که فناوری بر نقاط ضعف انسان غلبه می کند بسیار زودتر فرا می رسد. و امروز می‌خواهم ادعا کنم که عبور از این نقطه، ریشه بات‌ها، اعتیاد، اضافه بار اطلاعات، قطبی‌سازی، رادیکال‌سازی، هتک حرمت، بطالت و بیهوده سازی است - تمام چیزی که منجر به تنزل رتبه انسان می‌شود. مواردی مانند کاهش دامنه توجه ما از روابط، استقامت و پایداری، اجتماعات، عادات، و در نتیجه تنزل انسانیت.
جای خالی یک نام برای این مشکل وجود دارد. مشکلی که از نتایج حاصل از سیستم اقتصاد توجه استخراجی ( extractive attention economy) بدست آمده است. بنابراین وقتی می‌گویم اقتصاد توجه استخراجی، منظور این است که این مسابقه در انتهای ساقه مغز وجود دارد، و مسابقه ای برای مهندسی معکوس غرایز انسان است.
چه کسی بهتر است از جادوگر زیست شناس تکاملی می تواند این ترفندها را در ذهن انسان کشف کند؟
تبدیل تلفن‌هایمان به دستگاه‌های اسلات (بازی قماری که بر شانس بنا شده است)، تبدیل برنامه های دوست‌یابی به دستگاه‌های اسلات، ایمیل‌هایمان به یک دستگاه اسلات – ما ۷۴ بار در روز ایمیل‌هایمان را چک می‌کنیم، در سیستم‌های دوپامینرژیک خود خزیده می‌شویم، صفحات زیادی را در شبکه های اجتماعی بارگذاری می‌کنیم (مرتبط با مسئله در دسترس بودن اجتماعی، باید این کار را انجام بدهم. باید برای هم در آنجا باشیم و تعاملات اجتماعی متقابل و …)
ما با تمام این سوگیری های شناختی مختلف در افراد بازی می کنیم. و همه اینها به نام جلب "توجه" شناخته می شوند. اما در رقابت برای رسیدن به انتهای ساقه مغز، فقط مسئله جلب "توجه" شما نیست. من باید تو را به جلب توجه، "معتاد" کنم زیرا فقط اینگونه است که "توجه" را بیشتر می کند.
بنابراین وقتی می‌نشینید و می‌خواهید تعداد فالوورهایتان را افزایش دهید، وقتی می‌نشینید و می‌خواهید لایک بیشتری بگیرید، وقتی می‌نشینید و می‌خواهید توجه بیشتری به ظاهرتان جلب کنید، در پس زمینه در حال کار کردن است. و دنیایی را ایجاد کرده است که در آن فقط با ظاهر متفاوت از آنچه که هستید پاداش دریافت می کنید.
ما اکنون حدود یک چهارم زندگی خود را در این سیستم های اجتماعی مصنوعی روی اسکرین های می گذرانیم. موضوع فقط روی اسکرین ها بودن؛ نیست، خارج از اسکرین ها هم در حال اتفاق افتادن است. زیرا طرز فکر ما را در مورد روابطمان شکل می دهد. اینکه ما چگونه روابط خود را ببینیم نوعی "استعمار" است. نتایج جدی نیز داشته است.
با توجه به تحقیقات درصد زنان مبتلا به علائم افسردگی در سال 1991 با 17٪ شروع می شود و اگر تا سال 2013 در عصر ظهور رسانه های اجتماعی مدرن پیش بروید، به حدود 20، 21٪ می رسد، اما بعد از آن چه اتفاقی می افتد:
تحقیق ژان تونگ Jean Twenge’s research, به طور شفاف نشان داده شده است که برای دختران 10 تا 14 ساله، مادامی که سنجش اعتبار اجتماعی آنها وابسته به برنامه های متغیری از ماشین های بازی و سنجش اعتبار اجتماعی میان دوستانشان به تصویر خودشان متصل است، چه اتفاقی برای آنها می افتد.
روبرو شدن با این که ما در هویت خود چه کسی هستیم، تحقیرکننده و طاقت فرسا است. بنابراین چه می کنیم، پایین تر آوردن سطح توجه مان، کاهش نیازمان به توجه از سوی مردم دیگر، و پایین آوردن هویت خود.
اما بعد تنزل رتبه ی دیگری شروع می شود که "اراده آزاد" ماست. وقتی این را می گویم، ممکن است فکر کنید که زیاده روی می کنم، اما اجازه دهید مثالی برای شما بزنم.
فرض کنید می‌خواهید روی یک ویدیوی YouTube کلیک کنید. چند نفر این کار را کرده اند؟ شما می‌خواهید دکمه ی پخش را بزنید، فکر می‌کنید من فقط یک ویدیو می‌بینم و سپس کار دیگری انجام می‌دهم. و البته اتفاقی که می افتد این است که دو ساعت می گذرد و شما ناگهان از حالت خلسه بیدار می شوید و می گویید - چه اتفاقی برای من افتاده؟
زیرا وقتی دکمه پخش آن ویدیوی یوتیوب را فشار می‌دهید، آنچه در واقع اتفاق می‌افتد این است که یک آواتار کوچک از "عروسک وودو" (Voodoo doll) از وجود شما بیدار می‌شود. در یک سرور "گوگل"، در جایی بر اساس همه کلیک‌های شما، بر اساس همه لایک‌های شما، بر اساس هر چیزی که تماشا کرده‌اید و نحوه مقایسه آن با عروسک‌های وودو سایرین، در حال ساختن مشابه شماست - همه آن کلیک‌ها مانند بریده ناخن و خرده های مو هستند که این بات را بیشتر و بیشتر شبیه شما می کند.
گوگل (متخصصان فناوری) مجبور نیست شما را دستکاری کند فقط باید "عروسک وودو" شما را دستکاری کند. یک سری ویدیو را روی او آزمایش می کند و می فهمد - کدام یک شما را طولانی تر آنلاین نگه می دارد؟ این مانند بازی شطرنج در مقابل صفحه شطرنج ذهن شماست. گوگل (متخصصان فناوری) برنده می شود زیرا می تواند از قبل حرکت های بیشتری را در صفحه شطرنج ببیند.
اکنون میانگین تماشای روزانه YouTube در تلفن همراه بیش از 60 دقیقه است. همانطور که مدیر محصول YouTube گفته است این به‌خاطر آن چیزی است که موتورهای توصیه‌ای (recommendation engines) در مقابل چشمان شما قرار می‌دهند.
که در واقع انتخاب آزاد ما را تحت "استعمار" قرار می دهد. زیرا در حال حاضر 70% از یک میلیارد ساعت تماشای روزانه در YouTube بواسطه ی سیستم توصیه می شود. هوش مصنوعی در واقع "انتخاب آزاد" ما را تنزل داده و بر آن غلبه می کند. بنابراین اراده آزاد در حال استعمار است. زیرا بعد از آن است که تصمیم می گیریم که به چه چیزی اعتقاد داریم.
اگر من یوتیوب باشم و بخواهم شما بیشتر تماشا کنید، هم بخش احیاکننده/ بازسازی کننده (regenerative section) دارم، هم بخش استخراجی (extractive section). اگر بخواهم بیشتر تماشا کنید، شما را به کدام سمت هدایت خواهم کرد؟
مثلا من قصد دارم شما را به سمت شهر دیوانه متمایل کنم. شما می توانید از بخش آرام شروع کنید، می توانید از بخش دیوانه هم شروع کنید، اما اگر بخواهم بیشتر تماشا کنید، همیشه شما را به سمت متضاد آن نیز متمایل خواهم کرد. چگونه؟
سه نمونه از آن:
1- حدود یک سال پیش، اگر یک دختر نوجوان بودید و یک ویدیوی رژیمی را شروع می‌کردید، ویدیوهای بی‌اشتهایی به شما توصیه می‌شود، زیرا اینها چیزهایی هستند که توجه مردم را بیشتر جلب می کنند.
2- اگر فیلم خبری 11 سپتامبر را تماشا می‌کردید، تئوری‌های توطئه درباره 11 سپتامبر را توصیه می‌کرد،
3- و اگر در حال تماشای فرود ناسا روی ماه هستید، مبحث زمین تخت را توصیه می کند.
خب حالا بیایید نگاهی به یکی از این نمونه ها بیندازیم. اگر مثلاً به موضوع زمین مسطح نگاه کنیم، چند درصد از نتایج به نفع زمین مسطح مثبت بوده است؟
این از داده های حدود دو سال پیش (2015) است: اگر در جستجوی گوگل نگاه کنید، نتایج 20٪ بود. بنابراین 20 درصد از نتایج جستجوی گوگل به نفع زمین مسطح بود. اگر در جستجوی یوتیوب نگاه کنید، 35٪ بود. اما اگر به توصیه های یوتیوب نگاه کنید، 90٪ بود.
اینطور نیست که کسی بخواهد این اتفاق بیفتد، این چیزی است که سیستم توصیه می کند. به قدری که کایری اروینگ، بسکتبالیست مشهور، گفت - معتقد است زمین صاف است و البته بعداً عذرخواهی کرد و یوتیوب را مقصر دانست. وقتی او بعداً به NPR آمد گفت - متاسفم که این را باور کردم، نمی‌خواستم مردم را گمراه کنم.
با دسته‌ای از دانش‌آموزان در مدرسه مصاحبه شد و گفتند: اوه، بله با موضوع زمین صاف برخورد کرده اند.
این خیلی مهم و حیاتی است که بدانید وقتی مردم را به سمت این مسیرهای دیوانه کننده سوق دهید، بازگرداندن آنها واقعاً سخت است.
اما این فقط ویدیوها نیستند که توصیه می شوند. به تازگی Guillaume Chaslot، افشاگر توصیه‌های YouTube بیان کرد که یوتیوب "زبانی" را که ما روزانه در معرض آن قرار داریم قطبی می کند و تغییر می دهد.
به ین مثال دقت کنید:
در هفته ی گذشته، بیشترین کلمات کلیدی توصیه شده در یوتیوب موارد زیر بوده اند:
بنابراین حتی اگر اخبار جعلی را حل کنید، این یکی از انواع "تشعشع پس‌زمینه" است که در هفته ی گذشته جمعیتی به اندازه اسلام روزانه 60 دقیقه در معرض آن بوده اند. اکنون به این فکر کنید که جمعیتی به اندازه اسلام به این سمت متمایل شده‌اند، نه به این دلیل که کسی می‌خواهد این اتفاق بیفتد، بلکه به این دلیل که فقط "اقتصاد توجه استخراجی" می خواهد توجه شما را جلب کند.
این اتفاق در مورد فیس بوک نیز افتاد. حدود دو سال پیش، مارک زاکربرگ گفت - ماموریت جدید ما این نیست که جهان را وسیع تر و متصل‌تر کنیم، بلکه نزدیک‌تر کردن دنیا به هم است.
آنها گفتند، یکی از راه‌هایی که می‌خواهیم انجام دهیم این است که یک هوش مصنوعی بسازیم تا شروع به پیشنهاد گروه‌های فیسبوک به مردم کند. او می گوید این روش کار کرده است، زیرا در شش ماه اول به 50٪ از مردم کمک کردیم تا به جوامع معنی دار تری بپیوندند.
خب این به چه معناست؟
شما اینجا هستید، و می خواهید به یک گروه فیس بوک بپیوندید، فرض کنید این یک گروه فیس بوک تازه مادران است. نسخه عروسک آواتار وودو بر اساس همه کلیک‌های شما و همه چیزهایی که تا به حال به آنها پیوسته‌اید بیدار شده و می‌گوید - اگر من شما را مجبور به پیوستن به آنها کنم، کدام گروه‌ها شما را مدت طولانی‌تری در خود نگه می‌دارد، برای شما جذاب‌تر خواهند بود؟ چه گروه هایی بیشترین درگیری و تعامل را ایجاد خواهند کرد؟ - و به نظر شما یکی از محبوب ترین گروه ها چه بود؟ تئوری های توطئه ضد واکسن.
اگر به "ضد واکسن" بپیوندید، در آن چیزی هستید که Renee DiResta آن را "ماتریس همبستگی توطئه" (conspiracy correlation matrix) می نامد زیرا ضد واکس، مسیرهای شیمیایی، زمین مسطح و غیره را توصیه می کند، و در نتیجه ی آن اکنون موضوع "ضد واکسن" جز ۱۰ تهدید برتر سلامت جهانی است. نه فقط با رسانه های اجتماعی، بلکه به طور گسترده توسط رسانه های اجتماعی تشدید شده است.
اکنون می توانیم 10000 ناظر محتوا را به زبان انگلیسی استخدام کنیم. می‌توانیم افرادی را در برمه استخدام کنیم تا تعدیل این محتوا را آغاز کنند. اما آن شیب نموداری را تصور کنید که شما 10000 صخره‌گیر را استخدام کرده‌اید که سعی می‌کنند از غلتیدن سنگ‌ها به پایین تپه جلوگیری کنند، و در مقابل سیستمی ایجاد کرده‌اید که روی 2 میلیارد نفر تأثیر می‌گذارد. اصلا قابل مقایسه نیست.
نکته ی دیگر اینکه هر یک از این سه موضوع زمین مسطح، بی اشتهایی دختران نوجوان و ضد واکسن فقط مواردی هستند که ما به زبان انگلیسی در مورد آنها مطالعه کرده‌ایم، (زیرا روزنامه‌نگاران انگلیس زبان ما در حال پررنگ کردن این موضوعات هستند،) در نظر بگیرید که چه اتفاقات دیگری در سراسر جهان به زبان‌هایی که مهندسان نمی‌دانند در حال رخ دادن است؟
ما از تحقیقی که MIT در توییتر انجام داد می دانیم که اخبار جعلی شش برابر سریعتر از اخبار واقعی منتشر می شود. بنابراین این وضعیتی است که جهان را به این جهت دیوانه کننده سوق می دهد. با ذکر این مهم که ما در شش سال آینده حدود 4 میلیارد نفر جدید در محیط های آنلاین خواهیم داشت.
ادامه دارد ...
آنچه مطالعه کردید بخشی از ترجمه سخنرانی تریسان هریس در سال 2017 من باب اهمیت پرداختن به فناوری انسانی است. در صورت علاقمندی می توانید ویدئو سخنرانی را مشاهده کنید و یا برای مطالعه متن دست نویس سخنرانی به زبان اصلی به سایت سر بزنید.
استودیو طراحی انسانی مفتخر است که در راستای ترویج و آموزش مفاهیم فناوری انسانی، به پژوهش، ترجمه و تالیف و تولید محتوا مفاهیم اساسی فناوری انسانی برای دانشجویان و علاقمندان طراحی پرداخته و در این راستا مشاوره تخصصی کسب و کارهای نوپا را بر عهده دارد. برای کسب اطلاعات بیشتر مقالات ما را مطالعه کرده و صفحه اینستاگرام ما (@humandesignstudio) را دنبال کنید.
