در اواخر دهه‌ی 1980، دو پروفسورِ حقوق به نام‌های ایان اِیِرز (Ian Ayers) و پیتر سیگلمن (Peter Siegelman) بر آن شدند که دریابند آیا قیمت‌گذاریِ فروشندگانِ خودرو برای سیاه‌پوستان و زنان با مردانِ سفیدپوست یکسان است یا خیر. این دو 38 نفر را آموزش دادند—برخی سفیدپوست و برخی سیاه‌پوست، برخی مرد و برخی زن—تا طبقِ دستورالعملی معیّن با فروشندگان مذاکره کنند و نهایتاً از وجودِ تفاوت‌های ناگواری پرده برداشتند:
در ۱۵۳ نمایشگاهِ خودرویی که این پژوهش انجام شد، از خریدارانِ سیاه‌پوست و زنان بیش از مردانِ سفیدپوست برای فروشِ خودرویِ یکسان پول گرفتند؛ بیشترین پول را نیز از زنان سیاه‌پوست گرفتند—به‌طور میانگین، نزدیک به ۹۰۰ دلار بیشتر از مردان سفیدپوست. این یافته‌ها اگرچه برای بیشترِ مردم، به‌ویژه برای خودِ سیاه‌پوستان و زنان، چندان غافلگیرکننده نبود، اثباتی قانع‌کننده از میزان تبعیضی ارائه می‌داد که می‌تواند در بازارها وجود داشته باشد.
دوازده سال بعد، می‌رسیم به روزهای آغازینِ تجارتِ اینترنتی. کارآفرینانْ فروشِ آنلاینِ هر چیزی، از جمله خودرو، را به بوته‌ی آزمایش گذاشته بودند. سه اقتصاددان به نام‌های فیونا اسکات مورتون (Fiona Scott Morton)، فلوریان زِتِلمایِر (Florian Zettelmeyer)، و خورخه سیلور-ریسو (Jorge Silva-Risso) این شیوه‌ی جدیدِ فروشِ خودرو را تحلیل کردند و دریافتند که در این شیوه از تبعیض نژادی و جنسیتی‌ای که، طبق پژوهش‌هایشان، همچنان در فروش‌های حضوریِ خودرو تداوم داشت خبری نبود.
درواقع، طراحیِ نسل نخست بازارگاه‌های آنلاین، از جمله ای‌بِی (eBay)، آمازون (Amazon)، و پرایس‌لاین (Priceline)، به گونه‌ای بود که اِعمالِ تبعیض را برای فروشندگان دشوار می‌کرد. معاملات نسبتاً ناشناس صورت می‌گرفت. کاربران می‌توانستند مذاکراتِ خریدشان را تا قبل از موافقتِ نهاییِ فروشندگان بدون ارائه هیچ اطلاعاتی از هویت‌شان انجام دهند. به روایت کاریکاتوری مشهور در مجله‌ی نیویورکر، «در اینترنت، هیچ‌کس نمی‌داند که سگ هستی.»
اما پلتفرم‌ها—و اکنون کاربران‌شان—اتفاقاً می‌دانند که چه کسانی سیاه‌پوست‌اند و چه کسانی سفیدپوست، چه کسانی مَردند و چه کسانی زن، انسان‌ها کدام‌اند و سگ‌ها کدام. و اخیراً هم مشخص شده است که اینترنت مبنعی‌ست برای اِعمالِ تبعیض، نه پایان‌بخشِ آن: گروه‌های محروم، با آشکارشدنِ هویت‌شان، همان چالش‌هایی را تجربه می‌کنند که مدت‌ها در دنیای آفلاین گریبان‌گیرشان بود؛ گاهی نیز به‌دلیل نبود مقررات، برجسته‌سازیِ نژاد و جنسیت در عکس‌ها، و این‌که تبعیض‌کنندگان می‌توانند بدونِ رویایی با قربانیان‌شان عمل کنند، این وضعیت بدتر هم می‌شود.
چه اتفاقی افتاد و چه اقدامی می‌توان کرد؟
در سپیده‌دمِ تجارت الکترونیک، خریدِ آنلاین غالباً بر ریسک و شانس مبتنی بود. ممکن بود فروشنده‌ای از فلوریدا در ای‌بِی مثلاً کارتِ بیسبالِ تاپسِ فصل 1974 نولان رایان را در تیم فرشتگان کالیفرنیا به فروش بگذارد و شرحی هم از وضعیت کارت به توضیحات اضافه کند. سپس، کلکسیونِری از ایالت ماساچوسِت بر مبنایِ همان توضیحات اقدام به خرید می‌کرد. کارتِ آکبند ممکن است 60 دلار قیمت بخورد اما اگر کهنه و چین‌خورده باشد، بخش اعظم قیمتش از آن کاسته می‌شود. اگر فروشنده می‌خواست دغل‌کاری کند و کارتِ کاملاً چروکیده‌ای را به‌اسمِ کارتِ دست‌نخورده بفروشد، چه سازوکاری وجود داشت تا جلویش را بگیرد؟ تقریباً هیچ: دو اقتصاددان به نام‌های جینجر جین (Ginger Jin) و اندرو کاتو (Andrew Kato) طیِ پژوهشی نشان دادند که در اوایل دهه‌ی 2000، فروشندگان در ای‌بِی معمولاً کیفیت کارت‌های ورزشیِ مبادلاتی‌شان را نادرست جلوه می‌دادند.
بدیِ تجارت الکترونیک در ابتدای امر این بود که یکی از طرفینِ معامله چیزهایی می‌دانست که از دیگری پنهان بود—مثل کیفیت کارت بیسبال، دقت و احتیاطی که در بسته‌بندیِ کالاها به خرج می‌رفت، و غیره. این چالش‌ها در هر بازاری سر برمی‌آورند اما به‌طور خاص در پلتفرم‌های آنلاین بر شدت‌شان افزوده می‌شد و این برمی‌گشت به دو دلیلِ اصلی. اول این‌که، برطرف‌کردنِ نامتقارن بودن اطلاعات (information asymmetry) در شرایطی که خریدار نمی‌تواند از نزدیک محصول را برانداز کند دشوارتر است. و دوم این‌که، فروشندگانِ آنلاین، تقریباً بنا بر تعریف، تازه در دنیای کسب‌وکار قدم گذاشته بودند زیرا فقط چند سال از ظهورِ خودِ این کسب‌وکارها می‌گذشت. خبری از برندهای بنام، مثل سوتبیز (Sotheby’s) و سیرز (Sears)، نبود که باعث اطمینان‌خاطر خریداران شود.
با گذر زمان، نقدوبررسی‌های خریداران و بازخوردهای دیگر کمک می‌کرد تا فروشندگان در تجارتِ الکترونیک برای خودشان اعتبار دست‌وپا کنند. اما چرا باید به گردآوریِ بازخوردها بسنده کرد وقتی که اطلاعاتِ احتمالاً سودمندی را می‌توان با رجوع به هویتِ افراد به دست آورد؟ مثلاً طیِ پژوهشی در سال 2012 که جفرسون دوآرت (Jefferson Duarte)، استفان سیگل (Stephan Siegel)، و لنس یانگ (Lance Young) روی وام‌دهیِ فردبه‌فرد ترتیب دیده بودند، شرکت‌کنندگان پس از دیدنِ عکسِ افراد، به میزان اعتمادپذیریِ احتمالیِ وام‌گیرندگان نمره می‌دادند. معلوم شد افرادی که از «ظاهرِ اعتمادپذیری» برخوردار بودند اقبالِ بیشتری در دریافتِ وامِ درخواستی‌شان داشتند. غافلگیرکننده‌تر آن‌که، احتمالِ این‌که این افراد بدهی‌هایشان را بپردازند نیز بیشتر بود. پیامدِ چنین مشاهداتی این بود که چنانچه این نوع اطلاعاتِ جزئی بتواند چشم‌اندازی از نحوه‌ی عملکرد معاملات در اختیار دست‌اندرکارانِ بازار قرار دهد، ارائه‌دادن‌شان منطقی می‌نماید.
در وبسایت‌های خدماتی، از فریلنسینگ و خدمات حمل‌ونقلیِ هم‌پیمایی (Ride Sharing) گرفته تا بیرون‌بردنِ سگان، اکنون فروشندگان می‌توانند بر حسب ظاهر یا حتی صرفاً نامِ افراد بین کسانی که با آن‌ها واردِ معامله می‌شوند تمایز بگذارند. فراهم‌بودنِ چنین اطلاعاتی به پلتفرم‌ها بستگی دارد: برخی پلتفرم‌ها سطح قابل‌قبولی از ناشناسی را حفظ می‌کنند و برخی دیگر رویه‌هایی را در پیش گرفته‌اند که مدت‌هاست در بازارهای آفلاین هم ممنوع است. به همین ترتیب، در بسیاری از وبسایتها، از جمله Etsy و CustomMade، خریدارانِ بالقوه نه‌تنها محصولات بلکه نام و عکسِ فروشندگان را نیز می‌بینند. اگرچه اختیارداشتنِ اطلاعات از شرکایِ معاملاتیِ آینده می‌تواند تصمیم‌گیری را برای افراد آسان‌تر سازد، مقادیر فزاینده‌ای از شواهد نشان می‌دهد که این امر درواقع به اِعمالِ تبعیض دامن می‌زند.
بازارگاه Airbnb، در حوزه‌ی اجاره‌دهی کوتاه‌مدتِ املاک، نمونه‌ای‌ست از ظهور تبعیض‌گذاری در بازارهای آنلاین و چگونگیِ تأثیرپذیری‌اش از شیوه‌ی طراحیِ سامانه‌ها. وقتی یک اجاره‌جو در فهرستِ املاک جست‌وجو می‌کند، توضیحات و عکس‌های ملک و نیز صاحب ملک را می‌بیند. و صاحبان املاک نیز پیش از تأیید یا ردِ اجاره‌دهی می‌توانند نام—و در بسیاری موارد، عکس‌های—مشتریان را رؤیت کنند.
یکی از ما (مایک، در همکاری با بنجامین اِدِلمان (Benjamin Edelman) و دنیل اِسویرسکی (Daniel Svirsky)) روی تبعیض نژادیِ Airbnb تحقیق کرده است. در پژوهشی با تمرکز بر بازار ایالت متحده، این گروه 20 پروفایلِ کاربری ساخت و برای حدوداً 6,400 اجاره‌دهنده درخواستِ اجاره فرستاد. پروفایل‌ها و درخواست‌ها همگی یکسان بودند بجز در یک ویژگی: نام کاربر. نامِ نیمی از پروفایل‌ها (طبق اسناد تولد) بین سفیدپوستان متدوال بود و نیمه‌ی باقی‌مانده نیز نام‌های رایجِ سیاه‌پوستان را داشتند.
احتمال تأیید درخواست‌هایی که با نام‌های سیاه‌پوست‌نما ارسال می‌شد 16 درصد از نام‌های سفید‌پوست‌نما کمتر بود. و این تبعیض فراگیر نیز بود: یعنی، هم در خانه‌های ارزان و هم گران‌قیمت، مناطق چندقومیتی و تک‌قومیتی، و اتاق‌هایِ داخلِ اقامت‌گاهِ اجاره‌دهنده و واحدهای جداگانه‌ای که صاحب‌خانه در نقاط مختلف به اجاره گذاشته بود، چنین تبعیضی مشاهده می‌شد. بیشترِ اجاره‌دهندگانی که درخواستِ پروفایل‌های سیاه‌پوست‌نما را رد می‌کردند کسانی بودند که هرگز خانه‌شان را به سیاه‌پوستان کرایه نداده بودند—و این حاکی از آن است که برخی اجاره‌دهندگان مخصوصاً بر مبنای نژاد بین مشتریان‌شان تبعیض قائل می‌شوند. (Airbnb، در واکنش به این پژوهش و اعتراضاتِ روزافزونِ کاربران و قانون‌گذاران، هیئتی را برگماشت تا روش‌هایی برای کاهش تبعیض‌گذاری بیابد، که به ارائه‌ی مجموعه‌ای از پیشنهادات در سپتامبر 2016 منتهی شد. گوشه‌هایی از این دستورالعمل‌ها را در ادامه بررسی خواهیم کرد.)
بیشترِ اجاره‌دهندگانی که درخواستِ پروفایل‌های سیاه‌پوست‌نما را رد می‌کردند کسانی بودند که هرگز خانه‌شان را به سیاه‌پوستان کرایه نداده بودند—و این حاکی از آن است که برخی اجاره‌دهندگان مخصوصاً بر مبنای نژاد بین مشتریان‌شان تبعیض قائل می‌شوند.
اکنون پژوهشگران تبعیضِ نژادیِ موجود در حوزه‌های مختلف تجارت آنلاین را، از بازارِ کار گرفته تا بازار درخواست وام و بازار مسکن، مستند کرده‌اند. دو قابلیت این امر را ممکن ساخته است: اول، شاخص‌های نژادی، که واضح‌ترینش عکس‌ها هستند اما نشانگرهای ظریف‌تر، مثل نام، نیز در آن دخیل‌اند؛ دوم، تبعیضی که مشارکت‌کنندگانِ بازار نسبت به طرف مقابل‌شان در معامله قائل می‌شوند. چنان‌که در بخش بعدی خاطرنشان خواهیم کرد، هر دوی این ویژگی‌ها از انتخاب‌های طراحانِ پلتفرم برمی‌خیزد.
تجارت آنلاین ویژگیِ دیگری نیز دارد که گاهی اوقات، هرچند برخلاف انتظار، بیشتر به تبعیض دامن زده است تا این‌که جلویش را بگیرد: یعنی، استفاده‌اش از الگوریتم‌ها و کلان‌داده. نتایج جست‌وجوی گوگل، کتاب‌های پیشنهادیِ آمازون، و فیلم‌های پیشنهادیِ نِتفلیکس همگی نمونه‌هایی‌اند از قدرتِ ماشین‌هایی که آمده‌اند جایگزین عملکرد ناقصِ انسانی در تشخیص علایق مشتریان شوند. شاید این فکر که برچیدنِ قضاوت‌های انسانی به برچیده‌شدنِ سوگیری‌های انسانی نیز خواهد انجامید اغواکننده باشد، اما ماجرا چیزِ دیگری‌ست.
در واقع، تبعیضِ الگوریتم‌بنیاد به شیوه‌هایی صورت می‌گیرد که احتمالاً انسان‌ها از آن می‌پرهیزند. استاد علوم رایانه‌ای به نام لاتانیا سوئینی (Latanya Sweeney) طیِ پژوهشی روشنگر تصمیم گرفت که نقش نژاد را در تبلیغات گوگل دریابد. او نام‌های رایج آفریقایی-آمریکایی—مثل دیشان (Deshawn) و، البته، لاتانیا—را جست‌وجو کرد و تبلیغاتی را که در نتایجِ جست‌وجو ظاهر می‌شدند ثبت نمود. سپس، نام‌هایی مثل جفری (Geoffrey) را جست‌وجو کرد، که بین سفیدپوستان متداول بودند. احتمال این‌که جست‌وجوی نام‌های سیاه‌پوست‌نما به نمایش تبلیغاتِ تحقیق در زمینه‌ی سوابق بازداشت بینجامد بیشتر بود.
البته، گوگل به گونه‌ای برنامه نچیده بود که تبلیغات مربوط به سوابق بازداشتش را به کسانی نشان دهد که نام‌های سیاه‌پوستانه جست‌وجو می‌کردند. دلیل چنین اتفاقی این بود که الگوریتم، بر مبنای جست‌وجوهای پیشین، «نتیجه می‌گرفت» شخصی که نام «دیشان» را جست‌وجو کرده است، در مقایسه با کسی که نام «جفری» را در گوگل نوشته، احتمالش بیشتر است که روی تبلیغِ مربوط به بازداشت کلیک کند (و درنتیجه درآمد بیشتری برای گوگل تولید کند). یعنی، این انتخابی بود که طراحانِ الگوریتمِ گوگل، هرچند ناخواسته، تعیین کرده بودند.
پلتفرم‌ها—حتی آن‌هایی که در صنعت واحدی به‌کار می‌روند—غالباً طراحیِ متفاوتی دارند، که می‌تواند به سطوح متفاوتی از تبعیض‌پذیری بینجامد. مثلاً ارسال عکس کاربر را در نظر بگیرید. شرکتِ Uber عکس مسافران را در اختیار رانندگانش نمی‌گذارد، اما شرکتِ رقیبش Lyft این کار را می‌کند. این موضوع احتمال تبعیض از طرف رانندگانِ Uber را از Lyft کمتر می‌کند. به همین ترتیب، بازارگاهِ اجاره کوتاه‌مدتِ املاک HomeAway، در برگه‌ی اصلیِ نتایجِ جست‌وجویش فقط عکس ملک را نمایش می‌دهد و نمایش عکس اجاره‌دهنده را تا صفحاتِ بعدی به تعویق می‌اندازد (تازه اگر اصلاً نمایش دهد)، اما Airbnb اجاره‌دهندگان را ملزم می‌کند که عکس‌شان را در برگه‌ی اصلیِ نتایج جست‌وجو بارگذاری کنند.
شرکت‌ها همچنین رویکردهای متفاوتی برای تبعیض‌یابی و اقدامات اصلاحی‌شان دارند. مثلاً ای‌بِی (eBay) گروهی از روان‌شناسانِ اجتماعی را به همکاری گرفت تا دریابد که آیا فروشندگانِ مرد بیش از فروشندگان زن برای اقلامِ مشابه پول می‌گیرند یا خیر (پاسخش مثبت از کار درآمد). اما روالِ رایج‌تر این است که کسب‌وکارها از پرداختن به چنین موضوعی چشم بپوشند. اگرچه مسئولان اجراییِ زیادی به وجود چنین تبعیضی اذعان می‌کنند و از تمایل‌شان به کاهشش حرف می‌زنند، کوشش‌های صادقانه‌ی اندکی دیده‌ایم که همانند ای‌بِی بخواهند مقدارش را بسنجند. برای همین، پژوهشگرانی که درصدد بررسی تبعیض‌گذاری‌های آنلاین‌اند می‌باید خودشان آزمایش طراحی کنند یا در بین اطلاعاتِ مشخصاً ناقص از وبسایتها به کندوکاو بپردازند. (مواردی را سراغ داریم که وکلای شرکت‌ها برای جلوگیری از انجام‌گرفتنِ پژوهش‌های نژادی، دست به تعقیب و مقابله با این افراد زده‌اند.)
ادامه دارد...
ترجمه مقاله ای با همین نام از Harvard Business Review
مترجم: محمد رسول علیزاده
