هوش مصنوعی و سیاست گذاری

شاید برای کسی که در حوزه سیاست گذاری کار می کند، اسم و موضوع هوش مصنوعی در وهله اول یک اسم و مفهوم پیچیده از جنس مسائل ریز مهندسی به نظر آید. این روزها در مورد هوش مصنوعی گمانه زنی و حدس های زیادی زده می‌شود و داستان های عجیب و غریب در مورد مفهومِ آن، زیاد به گوش می رسد. تا آنجا که حتی مانند مواد مخدر توانسته یکی از موضوعات جذاب برای ساخت سریال های تلوزیونی باشد :). صد البته حق دارید بگویید که برای بسیاری از افرادی هم که مطالعاتشان در حوزه علوم کامپیوتر است، هوش مصنوعی موضوع پیچیده ای به حساب می آید، و ناآشنا و غیر ملموس بودن هوش مصنوعی محدود به سیاست گذاران و یا افرادی که کارشان معطوف به سیاست گذاری و کار در حوزه اختیارات دولت است، نمی شود.

اما آیا هوش مصنوعی انقدر که از دور پیچیده به نظر می آید، از نزدیک هم پیچیده است ؟

آیا هوش مصنوعی اینقدر که این روزها در موردش صحبت میشود مهم است، و یا تنها یک مُد زودگذر بوده و به زودی فراموش میشود؟

آیا این بحث که هوش مصنوعی را یک فناوری انقلابی می دانند و آن را با انقلاب صنعتی مقایسه می کنند درست است ؟

آیا ربات ها به زودی جایگزین انسان‌ها می شوند؟

آیا هوش مصنوعی تعاریف اصلی و پیش فرض های اساسی ما در حوزه های مختلف علوم انسانی مانند اقتصاد، علوم اجتماعی، فلسفه و … را تغییر خواهد داد؟

به عنوان یک مدیر یا سیاست گذار و یا سیاست گر حرفه ای ما چگونه باید با مساله هوش مصنوعی (AI) روبرو شویم و از چه جنبه هایی آن را بررسی کنیم؟

در این مجموعه مطالب که با عنوان سیاست گذاری و هوش مصنوعی در این پست و پس های آینده می نویسم ، امیدوارم فرصتی پیش آید تا بتوانیم در مورد این سوالات بیشتر با هم صحبت کنیم.

هوش مصنوعی در معادلات سیاست گذاری

هوش مصنوعی روندی رو به رشد را در سال‌های گذشته طی کرده است . به صورت کلی تکنولوژی‌هایی که "داده" به عنوان عنصر مرکزی آنها به حساب می آید در سال های اخیر، به دلیل رشد تولید کلان داده‌ها، امکان مدیریت داده‌ها با استفاده از تکنولوژی‌های جدید و دیتابیس‌هایی پیشرفته، بسیار بسیار بیشتر مورد اقبال قرار گرفته‌اند و توانسته‌اند که جایگاه خود را در میان سایر تکنولوژی ها ارتقا ببخشند. از آنجایی که بخش خصوصی به نسبت بخش دولتی و یا عمومی از چابکی بیشتری برخوردار بوده است، به کارگیری این تکنولوژی های اطلاعاتی و از جمله هوش مصنوعی در این بخش ها زودتر اتفاق افتاده است . البته مانند بسیاری دیگر از تکنولوژی‌های سطح بالا این تکنولوژی نیز برای اولین بار در بخش های نظامی ایده‌پردازی و مورد بهره برداری قرار گرفته است و سپس جهت استفاده عامه تجاری‌سازی و به کار گرفته شده است.

نکته‌ای که وجود دارد و نباید در مورد هوش مصنوعی آن را فراموش کنید این است که استعاره انقلابی بودن هوش مصنوعی نباید شما را به اشتباه بیندازد. معمولا انقلابی بودن در مورد پدیده ای مورد استفاده قرار می‌گیرد که در آن تحولات به صورت ناگهانی رخ می‌دهد . عده از افراد به دلیل این که در سال های اخیر ما شاهد استفاده از هوش مصنوعی با شدت و گستردگی بالاتر نسبت به سال های پیش‌تر بوده‌ایم هوش مصنوعی و توسعه و به کارگیری آن را یک انقلاب به شمار آورده‌اند، ولی شاید این استعاره درست نباشد.

همانطور که پیشتر ذکر کردیم بخش خصوصی در به کارگیری این تکنولوژی پیش قدم بوده و از آن زودتر نیز در دانشگاه‌ها و همین طور نهادهای نظامی ما شاهد استفاده از هوش مصنوعی بوده‌ایم . در واقع شاید بتوان گفت آنچه که به عنوان هوش مصنوعی امروز می‌شناسیم، نتیجه تلاشی است که از جنگ جهانی دوم شروع شده و به تدریج توانسته است که سیر رشد و توسعه خود را طی کند. امروزه هوش مصنوعی با در اختیار قرار داشتن امکاناتی مانند دیتابیس‌های بزرگ، تکنولوژی‌های تحلیل داده جدید و از همه مهمتر داده‌های تفسیر پذیر که از طریق سنسورهای مختلف دریافت می شود، اثر گذاری خود را به صورت جهشی افزایش داده و شکوفا شود.

در واقع بهتر است بگوییم که رشد تکنولوژی هوش مصنوعی بیش از آنکه رشد انقلابی (revolutionary) باشد، تکاملی یا (evolutionary) بوده است و آن انقلابی که ما شاهد آن هستیم، انقلاب اثرات و پیامدهای هوش مصنوعی در نظام های اقتصادی، اجتماعی و … است.

به هر روی، هم اکنون موضوع هوش مصنوعی به صورت جدی مورد توجه قرار گرفته است. توجه به هوش مصنوعی ناشی از اثراتی است که به کارگیری آن، در زندگی شهروندانِ یک جامعه ممکن است داشته باشد . در میان دولت‌های مختلف شاهد آن بوده‌ایم که در رده‌های مختلف سیاست گذاری، توجه نسبت به این موضوع صورت گرفته است. در بیشتر کشورهای پیشرفته دنیا استراتژی های ملی در مورد هوش مصنوعی وجود دارد و دولت ها با استفاده از برنامه ای مشخص به این حوزه ورود کرده‌اند .

شاید بررسی و پیگیری استراتژی‌های ملی در مورد هوش مصنوعی برای شما به عنوان فردی که سیاست گذاری را به صورت حرفه ای و جدی دنبال می کنید بسیار جذاب باشد. در واقع شما فرصت آن را دارید که در نقطه‌ای شبیه نقطه صفر کشف موتور بخار و یا دستگاه چاپ قرار بگیرید و به لطف توسعه ارتباطات و آزاد بودن دسترسی به برنامه ریزی‌های دولتی، ببینید که دولت های مختلف نسبت به این موضوع چه واکنشی داشته‌اند و هر کدام از سیاست های توسعه‌ای در پیش گرفته شده در مورد هوش مصنوعی، چه نتایجی را حاصل کرده است. تلاش های دهه اخیر دولت ها موجب آن شده است که برخی از کشور ها در موضعِ رهبری در این حوزه از تکنولوژی درسطح جهان قرار بگیرند و برخی دیگر از کشور هایی که پیش از این در بسیاری از تکنولوژی های مختلف خود رهبران جهانی بوده‌اند نتوانند توان رقابتی با آن ها داشته باشند .

در مقالاتی جداگانه هم به این موضوع یعنی استراتژی های ملی در حوزه هوش مصنوعی هم به تاریخچه هوش مصنوعی و شاخه های هوش مصنوعی خواهیم پرداخت. اما در این جا و در ادامه گام اول قصد دارم به این موضوع بپردازم تاثیر هوش مصنوعی در زندگی شهروندان تاکنون چگونه بوده است و چه افق و محدودیت هایی می توانیم برای آن قائل باشیم . در مثال هایی که در بخش آتی این نوشته آورده ام، بیشتر به دنبال روشن کردن این مساله هستم که هوش مصنوعی با چه مختصاتی ما را به عنوان سیاست گران حرفه ای ملزم به واکنش و عکس العمل در مورد خود کرده است.

به بیان دیگر ما در این نوشته به مساله بیمار می پردازیم. شاید شما نیز استعاره‌ی بیمار و پزشک را در موضوع سیاست‌گذاری شنیده باشید. سردرد برای بیمار حس ناخوشایند و درد در سر است؛ اما برای پزشک می‌تواند مفهوم و معانی مختلفی داشته باشد. پزشک سر درد را می‌شنود و برداشت او از این موضوع ممکن است میگرن، تومور مغزی یا یک سرماخوردگی ساده باشد. سیاست گذار نیز در چنین موضعی قرار دارد. کژکاردها و رویدادهای ناخوشایند اجتماعی که هر در اخبار و از زبان مردم در ارتباط با آنها می شنویم، مساله‌هایی است که از جانب بیمار مطرح شده است و ما در موضع سیاست‌گذار باید نسبت به این موضوعات دارای نگاه حرفه‌ای مانند یک پزشک باشیم.

در واقع در اینجا ما به این مسئله می پردازیم که هوش مصنوعی چه مساله یا public problem هایی را ایجاد میکند که مداخله نهادهای عمومی را می طلبد.

بررسی نمونه موردی آمازون و مساله هوش مصنوعی

پیش‌تر هم گفتیم که شرکت‌های تکنولوژیک و نوآور مانند آمازون در خط مقدم توسعه و استفاده از تکنولوژی‌های سطح بالا در دنیا از جمله هوش مصنوعی قرار دارند و متقابلا می توان انتظار داشت که این مجموعه‌ها به عنوان اولین به کسانی که هوش مصنوعی را به کار گرفته‌اند، مهمترینِ مجموعه‌های تولیدکننده مسئله برای بخش دولتی هستند. به موارد زیر توجه کنید.

در شرکت‌های بزرگ و بین المللی مانند آمازون، بررسی رزومه‌ها به دلیل تعداد بالای رزومه‌های ارسالی به شیوه دستی امکان پذیر نیست و در واقع اگر امکان پذیر هم باشد این مساله دقت لازم و همین طور صرفه اقتصادی ندارد . در این جا مدیران آمازون با استفاده از هوش مصنوعی رباتی را توسعه داده و ساخته‌اند که نقش یک کارمند منابع انسانی را برای آن‌ها بازی میکند . این ربات با استفاده از داده‌هایی که از رزومه‌های مدیران موفق و همین طور مدیران ناموفق بخش‌های مختلف آمازون به دست می‌آورد، رزومه‌های افراد متقاضی را مورد بررسی قرار می‌دهد. ربات با سرعت بالاتر می‌تواند نتیجه‌های اولیه‌ای را به مدیران منابع انسانی نسبت به رزومه‌های دریافتی بدهد. خب در این صورت که همه چیز به خوبی در حال پیش رفتن است و همه افراد در باید راضی باشند. یک کارمند 24 ساعته که رزومه‌ها را برای مدیران به محض ارسال توسط کارجو بررسی میکند!

در آمازون مشکل از آنجایی شروع شد که مدیران متوجه شدند که ربات به صورت خودکار و با توجه به این که اطلاعات نادرستی به عنوان اطلاعات آموزشی، گزینش و در اختیار آن قرار گرفته است، یکی از جنسیت ها را به صورت خودکار رد می کند . به صورت مثال از آنجایی که مدیران بخش بازاریابی در ده سال اخیر در دپارتمان هایی که داده های آن ها برای آموزش ربات استفاده شده است، همه جنسیت ایکس(x) داشته اند، ربات همه جنسیت های وای (Y) را به صورت خودکار رد کرده است.

حتما برای شما باید قابل تصور باشد که با اتفاق افتادن این موضوع در آمریکا، چه فشارها و انتقاداتی به آمازون وارد شده است. بد نیست بدانید که شما در زمان استخدام نیرو در آمریکا برای یک شغل حق ندارید به جنسیت فرد اشاره کنید و به طور مثال به جای استفاده از "یک مرد قوی جهت حمل بار " باید از عبارت "فردی ورزیده با توان حمل بار به اندازه 60 کیلوگرم" استفاده کنید. در غیر این صورت امکان برخورد قانونی با شما وجود دارد.

حالا در موضوع استخدام آمازون چه کسی مقصر است؟ مسئولیت این خطا بر عهده کیست ؟ نهادهای قانونگذار در مورد این تبعیض صورت پذیرفته چه کاری باید انجام دهند؟ واکنش شهروندان به این مسئله چگونه خواهد بود؟ در صورتی که نهادهای مدنی حامی زنان نسبت به استفاده از هوش مصنوعی معترض شوند، دولت چه رویکردی را باید کار بندد؟ اگر همین مساله در ایران و در شرکت دیجی کالا رخ داده بود و الگوریتم تنها کارمندان زن یا مرد را استخدام کرده یا ارتقا میداد، بازخورد نهادهای مختلف قانونی، دینی و اجتماعی در این مورد چگونه بود؟

همان طور که می بینید در این مثال که یک استفاده مختصر از هوش مصنوعی است چه طور کامیونیتی های مختلف و همین طور قوانین و مقررات و نهادهای مختلف در مساله درگیر می شوند. شما می توانید این موضوع را به سطوح بالاتر مانند انتخابات آمریکا و همین طور سطوح پایین تر نیز گسترش دهید. به طور مثال در یکی دیگر از اشتباهاتی که در به کارگیری هوش مصنوعی در آمازون رخ داده بود، این شرکت با در اختیار قراردادنِ اطلاعات مشتریان به شرکتی تبلیغاتی در حوزه محصولات کودک، برای همه افرادی که محصولات مربوط به دوران اولیه بارداری را در فروشگاه جستجو کرده بوده اند و یا خریدهایی ازدسته محصولات داشته‌اند، بسته های اشانتیون ویژه آموزش دوران بارداری مادران و کاتالوگ تبلیغاتی محصولات بارداری، به صورت فیزیکی و در درب منزل ارسال کرده بود.

همه چیز ساده و درست به نظر می رسد. هوش مصنوعی بر پایه‌ی جست و جوهای افراد، آنها را به گروه‌های مختلفی تقسیم کرده است و یکی از این گروه افرادی هستند که به دنبال کالاهای مربوط هفته‌های اول بارداری بوده‌اند. شاید برای شما هم پیش آمد باشد که در دیجی کالا محصولی را جستجو کرده باشید و در دفعات بعد همان محصول یا محصولات مشابهی که ممکن است شما قصد خرید آن را داشته باشید را دیجی کالا با استفاده از الگوریتم های انجمنی به شما پیشنهاد کالاهای خاصی را داده باشد . ارسال تبلیغات و استفاده از بیگ دیتا هم این روزها اگر کار پسندیده و تحسین شده ای به حساب نیاید، ناپسند هم نیست! پس فکر می کنید مشکل قضیه و خبرساز بودن داستان در چه بود ؟

فاجعه از آنجایی شروع شد که طراحان این تبلیغ به این موضوع دقت نداشتند که الگوریتم هوش مصنوعی اهمیتی به روابط اجتماعی اهمیتی نمی‌دهد و در واقع برای او آنچنان اهمیتی ندارد که یک فرد چه طور و با چه مکانیزمی مادر شده باشد!

در عرض یک هفته خانواده تعداد زیادی از خانواده ها متوجه این موضوع شدند که دخترانشان باردار هستند و جنجال رسانه ای بسیار بزرگی حول این موضوع در امریکا شکل گرفت.

آیا آمازون حق داشت که با شرکت تبلیغاتی همکاری کند؟ مالکیت داده های مربوط به خرید شما با چه کسی است، آمازون که بستر خرید را فراهم آورده یا شما که خرید کرده اید؟ مسئولیت بازخوردهای اجتماعی پس از موردی مشابه در ایران و در یک فروشگاه اینترنتی بر عهده کیست ؟ اگر فاجعه قتل رومینا پیامد چنین اشتباهی بود شما به عنوان یک سیاست گذار حرفه ای چه پیشنهادی برای یک مدیر دولتی داشتید؟

علاوه بر این داستان های کوتاه که تنها مساله هایی کوچک در حوزه کاری یک شرکت را بررسی می کرد، ما بارها با اثر گذاری و " ایجاد مساله عمومی به دلیل حضور هوش مصنوعی" در کیس ها و موارد متعدد مانند نظام درمانی، مسئله های زیست محیطی، مسائل شهری، انتخابات و... روبرو بوده ایم و همین مسئله سبب شده است که نیاز به ورود سیاست گذاران در بالاترین سطح، در این موضوع حس شود. در مطالب آینده به این موارد بیشتر به این مسئله می پردازیم.

پی‌نوشت
اگر پژوهشگرِ خط‌مشی‌گذاری هوش مصنوعی و یا کنشگر در سطوح مختلف مدیریتی باشید حتما نیاز به مطالعه مجموعه‌ای از اسناد مربوط به این موضوع دارید .در AI Policy Repository مجموعه‌ای قابل دانلود از
استراتژی‎های ملی در حوزه هوش مصنوعی،
خط مشی گذاری‌های در حوزه هوش مصنوعی،
انواع نقشه‎راه در حوزه خط مشی گذاری هوش مصنوعی،
انواع گزارش‎های معتبر سیاستی معتبر در بعد حاکمیتی هوش مصنوعی،
انواع ابزارهای تحلیلی برای توسعه و ارزیابی هوش مصنوعی،
رتبه‎بندی‌های مختلف در ارتباط سیاست گذاری هوش مصنوعی،
و معرفی منابع معتبر آموزشی و علمی در ارتباط با هوش مصنوعی است.
اطلاعات بیشتر و نحوه دسترسی به این پروژه را در پست زیر بخونید
درباره AI Policies and Plans Repository

از طریق کانال‌های زیر می‌توانید با من در ارتباط باشید:

ایمیل من: javadsadeqi@gmail.com

آیدی تلگرام من: https://t.me/javaadsaadeghi

لینکدین من

توئیتر من