خیلی از مساله‌ها و موضوعات هست که شاید بارها در کتاب و مقالات در مورد اونها مطالعه کرده باشیم. ولی تا با این مفاهیم سر و کار نداشته باشیم و به صورت عملی درگیر اون موضوع نشده باشیم برآوردی از میزان اثرگذاری اونها نداریم. یکی از این موارد برای من مساله زبان در سیاست گذاری بود.
برای من همیشه این موضوع که جنبه زبانی و رتوریک از یک سیاست مساله قابل توجه و اثرگذار است، قابل پذیرش و توجه بوده اما تا وقتی در یک کار واقعی با اون روبرو نشدم، نتونستم به خوبی اون را درک کنم.
برای این که بتونم بهتر این مساله را بررسی کنیم و ابعادش را ببینیم شاید جالب باشه که یه موضوع واقعی توی حوزه هوش مصنوعی را بررسی کنیم. در هوش مصنوعی مساله سوگیری (بایاس) یکی از مهمترین مواردی هست که مورد توجه جامعه علمی و همین طور سیاست گذاران قرار گرفته است. در یک تعریف ساده از مساله، الگوریتم‌ها باید در اعمال رفتارهای خودشون نسبت به گروه خاصی از افراد تعصب نداشته باشند و گروهی را فراموش نکنند. اصل مساله ریشه در دو موضوع داره. در وهله اول این داده‌هایی که رباتها و الگوریتم ها به وسیله اون ها آموزش دیدند باید دارای سوگیری نباشند و همه اقلیت‌ها را در نظر بگیرند. به طور مثال نسل اول از الگوریتم هایی که برای ممیزی رزومه ها در شرکت هایی مثل امازون مورد استفاده قرار می‌گرفت، به واسطه داده‌ای که برای اموزش الگوریتم انتخاب شده بود، زنان را کاملا از انتخاب‌های خودش حذف می کرد. در واقع به دلیل این که داده هایی که الگوریتم به وسیله اون ها آموزش دیده بر اساس شایستگی نبود و تنها رکوردی از مدیران قبلی که همه مرد بودند، الگوریتم سوگیری داشت. دومین بعد اصلی که موجب سوگیری در الگوریتم ها میشه موضوع برنامه نویسان و جامعه توسعه دهنده کد است. در این بعد توسعه دهندگان به دلیل تجربه محدودی که در زندگی خودشون داشتند، بخشی از جامعه هدف را مد نظر قرار نمی‌دهند. به طور مثال باز هم در نمونه‌های اولیه توسعه داده شده هوش مصنوعی سیستم های بینایی ماشین وقتی که الگوریتم توسط تعدادی از افراد سفید پوست توسعه داده شده بودند، افراد سیاه پوست در جامعه را در نظر نمی‌گرفتند و به نوعی ناخواسته سبب تبعیض نژادی در برابر اونها می‌شدند.
خب!
در مورد بایاس صحبت کردیم اما مساله ما چیز دیگری بود. تاثیر زبان در سیاست گذاری. حالا موضوع بایاس در هوش مصنوعی و مساله سیاست گذاری نگاه کنیم. تقریبا همه کشورهای جهان و با ایدئولوژی‌های مختلف موضوع بایاس را مورد توجه قرار دادند. تفاوتی ندارد که شما در چین باشید و یا در امریکا و یا در اروپا. هر کدام از این قطب‌ها که به نوعی در موضوع حکمرانی داده صاحب اندیشه و مکتب محسوب می‌شوند، بلااستثنا موضوع بایاس هوش مصنوعی را مورد توجه قرار داده‌اند و در مورد موضوع بایاس یا سوگیری صحبت کردند. مقصود آنکه فارغ از این که در کجای طیف سرمایه داری/کمونیسیم و یا در یکی از پایگاه های انقلابی یا محافظه کاری در دنیا ایستاده باشید موضوع حفاظت ازشهروندان مورد توجه و پذیرش قرار دارد.
حلا به کشور خودمان برگردیم. فرض کنید که شما به عنوان یک سیاست پژوه و یا کارشناس در یک اداره سیاستی مسئول نگارش سندی درباره هوشمندسازی یا هوش مصنوعی هستید. بدیهی است که با توجه به ارزش های ملی(مانند اصول مصرح در قانون اساسی در باره حقوق ملت) ، دینی (مانند تاکیدات صریح متن قران بر کرامت انسان‌ها) و یا اهداف توسعه‌ای موضوع بایاسِ الگوریتم‌های هوش مصنوعی مورد توجه شما قرار می گیرد. نکته قابل توجه و سؤال مهم اینجاست که شما چطور و با چه زبانی در متن سند سیاستی خود چگونه این موضوع را مورد توجه قرار می‌دهید. به دو نمونه زیر توجه کنید:
1- هر سازمان ارائه کننده خدمات، در ارائه خدمات مبتنی بر هوشمندسازی باید به گروه‌های مختلف در شهر توجه کند و هیچ گروهی به دلایل فرهنگی، قومی، اجتماعی، زبانی، جنسیتی درآمدی از دسترسی به خدمات و راهکارهای هوشمند باز نماند.
2- نهادهای دولتی، خصوصی و تعاونی باید با توجه به باورها و ملاحظات دینی و انقلابی و تأمین کرامت و حقوق عامه مردم به ویژه محرومان و مستضعفان و با تاکید بر کرامت همه اقشار و اقوام و توجه ویژه به جایگاه زن در صحنه‌های اجتماعی نسب به توسعه سیستم خود اقدام کنند.
شاید در نظر خواننده‌ای که در حوزه سیاست گذاری کار کرده باشد این دو متن با هم تفاوت آنچنانی نداشته باشند. در واقع معنای تحت‌الفظی هر دو گزاره یکی است. اما از نظر مخاطب حرفه‌ای سیاست، که آن را مورد بررسی قرار می دهد این تفاوت در نوع زبان استفاده شده در میان دو گذاره‌ای که از نظر معنایی در صورت با هم برابر هستند، دارای اهمیت است.
گذاره اول و دوم هر دو یک مساله را مورد توجه قرار می دهند. هر دو به موضوع بایاس در سیاست گذاری می پردازند. از منظر راهکار نیز نظر سیاست‌گذار یکی است. در هر دو مورد هوش مصنوعی و سیستم‌هایی که در آن‌ها از هوش مصنوعی استفاده می کنند، نباید بایاس داشته باشد. از نظر ابزار متن قانون آن را صراحتا ممنوع کرده است. اما نکته‌ای که وجود دارد زبان مورد استفاده در این دو گذاره است. در یکی زبان خنثی و صریح و مورد استفاده قرار گرفته است. در واقع برداشت و تفسیر دیگر از موضوع در بند اول بسیار دشوار است. بند دوم از جنبه معنایی تفاوتی با بند اول ندارد ولی از نظر زبانی، از زبانی استفاده می کند که در عمل یعنی در اجرا و ارزیابی سیاست، مجری و ارزیاب را با جنبه‌ی ارزشی و تفسیرپذیری گزاره‌ها روبرو می سازد.
در واقع آنچه در موضوع بایاس در بند اول مورد توجه قرار گرفته است جنبه‌های حقوقی بنیادی شهروندان بر مبنای ارزش‌های اروپایی است. اما بند دوم تلاش کرده است که با به کار گیری زبان حاکم در ادبیات جمهوری اسلامی ضمن بیان موارد عنوان شده در بند اول، مبنای نظری خود را که در مواردی -درست یا غلط- در تعارض و تناقض با ارزش های اروپایی و حقوق بنیادی شهروندان در اروپاست. را بر اصول حاکم در سیاست گذاری تحمیل کند
فارغ از جنبه ملال آور موضوع که مقایسه موضوع حقوق بنیادین شهروندان در جمهوری اسلامی و اتحادیه اروپاست؛ یک سیاست گذار (یا سیاست پژوه، یا هر فرد علاقه‌مند به موضوع سیاست‌گذاری) باید به این موضوع توجه داشته باشند که جنبه نمادین الفاظ و سبک نگارش مورد استفاده در نگارش سند آن را به مسیرهای متنوعی در اجرا و ارزیابی هدایت خواهد کرد.
در این مورد به نظر می‌رسد که سیاست‌نویس باید به پرسش‌های زیر در استفاده از زبان پاسخ دهد:
آیا زبان مورد استفاده در دارای همراستایی با ارزش‌های اساسی سازمان ابلاغ کننده قرار دارد؟ (به طور مثال زبان مورد استفاده در سند تا چه اندازه با زبان مورد استفاده در اساسنامه و یا قانون و ابلاغ تاسیس سازمان سیاست گذار مطابقت دارد؟)
آیا زبان مورد استفاده با بستر سیاست گذاری تطابق دارد ؟ (به طور مثال استفاده از زبانی با جهت‌گیری ارزشی و در سیاست گذاری اقتصادی مناسب است؟)
نتیجه به کار گیری زبان در مراحل مختلف سیاست‌گذاری چگونه است ؟ (به طور مثال چگونه استفاده از زبان بر موضوع تعیین KPI برای بررسی اثرگذاری سیاست مؤثر است؟)
موارد ذکر شده در بالا موضوعاتی بود که از منظر زبانی در تدوین یک سند سیاستی مورد به نظر نگارنده این مقاله رسید و قطعا افراد مختلف می‌توانند با توجه به مطالعات و تجربه‌های مختلفی که در سیاست‌گذاری دارند، این متن را اصلاح کرده و یا تکمیل کنند.
پی‌نوشت
اگر پژوهشگرِ خط‌مشی‌گذاری هوش مصنوعی و یا کنشگر در سطوح مختلف مدیریتی باشید حتما نیاز به مطالعه مجموعه‌ای از اسناد مربوط به این موضوع دارید .در AI Policies and Plans Repository مجموعه‌ای قابل دانلود از
استراتژیهای ملی در حوزه هوش مصنوعی،
خط مشی گذاری‌های در حوزه هوش مصنوعی،
انواع نقشهراه در حوزه خط مشی گذاری هوش مصنوعی،
انواع گزارشهای معتبر سیاستی معتبر در بعد حاکمیتی هوش مصنوعی،
انواع ابزارهای تحلیلی برای توسعه و ارزیابی هوش مصنوعی،
رتبهبندیهای مختلف در ارتباط سیاست گذاری هوش مصنوعی،
و معرفی منابع معتبر آموزشی و علمی در ارتباط با هوش مصنوعی است.
اطلاعات بیشتر و نحوه دسترسی به این پروژه را در پست زیر بخونید
درباره AI Policies and Plans Repository
از طریق کانال‌های زیر می‌توانید با من در ارتباط باشید:
ایمیل من: javadsadeqi@gmail.com
آیدی تلگرام من: https://t.me/javaadsaadeghi
