نگاهی به مقررات گذاری هوش مصنوعی در اتحادیه اروپا

این مطلب درباره مقررات گذاری هوش مصنوعی را مدت ها پیش نوشتم و الان دیدم که به تعداد دفعات زیادی خوانده شده. لذا لازم دیدم که به خوانندگان یادآوری کنم که در ارتباط با حکمرانی داده و علوم داده تغییرات زیادی اتفاق افتاده و احتمالا در آینده هم این تغییرات ادامه خواهد داشت.

شاید خیلی مسخره باشه، ولی حقیقتا بعد از داستان مهسا دیگه انگیزه‌ای برای نوشتن ندارم. حتی پایان‌نامه‌ام را هم با این که تقریبا تمام شده نرفتم دفاع کنم؛ ترجمه مطالب جدیدتر ترویجی توی این حوزه که...

باری، اگر توی این زمینه پژوهش می‌کنید بد نیست این به این دوتا لینک هم یه نگاهی بندازید:

لینک یکم: فلوچارت GDPR برای هوش مصنوعی

لینک دوم: درباره قانون هوش مصنوعی اتحادیه اروپا

ادامه متن همان مطلب قدیمی است.

در بیست و یکم آوریل 2021 اتحادیه اروپا پیشنهادیه برای مقرات گذاری (REGULATION) در هوش مصنوعی را منتشر کرد. این اقدام اتحادیه اروپا را میتوان نخستین اقدام در اسکوپ جهانی برای تنظیم مقررات(Regulation) موضوع هوش مصنوعی دانست. پس از انتشار این پیشنهادیه (پروپوزال) توسط اتحادیه اروپا نظرات مختلفی در ارتباط با آن ابراز شد. از جمله اریک اشمیت رئیس سابق هیئت مدیره گوگل و رئیس فعلی کمسیون امنیت ملی آمریکا در حوزه هوش مصنوعی نتیجه بلند مدت این قوانین را کند شدن توسعه هوش مصنوعی د ر اروپا و آمریکا و خطر سیطره چین در حوزه هوش مصنوعی به دنیا عنوان کرد. در این مطلب با هم مقاله منتشر شده توسط نیکیتا لوکیانت در ارتباط زیر و بم این پروپوزال و قوانین منتج از آن را مرور میکنیم و می‌بینیم که این پیشنهادیه که هم اکنون بخشی از آن به صورت قانون درآمده است چه ویژگی هایی دارد و به چه صورت آینده هوش مصنوعی را تحت تاثیر قرار خواهد داد.

این پیش نویس در ارتباط با چیست؟

این مجموعه به ارائه تعدادی از قوانین و مقررات برای استقرار و استفاده از سیستم های هوش مصنوعی در اتحادیه اروپا شامل مجموعه ای از ممنوعیت ها برای کاربردهای خاصی از هوش مصنوعی، الزامات و وظایف اجباری در اپراتوری سیستم های پر ریسک و همین طور رویکرد این اتحادیه در پایش و نظارت بر بازار هوش مصنوعی می پردازد. برای داشتن تصویری از محتوای این پروپوزال مقررات گذاری، به ابر کلماتی که از متن این پروپوزال تهیه شده است توجه کنید. همان طور که مشاهده می کنید با حذف لغات نامربوط به موضوع بحث کلمات “high-risk”, “safety component”, “conformity assessment”, “intended use”, and not surprisingly — “authorities”.بیشترین بسامد را در متن این پروپوزال دارند.

متن پروپوزال از دو سند تشکیل شده است و 9 پیوست آن را تکمیل می کند. اگر به لینک داده شده در ابتدای متن مراجعه کنید می بینیدکه پروپوزال از ساختارمندی مناسبی برای بررسی، مانند استفاده ازعناوین درست برای ایجاد یک چارچوب معنایی و یا شماره بندی مناسب برخوردار نیست.

عناوین (سرفصل‌ها) پوشش داده شده در سند به شرح ذیر است:

• عنوان اول دامنه کاربرد قوانین جدید را شامل می شود که شامل جایگاه‌ آن در بازار ، راه‌اندازی و استفاده از سیستم های هوش مصنوعی است.

• عنوان دوم شامل کلیه آن سیستم های هوش مصنوعی است که استفاده از آنها بعنوان نقض حقوق اساسی غیرقابل قبول تلقی می شود

• عنوان سوم شامل قوانین خاصی برای سیستم های هوش مصنوعی است که ریسک بالایی را ایجاد می کند. طبقه‌بندی یک سیستم هوش مصنوعی به عنوان سیستمی با "ریسک بالا" بر اساس هدف طراحی آن سیستم AI و مطابق با قوانین ایمنی محصول موجود است.

• عنوان چهارم مربوط به تعهدات شفافیت برای سیستم هایی است که 1)با انسان تعامل دارند ، 2) برای شناسایی احساسات یا تعیین ارتباط با دسته های (اجتماعی) بر اساس داده های بیومتریک استفاده می شود ، یا 3) تولید یا دستکاری محتوا به صورت دیپ فیک می کنند.

• عنوان پنجم ایجاد یک چارچوب قانونی مناسب و دوستدار نوآوری را هدف خود قرار داده است.

• عنوان ششم سیستم های حکمرانی را در سطح اتحادیه و ملی را مقررات گذاری می کند.

عنوان هفتم این هدف را دارد که کار نظارت کمیسیون و مقامات ملی تسهیل کند.

• عنوان هشتم تعهدات نظارت و گزارش دهی برای ارائه دهندگان هوش مصنوعی را تعیین می کند.

• عنوان نهم مربوط به چارچوبی برای تشویق ارائه دهندگان سیستم های هوش مصنوعی بدون ریسک برای اعمال داوطلبانه مقررات مربوط به سیستم های پرخطر است.

• عنوان دهم قوانینی را برای تبادل اطلاعات بدست آمده در حین اجرای این مقررات گذاری را تعیین می کند

• عنوان یازده قوانینی را برای اعمال اختیارات تفویض اختیار و اجرا تعیین می کند

• عنوان دوازده شامل تعهدی برای کمیسیون است که به طور مرتب و متناسب با نیاز نسبت بروزرسانی، ضمیمه سوم را ارزیابی کند و گزارش‌های منظم در مورد ارزیابی و بررسی مقررات را تهیه کند.

چه چیزهایی ممنوع است ؟

این پیشنهاد با بیان برنامه های ممنوع هوش مصنوعی آغاز می شود (اگرچه موارد استثنایی وجود دارد ، به ماده 5.3 مراجعه کنید). موارد ممنوعیت شامل موارد زیر است:

1. آن دسته از سیستم های هوش مصنوعی‌ که subliminal techniqueها (تکنیک هایی به صورت فرعی) را بدون اطلاع دادن به فرد برای تحریف رفتار شخص به روشی که احتمالاً صدمه جسمی یا روانی دارد ، به کار می‌گیرد.

2. سیستم های هوش مصنوعی که به دلیل در نظر نگرفتن از آسیب پذیری های گروهی از انسان‌ها، مثلا بر مبنای سن، ناتوانی جسمی یا ذهنی ، ایجاد آزار فیزیکی و ذهنی می کند

3. امتیازدهی اجتماعی: برخورد منفی یا نامطلوب با افرادی خاص یا گروه هایی خاص در جامعه که نا مربوط با زمینه ای است که در آن که داده ها در ابتدا تولید یا جمع‌آوری شده اند. برخورد منفی یا نامطلوب با افراد یا گروهها که نا متناسب و بدون توجه با رفتار اجتماعی آنها است.

4. سیستم های شناسایی بیومتریک از راه دور در مکان های عمومی برای اجرای قانون ، مگر اینکه ... (در اینجا ما استثنائاتی داریم که در ماده 5 توضیح داده شده است

منظور از های ریسک چیست ؟

بخش بزرگی ازا ین پروپوزال بر روی سیستم های با ریسک بالا (HIGH RISK) تمرکز پبدا کرده است. عبارت با ریک بالا به خوبی تعریف نشده استاما اتجادیه اروپا معیارهایی را برای در ذیل بند ششم برای شفاف کردن الگوریتم و سیستم هایی که در ذیل این دسته قرار میگیرند یا نه تعریف کرده است. این معیار ها مبتنی بر مقررات ایمنی محصولات فعلی در اتحادیه اروپا (پیوست دوم این سند) است. همچنین در پیوست سوم این سند به صورت مستقیم سیستم هایی که به عنوان سیستم های با ریسک بالا معرفی می شوند آمده است. لیست موجود در پیوست سوم به صورت سالانه آپدیت خواهد شد.

سیستم های هوش مصنوعی فارغ از این که خود زیرمجموعه یک سیستم دیگر باشند یا این که به تنهایی سرویس های خود را ارائه کنند می توانند در ذیل دسته بندی سیستم های با ریسک بالا قرار بگیرند. لذا می توان مورد با ریسک بالا را به صورت زیر عنوان کرد :

• AI system is a product with intended use within Annex II
• The product with an AI system as a safety component
• AI system is a component of the product within Annex II
• AI system is a safety component of a Product
• Annex III AI System

من در حال توسعه یک سیستم هوش مصنوعی هستم، چه باید بکنم !؟

اول ، شما باید درک کنید که آیا در جایی که شما هستید و بر کیس مورد نظر شما برای پیاده‌سازی هوش مصنوعی ، مقررات اعمال می گردد یا نه ؟ هدف از استفاده هوش مصنوعی یکی از ارکان اصلی این مقررات است و بنابراین شما باید کاملاً همراستا با مفاد قانونی مربوط به بخش فعالیتتان در بازار و محصول خود باشید و درنظر داشته باشید که چرا از یک سیستم هوش مصنوعی به عنوان محصول و یا بخشی از یک سیستم بزرگ‌تر استفاده می کنید.

همچنین باید توجه کنید که سیستم هایی که به صورت انحصاری برای کاربردهای نظامی مورد استفاده قرار می گیرند، خارج از دایره شمول این قانونند.در نمودار زیر می توانید شمای کلی برای تصمیم گیری در ارتباط با یک سیستم هوش مصنوعی دراتحادیه اروپا را مشاهده کنید.

طریقه مصوب شدن قانون در اتحادیه اروپا به چه صورت است ؟

خیر ، هر پروپوزال قانونی برای بحث و بررسی بیشتر به پارلمان اروپا و شورای اروپا می رود. آیین نامه ها پس از تصویب ، 20 روز پس از انتشار در مجله رسمی EUR-Lexاتحادیه اروپا لازم الاجرا می شود. در این مورد 24 ماه پس از آن تاریخ اعمال می شود ، اما برخی از مقررات زودتر اعمال خواهند شد (مانند ممنوعیت های مدنظر در قانون که هم اکنون اعمال شده اند). از این تاریخ ، مخاطب آن می تواند به طور کامل فراخوانی شود و کاملاً قابل اجرا خواهد بود.

به دلیل پیچیدگی دامنه هوش مصنوعی ، ممکن است یک دوره زمانی بین تاریخ لازم الاجرا شدن مقررات ، یعنی از نظر قانونی وجود داشته باشد ، و تا تاریخ واقعی که آیین نامه می تواند اعمال شود ، یعنی تاریخی که قابل اجرا است و حقوق قانونی و تعهدات را می توان به طور موثر اعمال کرد.

این دوره زمانی (vacatio law) به طور عمدی برای کشورهای عضو ، مقامات ذی صلاح ، اپراتورها ، سازمان ها ، دارندگان پروانه و سایر مخاطبان یا ذینفعان مقررات معرفی می شود تا سیستم ها ، فرایندها ، رویه ها ، مستندات و غیره را برای انطباق آماده کنند. با قوانین جدید همانطور که توسط جتی تیلمنز متذکر شد ، این "دوره موافقت" طولانی این خطر را افزایش می دهد که ، با وجود تلاش های اتحادیه اروپا برای ایجاد مقررات متناسب در آینده ، برخی از مفاد آن قبل از اینکه اعمال شوند ، توسط پیشرفت های فناوری خالی از معنا شوند

منابع

https://lukianets.medium.com/a-more-visual-guide-to-the-proposed-eu-artificial-intelligence-act-64ae0e550ac3

Proposal of EU AI Act — https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788

Annexes — https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75789

پی‌نوشت
اگر پژوهشگرِ خط‌مشی‌گذاری هوش مصنوعی و یا کنشگر در سطوح مختلف مدیریتی باشید حتما نیاز به مطالعه مجموعه‌ای از اسناد مربوط به این موضوع دارید .در AI Policies and Plans Repository مجموعه‌ای قابل دانلود از
استراتژی‎های ملی در حوزه هوش مصنوعی،
خط مشی گذاری‌های در حوزه هوش مصنوعی،
انواع نقشه‎راه در حوزه خط مشی گذاری هوش مصنوعی،
انواع گزارش‎های معتبر سیاستی معتبر در بعد حاکمیتی هوش مصنوعی،
انواع ابزارهای تحلیلی برای توسعه و ارزیابی هوش مصنوعی،
رتبه‎بندی‌های مختلف در ارتباط سیاست گذاری هوش مصنوعی،
و معرفی منابع معتبر آموزشی و علمی در ارتباط با هوش مصنوعی است.
اطلاعات بیشتر و نحوه دسترسی به این پروژه را در پست زیر بخونید
درباره AI Policies and Plans Repository

از طریق کانال‌های زیر می‌توانید با من در ارتباط باشید:

ایمیل من: javadsadeqi@gmail.com

آیدی تلگرام من: https://t.me/javaadsaadeghi

لینکدین من

توئیتر من