چارچوب حاکمیت هوش مصنوعی هند: الگویی برای کشورهای در حال توسعه

هدف هند از برنامه راهبری هوش مصنوعی این است که از ظرفیت هوش مصنوعی برای دست‌یابی به توسعه همه منظوره و رقابت‌پذیری جهانی و در عین حال مقابله با خطراتی است که این فناوری ممکن است برای افراد و جامعه ایجاد کند.

کمیته دستورالعمل‌ حاکمیتی هوش مصنوعی هند که توسط وزارت الکترونیک و فناوری اطلاعات تشکیل شد تا مأموریت اش ارایه چارچوبی باشد که میان این دو هدف تعادل برقرار کند. حکم و دستور کار این کمیته بهره‌گیری از ادبیات پژوهشی موجود بازنگری قوانین فعلی مطالعه تحولات جهانی و تدوین رهنمودهای مناسب برای حاکمیت هوش مصنوعی در هند است.

این کمیته پس از تحقیقات گسترده، رایزنی‌ها و بررسی بازخوردهای عمومی، چارچوب حاکمیتی مذکور را در هفت اصل ارائه داد:

این اصول برای به‌کارگیری در تمامی بخش‌ها متناسب‌سازی شده و با اولویت‌های ملی هم‌راستا گردیده‌اند.

هفت اصل راهنما (سوترا) برای حاکمیت هوش مصنوعی:

۱. اعتماد به عنوان بنیان و اساس: بدون وجود اعتماد، نوآوری و پذیرش عمومی این فناوری متوقف خواهد شد.

۲. اولویتِ مردم: تأکید بر طراحی انسان‌محور نظارت انسانی و توانمندسازی افراد.

۳. برتری نوآوری بر محدودیت: در شرایط برابر باید نوآوری مسئولانه را بر محدودیت‌های احتیاطی مقدم دانست.

۴. انصاف و عدالت: ترویج توسعه همه‌شمول و پرهیز از هرگونه تبعیض.

۵. مسئولیت‌پذیری: تخصیص شفاف مسئولیت‌ها و اجرای دقیق مقررات.

۶. قابل‌فهم بودن در طراحی: ارائه افشاگری‌ها و توضیحات شفاف به نحوی که برای کاربر نهایی و نهادهای نظارتی قابل‌درک باشد.

۷. ایمنی، تاب‌آوری و پایداری: ساخت سیستم‌های ایمن امن و قدرتمند که توانایی ایستادگی در برابر شوک‌های ساختاری را داشته و از نظر زیست‌محیطی نیز پایدار باشند.

بررسی مسائل کلیدی مدیریت هوش مصنوعی بر اساس در شش محور :

1. زیرساخت

2. ظرفیت‌سازی

3. سیاست‌گذاری و مقررات

4. کاهش ریسک

5. مسئولیت‌پذیری

6. نهادها

کلیت برنامه اقدام

کوتاه‌مدت

تأسیس نهادهای کلیدی حاکمیتی، توسعه چارچوب‌های ریسک ویژه هند، پذیرش تعهدات داوطلبانه، پیشنهاد اصلاحات قانونی.

میان‌مدت

توسعه نظام‌های شفاف مسئولیت‌پذیری، گسترش دسترسی به زیرساخت‌ها، راه‌اندازی برنامه‌های آگاهی‌بخشی، افزایش دسترسی به ابزارهای ایمنی هوش مصنوعی، انتشار استانداردهای مشترک، اصلاح قوانین و مقررات، عملیاتی‌سازی سیستم‌های گزارش‌دهی حوادث هوش مصنوعی.

بلندمدت

اجرای سندباکس‌های مقرراتی، گسترش ادغام زیرساخت‌های دیجیتال عمومی با هوش مصنوعی، تداوم تعاملات جاری ، بازنگری و به‌روزرسانی چارچوب‌های حاکمیتی برای تضمین پایداری اکوسیستم دیجیتال، تدوین قوانین جدید بر اساس ریسک‌ها و قابلیت‌های نوظهور.

اصل اول اعتماد به عنوان بنیان و اساس:

اعتماد برای حمایت از نوآوری، پذیرش و پیشرفت، و همچنین کاهش ریسک، امری ضروری است. بدون اعتماد، مزایای هوش مصنوعی در مقیاس کلان محقق نخواهد شد. اعتماد باید در سراسر زنجیره ارزش نهادینه شود به این معنا که هم در فناوری زیربنایی، هم در سازمان‌هایی که این ابزارها را می‌سازند، هم در نهادهایی که مسئولیت نظارت را بر عهده دارند، و هم در اطمینان از اینکه افراد از این ابزارها به‌صورت مسولانه استفاده خواهند کرد، وجود داشته باشد. بنابراین، اعتماد اصلی بنیادین است که تمامی فرآیندهای توسعه و استقرار هوش مصنوعی در هند را هدایت می‌کند.

اصل دوم اولویت مردم:

چارچوب‌های حاکمیت هوش مصنوعی باید انسان‌محور باشند. این بدان معناست که سیستم‌های هوش مصنوعی باید به‌گونه‌ای طراحی و مستقر شوند که افراد را توانمند سازند و بازتاب‌دهنده نظام ارزشی مردمی باشند که این فناوری برای خدمت به آن‌ها ساخته شده است. از دیدگاه حاکمیتی، رویکرد اولویت مردم به این معناست که انسان‌ها باید تا حد امکان کنترل نهایی سیستم‌های هوش مصنوعی را در دست داشته باشند و نظارت انسانی برای حفظ مسئولیت‌پذیری ضروری است. رویکرد اولویت مردم ، توسعه ظرفیت‌های انسانی، محافظت‌های اخلاقی، اعتماد و ایمنی را در اولویت قرار می‌دهد.

اصل سوم برتری نوآوری بر محدودیت:

نوآوری هدایت‌شده توسط هوش مصنوعی مسیری برای دستیابی به اهداف ملی از جمله توسعه اجتماعی اقتصادی، رقابت‌پذیری جهانی و تاب‌آوری است. بنابراین، چارچوب‌های حاکمیت هوش مصنوعی باید فعالانه پذیرش این فناوری را تشویق کرده و به عنوان کاتالیزوری برای نوآوری‌های تأثیرگذار عمل کنند. با این حال، نوآوری باید به شیوه‌ای مسئولانه انجام شود و هدف آن به حداکثر رساندن منافع کلی در عین کاهش آسیب‌های احتمالی باشد. در شرایط برابر، نوآوری مسئولانه باید بر محدودیت‌های احتیاطی مقدم شمرده شود.

اصل چهارم انصاف و عدالت:

یکی از اهداف کلیدی رویکرد هند به حاکمیت هوش مصنوعی، ترویج توسعه همه جانبه است. بنابراین، سیستم‌های هوش مصنوعی باید به گونه‌ای طراحی و آزمایش شوند که اطمینان حاصل شود نتایج آن‌ها منصفانه و بدون سوگیری بوده و علیه هیچ فردی، از جمله افراد متعلق به جوامع به حاشیه رانده شده، تبعیض قائل نمی‌شوند.

اصل پنجم مسئولیت‌پذیری:

برای اطمینان از اینکه اکوسیستم هوش مصنوعی هند بر پایه اعتماد پیش می‌رود، توسعه‌دهندگان و مستقرکنندگان (کاربران اصلی) هوش مصنوعی باید شفاف و پاسخگو باشند. مسئولیت‌پذیری باید بر اساس عملکرد انجام‌شده، سطح خطر آسیب و شرایط راستی‌آزمایی و دقت کافی به وضوح تخصیص یابد. این مسئولیت‌پذیری می‌تواند از طریق طیف متنوعی از مکانیسم‌های سیاستی، فنی و مبتنی بر بازار تضمین شود.

اصل ششم قابل‌فهم بودن در طراحی

درک‌پذیری برای ایجاد اعتماد بنیادین است و باید یکی از ویژگی‌های اصلی طراحی باشد، نه چیزی که در مراحل بعدی به سیستم اضافه شود. اگرچه سیستم‌های هوش مصنوعی احتمال‌محور هستند، اما باید توضیحات و افشاگری‌های شفافی داشته باشند تا به کاربران و نهادهای نظارتی کمک کنند که (تا حد امکان فنی) درک کنند سیستم چگونه کار می‌کند، چه معنایی برای کاربر دارد و نتایج احتمالی مورد نظر نهادهای مستقرکننده آن چیست.

اصل هفتم ایمنی تاب‌آوری و پایداری:

سیستم‌های هوش مصنوعی باید با تدابیر حفاظتی به منظور به حداقل رساندن خطرات آسیب، طراحی شده و از استحکام و تاب‌آوری برخوردار باشند. این سیستم‌ها باید قابلیت تشخیص ناهنجاری‌ها و ارائه هشدارهای زودهنگام برای محدود کردن پیامدهای زیان‌بار را داشته باشند. تلاش‌های مربوط به توسعه هوش مصنوعی باید از نظر زیست‌محیطی مسئولانه و از نظر مصرف منابع بهینه باشند؛ همچنین استفاده از مدل‌های کوچک‌تر، کارآمد و سبک‌وزن باید تشویق شود.

راهبردهای آینده‌نگرانه و جمع‌بندی

پیشرفت سریع هوش مصنوعی و ظهور «عوامل هوش مصنوعی» (AI Agents) خودمختار و همکاری‌های چندعاملی، نیازمند بازنگری در رویکردهای فعلی است. چارچوب‌های حاکمیتی باید آینده‌نگر، انعطاف‌پذیر و چابک باشند.

توصیه‌های نهایی کمیته:

1. تدوین چارچوب‌های اصولی: توسعه چارچوب‌های متعادل، منعطف و مبتنی بر اصل که امکان بازنگری دوره‌ای داشته باشند.

2. اصلاحات قانونی هدفمند: بازنگری در قوانین فعلی (مانند کپی‌رایت و حفاظت از داده‌ها) برای تشویق نوآوری و شفاف‌سازی مسئولیت‌ها.

3. استانداردهای مشترک: ایجاد معیارهای مشترک برای احراز اصالت محتوا، یکپارچگی داده‌ها و انصاف الگوریتمی.

4. ایجاد سندباکس‌های مقرراتی: فراهم کردن محیط‌های آزمایشی برای توسعه فناوری‌های پیشرفته با اعطای مصونیت‌های قانونی مشروط، به شرط شفافیت در گزارش‌دهی ریسک‌ها و تدابیر حفاظتی.

5. دیپلماسی فعال: مشارکت در مجامع ملی، منطقه‌ای و چندجانبه برای پیشبرد منافع هند در حوزه‌های حکمرانی هوش مصنوعی.

6. آینده‌پژوهی: انجام تحلیل‌های افق‌کاوی (Horizon-scanning) و برنامه‌ریزی سناریو برای پیش‌بینی تحولات هوش مصنوعی که ممکن است در آینده نیازمند واکنش‌های سیاستی یا مقرراتی باشند.

برنامه اقدام

کوتاه مدت:

• ایجاد گروه حکمرانی هوش مصنوعی (AIGC) به‌عنوان یک نهاد دائمی سیاست‌گذاری در سطح عالی.

• تشکیل کمیته تخصصی فناوری و سیاست (TPEC) برای پشتیبانی از AIGC.

• توسعه چارچوب‌های ارزیابی و طبقه‌بندی ریسک هوش مصنوعی متناسب با شرایط و نیازهای هند، با مشارکت بخش‌های مختلف.

• انجام تحلیل شکاف‌های مقرراتی و ارائه پیشنهاد برای اصلاح قوانین و مقررات مرتبط.

• پذیرش چارچوب‌های داوطلبانه به‌منظور ترویج نوآوری مسئولانه و کاهش ریسک‌ها.

• انتشار یک بخشنامه جامع شامل مقررات قابل‌اجرا و بهترین رویه‌ها برای حمایت از انطباق.

• فراهم‌سازی زیرساخت اولیه برای پایگاه داده حوادث هوش مصنوعی و سازوکارهای رسیدگی به شکایات.

• تدوین رژیم‌های شفاف مسئولیت‌پذیری در سراسر زنجیره ارزش هوش مصنوعی.

• گسترش دسترسی به زیرساخت‌های پایه شامل داده، توان محاسباتی و مدل‌های هوش مصنوعی.

• اجرای برنامه‌های آگاهی‌بخشی عمومی و آموزشی برای شهروندان و نهادهای نظارتی درباره قابلیت‌ها و ریسک‌های هوش مصنوعی.

نتایج مورد انتظار:

ایجاد نهادهای قدرتمند برای هماهنگی حکمرانی هوش مصنوعی.

تدوین چارچوب‌های طبقه‌بندی و کاهش ریسک متناسب با شرایط هند.

شکل‌گیری فرهنگ پایبندی داوطلبانه در صنعت.

شناخت بهتر شکاف‌ها و نیازهای مقرراتی.

ایجاد زیرساخت برای گزارش‌دهی حوادث و رسیدگی به شکایات.

افزایش اعتماد اجتماعی و سواد عمومی در حوزه هوش مصنوعی.

میان مدت:

انتشار استانداردهای مشترک در حوزه‌هایی مانند:

احراز اصالت محتوا

یکپارچگی داده‌ها

انصاف و عدالت

امنیت سایبری

عملیاتی‌سازی پایگاه ملی حوادث هوش مصنوعی همراه با سامانه‌های بومی گزارش‌دهی و حلقه‌های بازخورد.

اصلاح قوانین در صورت نیاز برای رفع خلأهای مقرراتی.

اجرای پایلوت «سندباکس‌های مقرراتی» (Regulatory Sandboxes) در حوزه‌های پرریسک.

حمایت از ادغام زیرساخت عمومی دیجیتال (DPI) با هوش مصنوعی از طریق توانمندسازهای سیاستی.

نتایج مورد انتظار:

شکل‌گیری چارچوب حکمرانی بالغ و استانداردشده.

ایجاد محیطی امن برای آزمایش و نوآوری.

گسترش استفاده از سامانه‌های هوش مصنوعی مبتنی بر DPI.

تسهیل انطباق با قوانین از طریق راهنماها و قوانین به‌روز.

ایجاد سازوکار مؤثر رسیدگی به شکایات شهروندان.

بلند مدت:

بازبینی و پایش مستمر چارچوب حکمرانی و فعالیت‌های پیش‌بینی‌شده در این برنامه اقدام.

تصویب قوانین جدید برای پاسخگویی به ریسک‌ها و قابلیت‌های نوظهور.

گسترش تعاملات دیپلماتیک بین‌المللی و مشارکت در تدوین استانداردهای جهانی.

انجام آینده‌پژوهی و برنامه‌ریزی سناریویی برای آمادگی در برابر ریسک‌ها و فرصت‌های آینده

نتایج مورد انتظار:

نتایج مورد انتظار:

ایجاد یک چارچوب حقوقی بالغ، متوازن و چابک.

کسب اعتبار و جایگاه بین‌المللی در رهبری حکمرانی هوش مصنوعی.

استقرار نظام پاسخگویی مؤثر در قبال آسیب‌های ناشی از هوش مصنوعی.

ایجاد نظام حکمرانی آینده‌نگر برای مدیریت ریسک‌های نوظهور.

پیشنهاد های عملی

برای صنعت (فعالان هوش مصنوعی):

• انطباق قانونی: رعایت تمامی قوانین داخلی

• اقدامات داوطلبانه: پذیرش اصول اخلاقی، انتشار گزارش‌های شفافیت و استفاده از مکانیسم‌های رسیدگی به شکایات

• راهکارهای فنی-حقوقی (Techno-legal): استفاده از ابزارهای حفظ حریم خصوصی، ممیزی الگوریتم‌ها و قابلیت‌های شناسایی سوگیری در طراحی سیستم‌ها

برای رگولاتورها:

• تعادل میان نوآوری و ریسک: هدف اصلی حمایت از رشد است بنابراین رگولاتورها باید از تحمیل مقررات سنگین (مانند مجوزهای اجباری دست‌وپاگیر) خودداری کنند مگر در موارد ضروری.

• انعطاف‌پذیری: چارچوب‌ها باید چابک بوده و بر اساس بازخوردهای دوره‌ای، بازنگری و اصلاح شوند.

• پرهیز از بار اضافی: اولویت دادن به ابزارهای سیاستی که کمترین بار اداری را برای فعالان صنعت ایجاد می‌کنند (مانند کدهای اخلاقی یا استانداردهای فنی به جای قوانین سفت‌وسخت).

نتیجه‌گیری نهایی

هند با تمرکز بر این چارچوب اصول‌محور، چابک و منعطف به دنبال تبدیل شدن به قطب هوش مصنوعی جهان است. این نقشه راه با ترکیب ابزارهای فنی (مانند سیستم‌های گزارش‌دهی حوادث و احراز اصالت)، نهادی مانند AIGG۱ و حقوقی قصد دارد ضمن پیشرفت علمی و اقتصادی، از سلامت و امنیت جامعه در برابر مخاطرات هوش مصنوعی محافظت کند.

تحلیل بر اساس مدل توسعه سیستم پویا(Dynamic System):

لایه آمادگی سخت: زیرساخت فیزیکی و فنی (امنیت، تجهیزات، شبکه ارتباطی) پایه‌ای‌ترین لایه است. سند در اصل هفتم تأکید می‌کند سیستم‌های هوش مصنوعی باید از استحکام و تاب‌آوری برخوردار باشند و در برنامه کوتاه‌مدت نیز گسترش دسترسی به زیرساخت‌های پایه شامل داده، توان محاسباتی و مدل‌ها را اولویت قرار دهد

لایه آمادگی نرم: منابع انسانی، مالی، فرهنگ، استاندارد و مقررات، احل حاکم بر کل سیستم هستند. این لایه را در چندین اصل پوشش داده مشود از اصل دوم (توانمندسازی انسانی) تا اصل چهارم (انصاف و عدالت) و اصل ششم (استانداردسازی قابل‌فهم).

لایه عملیاتی جریان سیاستگذاری به سازمان الکترونیکی و نظارت دوگانه بر فرایند و برونداد، دقیقاً همان چیزی است که سند هند در اصل پنجم (مسئولیت‌پذیری) و برنامه میان‌مدت دنبال می‌کند.

تحلیل مفاد سند بر اساس مدل STEEPLV:

نکته: بخش‌های در راستای مدل STEEPLV نبود طبیعتاً اشاره‌ای هم نخواهیم کرد.

عوامل ارزشی

• ارزش‌ها و هنجار ها: سند به‌صراحت بر اعتماد به عنوان بنیادی‌ترین ارزش تأکید می‌کند و آن را پیش‌شرط نوآوری و پذیرش عمومی می‌داند. . ارزش‌ها در تمام زنجیره ارزش هوش مصنوعی از توسعه تا استقرار نهادینه شده‌اند.

• عدالت: سند بر توسعه همه جانبه تاکید دارد و از سیاست گذاران می‌خواهد که بدون سوگیری و تبعیض برنامه را طراحی کنند و در برنامه میان مدت هم طرح های مطرح شده است.

عوامل اجتماعی

• فرهنگ: اصل دوم (اولویت مردم) بر لزوم بازتاب نظام ارزشی مردم در سیستم‌های هوش مصنوعی تأکید دارد. همچنین اصل سوم تلویحاً به فرهنگ نوآوری به عنوان یک هنجار اجتماعی مطلوب اشاره دارد.

• منابع انسانی: سند به ظرفیت‌سازی به عنوان یکی از شش محور اصلی اشاره می‌کند. در برنامه اقدام میان‌مدت، راه‌اندازی برنامه‌های آگاهی‌بخشی پیش‌بینی شده است.

• آموزش: آموزش هم در سطح عمومی برای پذیرش فناوری و کاهش ترس از آن و هم د محور ظرفیت‌سازی برای تربیت متخصصان آینده به عنوان یک ابزار حاکمیتی در نظر گرفته شده است.

عوامل فناورانه

• زیرساخت‌های ارتباطی: سند به ادغام زیرساخت دیجیتال عمومی (DPI) با هوش مصنوعی در بازه میان‌مدت و بلندمدت اشاره می‌کند.

• زیرساخت‌های تجهیزاتی: در برنامه میان‌مدت به گسترش دسترسی به زیرساخت‌ها اشاره شده.

• محتوای الکترونیکی: سند به استانداردهای احراز اصالت محتوا و یکپارچگی داده‌ها اشاره دارد. همچنین پایگاه داده حوادث هوش مصنوعی در برنامه کوتاه‌مدت پیش‌بینی شده است.

• کالاها و خدمات: اصل سوم مستقیما به توسعه محصولات و خدمات هوش مصنوعی اشاره می‌کند . سندباکس‌های مقرراتی در بلندمدت برای آزمایش خدمات نوین پیش‌بینی شده‌اند.

• امنیت: اصل هفتم این بعد را پوشش می‌دهد. سیستم‌های تشخیص ناهنجاری، هشدار زودهنگام و سیستم‌های گزارش‌دهی حوادث از ابزارهای پیش‌بینی‌شده هستند. همچنین اصل ششم به امنیت نظارتی کمک می‌کند.

عوامل اقتصادی

• بازار: اصل سوم با اولویت دادن به نوآوری بر محدودیت، رویکردی بازارمحور اتخاذ می‌کند. توصیه به رگولاتورها برای پرهیز از مجوزهای اجباری دست‌وپاگیر نیز نشان‌دهنده حمایت از رقابت آزاد است

عوامل سیاسی

• تحقیق و توسعه: اصل سوم نوآوری را به عنوان مسیر دستیابی به اهداف ملی تعریف می‌کند. در توصیه‌های نهایی آینده‌پژوهی و تحلیل افق‌کاوی پیش‌بینی شده است

• مسائل بین‌المللی: به دیپلماسی فعال و مشارکت در مجامع ملی، منطقه‌ای و چندجانبه برای پیشبرد منافع هند تأکید شده است.

• مدیریت: نهادهای جدید AIGG و PEC مکانیسم‌های نظارتی سندباکس‌های مقرراتی و سیستم‌های گزارش‌دهی. اصل پنجم (مسئولیت‌پذیری) تخصیص شفاف مسئولیت‌ها را الزامی می‌کند.

عوامل قانونی

• قوانین و مقررات: اصلاح مقررات در میان‌مدت، و تدوین قوانین جدید برای ریسک‌های نوظهور در بلندمدت. توصیه صریح به رگولاتورها برای پرهیز از مقررات سنگین وجود دارد.

• استانداردها: در میان‌مدت انتشار استانداردهای مشترک برای احراز اصالت محتوا، یکپارچگی داده‌ها و انصاف الگوریتمی پیش‌بینی شده است.