ورود هوش مصنوعی به عرصه مسئولیت مدنی چالشهای حقوقی نوظهوری ایجاد کرده است. با پیشرفت فناوریهای مبتنی بر هوش مصنوعی مانند ChatGPT، سیستمهای استخدام خودکار و الگوریتمهای تصمیمگیر، پرسشهای جدی درباره مسئولیت حقوقی این سیستمها مطرح شده است. در حالی که قوانین سنتی مسئولیت مدنی عمدتاً برای روابط بین انسانها طراحی شدهاند، امروزه با پدیدهای روبهرو هستیم که میتواند به طور مستقل تصمیم بگیرد، یاد بگیرد و حتی مرتکب خطا شود.
در حقوق ایران، هوش مصنوعی فاقد شخصیت حقوقی است. بر اساس قانون تجارت، فقط اشخاص حقیقی و حقوقی (شرکتها) میتوانند دارای حقوق و تکالیف باشند. این بدان معناست که اگر یک سیستم هوش مصنوعی مانند ChatGPT مرتکب خطایی شود، نمیتوان خود سیستم را به عنوان مسئول شناخت. در چنین مواردی، مطابق ماده ۱ قانون مسئولیت مدنی ایران، مسئولیت به اشخاص مرتبط مانند سازنده، مالک یا کاربر منتقل میشود. این ماده تصریح میکند: «هرکس به دیگری خسارت وارد کند، ضامن است».
در سطح بینالمللی، بحثهای جالبی درباره ماهیت حقوقی هوش مصنوعی مطرح شده است. پارلمان اروپا در سال ۲۰۲۰ پیشنهاد داد که برای سیستمهای پیشرفته هوش مصنوعی «شخصیت الکترونیک» در نظر گرفته شود، مشابه شخصیت حقوقی شرکتها. اما این پیشنهاد در قانون هوش مصنوعی اتحادیه اروپا (AI Act 2024) پذیرفته نشد و در نهایت مسئولیت همچنان بر عهده انسانها باقی ماند.
یکی از چالشهای اصلی در تعیین مسئولیت هوش مصنوعی، مشکل اثبات تقصیر است. بر اساس نظریه سنتی تقصیر که در ماده ۱ قانون مسئولیت مدنی ایران آمده است، باید تقصیر شخصی که موجب خسارت شده اثبات شود. اما وقتی یک سیستم هوش مصنوعی مانند ChatGPT اطلاعات نادرست پزشکی ارائه میدهد و باعث آسیب به بیمار میشود، مشخص نیست چه کسی دقیقاً مقصر است. آیا توسعهدهنده اصلی (مثل OpenAI) مسئول است؟ یا پلتفرمی که این سرویس را ارائه میدهد (مثل مایکروسافت)؟ یا کاربری که از این اطلاعات استفاده کرده است؟
برای حل این مشکل، برخی حقوقدانان پیشنهاد میکنند از نظریه خطر (Risk-Based Liability) استفاده شود. بر اساس این نظریه، کسی که از یک فعالیت پرخطر (مثل به کارگیری هوش مصنوعی) سود میبرد، باید مسئول خسارات ناشی از آن باشد. نمونه جالب این رویکرد را در پرونده Uber علیه خانواده عابر پیاده (۲۰۱۸) مشاهده میکنیم. در این پرونده که در کالیفرنیا مطرح شد، دادگاه شرکت Uber را به دلیل کنترل نکردن مناسب سیستم خودران مسئول شناخت. در حقوق ایران نیز میتوان با تفسیر موسع از ماده ۱ قانون مسئولیت مدنی، این نظریه را پذیرفت.
نظریه دیگری که میتواند در این زمینه مفید باشد، مسئولیت محصول (Product Liability) است. در اتحادیه اروپا، دستورالعمل ۸۵/۳۷۴/EEC تصریح میکند که تولیدکننده محصول معیوب مسئول خسارات ناشی از آن است. اگر هوش مصنوعی را به عنوان یک محصول در نظر بگیریم، این نظریه میتواند قابل اعمال باشد. اما در ایران، با وجود اینکه قانون حمایت از مصرفکننده (۱۳۸۸) مسئولیت تولیدکننده محصول معیوب را پیشبینی کرده است، مشخص نیست که آیا نرمافزارهای هوش مصنوعی را میتوان تحت این قانون قرار داد یا خیر.
یکی از موارد جالب توجه در مسئولیت هوش مصنوعی، مسئله انتشار محتوای توهینآمیز یا افترا است. در سال ۲۰۲۳ در استرالیا موردی پیش آمد که ChatGPT به یک شهردار اتهام فساد مالی زد، در حالی که این اتهام کاملاً نادرست بود. در چنین مواردی، اگر ثابت شود پلتفرم ارائهدهنده (مثل OpenAI) از الگوریتمهای مناسب برای تعدیل محتوا استفاده نکرده است، میتوان آن را مسئول دانست. در حقوق ایران نیز قانون مجازات اسلامی به مسئله افترا پرداخته است، اما پرسش اینجاست که آیا میتوان یک سیستم هوش مصنوعی را تحت این ماده مورد پیگرد قرار داد یا باید مسئولان انسانی آن را پاسخگو دانست.
مورد دیگر، خطاهای حرفهای ناشی از استفاده از هوش مصنوعی است. مثلاً در سال ۲۰۲۳ در نیویورک، وکیلی که از ChatGPT برای تنظیم قرارداد استفاده کرده بود، به دلیل ارائه اطلاعات نادرست به موکل خود، ۵۰۰۰ دلار جریمه شد. دادگاه این وکیل را به دلیل «استفاده غیرحرفهای از هوش مصنوعی» مسئول شناخت. در حقوق ایران نیز میتوان با استناد به ماده ۱ قانون مسئولیت مدنی و مفهوم تقصیر حرفهای، چنین مواردی را بررسی کرد.
برای مواجهه با این چالشها، به نظر میرسد ایران نیازمند تصویب قانون جامعی در زمینه هوش مصنوعی است. این قانون میتواند با الهام از AI Act اتحادیه اروپا و مقررات هوش مصنوعی چین (۲۰۲۳) تدوین شود. برخی از عناصر کلیدی که میتوان در این قانون گنجاند عبارتند از: طبقهبندی سیستمهای هوش مصنوعی بر اساس سطح خطر (مثلاً تعیین ChatGPT در سطح «پرخطر»)، الزام به شفافیت (یعنی کاربران باید بدانند با یک سیستم هوش مصنوعی تعامل دارند) و ایجاد مکانیسمهای نظارتی مناسب.
راهکار دیگر، ایجاد صندوق جبران خسارت مخصوص هوش مصنوعی است، مشابه آنچه در آلمان برای رانندگی خودران وجود دارد. این صندوق میتواند از طریق مالیات بر شرکتهای فعال در حوزه هوش مصنوعی تأمین مالی شود و به قربانیان خطاهای هوش مصنوعی که نمیتوانند مسئول خاصی را شناسایی کنند، کمک رساند.
نظام حقوقی ایران در حال حاضر به خوبی برای مواجهه با پیچیدگیهای هوش مصنوعی مجهز نیست. قوانین موجود عمدتاً برای روابط سنتی بین انسانها طراحی شدهاند و پاسخگوی مسائل نوظهور نیستند. یک راه حل فوری میتواند تفسیر پیشروانه قضایی باشد، مثلاً پذیرش مسئولیت بدون تقصیر برای سیستمهای هوش مصنوعی پرخطر. اما در بلندمدت، نیاز به تقلید از قوانین پیشرفتهتر مانند AI Act اروپا یا مقررات هوش مصنوعی سنگاپور (۲۰۲۴) احساس میشود.
در مجموع، ورود هوش مصنوعی به عرصههای مختلف زندگی، نیازمند بازنگری در مفاهیم سنتی مسئولیت مدنی است. هماکنون در بسیاری از کشورها از جمله ایران، خلأهای قانونی جدی در این زمینه وجود دارد. تدوین قوانین خاص هوش مصنوعی، ایجاد نهادهای نظارتی تخصصی و توسعه بیمههای مربوطه میتواند به ایجاد تعادل بین توسعه فناوری و حمایت از حقوق شهروندان کمک کند.
