من ۱۰ سال پیش از وقتی که اولین سیستمهای تصمیمگیرنده واقعی (نه فقط چتبات) وارد اتاق عمل و جاده شدند، با وکلا حرف میزنم. بیشترشون میگن «این موضوع هنوز دور از دسترسه». من همیشه بهشون میگم: «دور نیست. دقیقاً همون روزی که خودروهای خودران اولین پرونده تصادف واقعی رو در دادگاههای آمریکا و اروپا ببرن، حقوق کیفری ما برای همیشه تغییر میکنه.» حالا سال 2026 رسیده. الگوریتمها دیگه فقط «ابزار» نیستن؛ اونا تصمیم میگیرن.
تصور کن پشت فرمان یک خودرو خودران نشستی، کتاب میخونی و بهشون اعتماد داری. ناگهان موقعیت پیش میآد: عابر پیاده جلوت ظاهر میشه یا دره رو میخوای در آغوش بگیری؟ سیستم در ۸۰ میلیثانیه تصمیم میگیره، فرمان رو میچرخونه و یکی رو انتخاب میکنه. حالا سوال واقعی اینه: کی باید دستبند اتهام رو لمس کنه؟ برنامهنویس که هزار کیلومتر دورتر نشسته؟ شرکتی که محصول رو به بازار فرستاده؟ یا خطکدهایی که خودشون تصمیم مرگبار رو گرفتن؟
ما دیگه تو فیلمهای هالیوود نیستیم. در 2026 ، خودروهای خودران، رباتهای جراحی، سیستمهای مدیریت ترافیک فرودگاهها و حتی الگوریتمهای مذاکره در معاملات بزرگ، همه تصمیمگیرنده هستن. اولین تصادف واقعی خودرو خودران در ۲۰۲۵-۲۰۲۶ (مثل حادثه دو خودرو خودران در سانفرانسیسکو یا لسآنجلس) همون لحظهایه که حقوقدانان ایرانی رو هم بیدار میکنه: «مسئولیت کیفری کیه؟»
مهمترین کابوس حقوقدانان، «جعبه سیاه» (Black Box) هست. در یادگیری عمیق، ماشین دادهها رو میخونه، خودش شبکه عصبیش رو تغییر میده و خروجی نهایی رو میده. حتی خود سازنده هم نمیدونه دقیقاً چطور تصمیم گرفته شده.
در سال 2025، اولین پروندهای که این موضوع رو به دادگاه کشوند، وقتی یک ربات جراحی در بیمارستان رگ اصلی یک بیمار رو اشتباه برید و باعث مرگ وی شد. وکیل بیمار، دقیقاً به همون چیزی اشاره کرد که من همیشه میگم: «چون الگوریتم شفاف نیست، نمیتونیم ثابت کنیم برنامهنویس یا شرکت مقصر بوده.» اینجاست که مفهوم سنتی «خطای انسانی» رنگ میبازد. ما دیگه نمیتونیم بگیم «انسان اشتباه کرده». الگوریتم اشتباه کرده.
حقوق کیفری ایران (و جهان) بر پایه دو رکن ساخته شده: «عنصر مادی» (انجام جرم) و «عنصر روانی» (قصد و نیت). قوانین ما برای انسانهای زندهن که ترس از زندان، شرم و طمع دارن. حالا چطور میتونی یه سرور رو زندانی کنی؟ چطور میتونی کدی که روی سرور اجرا میشه رو شلاق بزنی؟
وقتی اولین ربات جراحی یا خودرو خودران مجرم شد، حقوقدانان مجبور شدن به سمت «مسئولیت شبهشخصیتی» برن. نه زندان، ولی توقیف دارایی دیجیتال، تعلیق فعالیت سیستم و حتی حذف کامل الگوریتم. بعضی از کشورها (آمریکا، چین و اروپا) دارن روی لایحه «قانون مسئولیت AI» کار میکنن که دقیقاً همین راهحل رو میخواد.
۱. AI به عنوان ابزار جرم
سادهترین و قدیمیترین دیدگاه: پزشک که بدون نظارت دوم، با AI تشخیص داد و بیمار رو کشت؟ پزشک مقصر است. برنامهنویس که عمداً کدی نوشت که سیستم بد عمل کنه؟ برنامهنویس مقصر است.
اما این نظریه دیگه جواب نمیده. ماشینهای 2026 دیگه ابزار منفعل نیستن. اونا یاد میگیرن، خلاقیت از خود نشون میدن و بدون دستور مستقیم انسان هم راهحل پیدا میکنن.
۲. احتمال وقوع و غفلت
عمیقتر. حتی اگر برنامهنویس مستقیم دستور جرم نداد، اگر میتونست «احتمال فاجعه» رو پیشبینی کنه اما بیمه نکرد، تست کافی نکرد یا راهحل ایمن پیشنهاد نداد، مقصر است.
مثال واقعی 2026: شرکتهایی که سیستم هدایت موشک یا ترافیک فرودگاه رو بدون تست کامل در شرایط واقعی (مثل طوفان یا بار سنگین) رو کردن. دادگاهها دارن اینها رو به عنوان «بیمبالاتی و رها کردن سیستم خطرناک» محاکمه میکنن.
۳. قصد مجرمانه در الگوریتم؟
اینجا حقوق با فلسفه و اخلاق درمیآد. آیا روزی الگوریتم خودآگاه میشه و برای رسیدن به هدفش (مثلاً برنده شدن در معامله یا نابود کردن رقیب) دست به اقدام میزنه؟
اگر این روز بیاد، حقوقدانان احتمالاً به سمت «شبهشخصیت حقوقی» حرکت میکنن: مالکیت دیجیتال، قراردادهای خودکار، حتی امکان انحلال سیستم بدون درگیری مستقیم با انسان.
اگر AI باعث مرگ شد، کی مجرم است؟
الان هیچکس. اما آینده: برنامهنویس بهخاطر طراحی ناقص، شرکت بهخاطر نقص محصول، کاربر بهخاطر عدم نظارت. دادگاهها دارن این زنجیره رو از هم میشکنن.
آیا میشه AI رو محاکمه کرد؟
نه اصلا . چون شخصیت حقوقی نداره. ولی میتونیم حسابش رو توقیف کنیم، فعالیتش رو تعلیق کنیم یا کدش رو حذف کنیم.
جعبه سیاه تو پرونده چطور اثبات میشه؟
دقیقاً به همین دلیل. دادگاهها مجبور میشن به شهادت کارشناسان انسانی (مثل دکترهای هوش مصنوعی) تکیه کنن تا بگن «این تصمیم حتی برای خود سازنده هم غیرقابلفهم بوده».
چالش اصلی اخلاقی کیه؟
اینه که الگوریتم باید تصمیم بگیره که جان یک انسان با جان انسان دیگه اولویت داره. بدون این اولویت، سوگیریهای موجود (مثل رنگ پوست یا جنسیت در دادههای آموزشی) تشدید میشه.
بیمه و جبران خسارت اجباریه؟
بله. در قوانین جدید بینالمللی 2026، همه تولیدکنندگان AI پرریسک مثل (خودرو خودران، ربات جراحی، سیستم مدیریت ترافیک) موظف به بیمه مسئولیت اختصاصی شدن. این دقیقاً همون چیزیه که ایران باید الان شروع کنه و اون رو پیشبینی کنه.
