قاتل خودکار

نویسنده: مانی جهانپور

دبیر شورای مشاوران نسل زد

۹ اسفندماه ۱۴۰۴، مدرسه شجره طیبه در میناب، دیگر یک مدرسه نبود، یک آزمایشگاه مهمات بود. آزمایشی که پنتاگون سال ها روی آن کار کرده بود؛ اولین قتل دسته جمعی با راهبری هوش مصنوعی. بیش از ۱۶۰ دانش آموز ۷ تا ۱۲ ساله، زیر آوار دفن شدند؛ نه با خطای اطلاعاتی و نه با اشتباه اپراتور بلکه با تصمیمی که در کمتر از چند ثانیه توسط سامانه ای به نام میون (Maven) گرفته شد. و حالا ایالات متحده می گوید پایگاه داده قدیمی باعث اشتباه عملیاتی شد. اشتباه؟ مدرسه ای که بیش از یک دهه پیش از هر تاسیسات نظامی جدا شده بود و نشانی و اطلاعاتش روی نقشه های عمومی بود، اشتباهی شناسایی می شود؟ آنهم توسط ارتشی که ادعا می کند ثانیه ای اطلاعات خود را به روزرسانی می کند؟ این دیگر اشتباه نیست. طراحی جنایت است.

رسانه های غربی روایت را تحت عنوان خطای فنی چیدند، اما حقیقت چیز دیگری است. سامانه میون که توسط شرکت پالانتیر ساخته شده، نه یک ابزار منفعل، بلکه ماشین هوشمندی است که برای سرعت بخشی افراطی به زنجیره قتل و جنایت طراحی شده است. نکته کلیدی اینجاست که وقتی ارتش آمریکا عامدانه سازوکار و سیستمی می سازد که در هر ۳.۶ ثانیه یک تصمیم هدف گیری می گیرد، این به اصطلاح خطا، جزئی از طراحی است، نه یک حادثه غیرعمدی. آنها با علم به اینکه چنین سرعتی راه را بر هرگونه نظارت انسانی می بندد و این موجب عدم عاملیت شرافت بشری و اخلاق مداری جنگی است، این سیستم را به کار گرفتند. این سهل انگاری نیست، عمد در تولید و گسترش جنایت و فاجعه است؛ همان چیزی که مسئولیت کیفری فرماندهان را قطعی می کند.

پنتاگون ادعا می کند نظارت انسانی بر تصمیمات ماشین های خودکار وجود دارد. اما این یک دروغ وقیحانه و بزرگ است. در دکترین نظامی آمریکا، سامانه میون طوری طراحی شده که هدف آن رسیدن به ۱۰۰۰ تصمیم هدف گیری در یک ساعت باشد. این یعنی هر ۳.۶ ثانیه یک تصمیم مرگ آور. در چنین سرعتی، اپراتور های انسانی نه یک ناظر، که یک مهر تایید اخته و منفعل برای تصمیمات این ماشین کشتارجمعی است. پنتاگون عامدانه انسان را از چرخه تصمیم گیری حذف کرده تا سرعت کشتار را افزایش دهد و حالا در مواجهه با جنایت، تقصیر را گردن داده های قدیمی می اندازد. خطای نرم افزاری و دیتای قدیمی یک چیز است، ساختن ماشین کشتارجمعی که ذاتا قادر به تفکیک مدرسه از محوطه نظامی نیست چیز دیگر.

سامانه های هوش مصنوعی مانند میون حتی برای طراحانشان هم کاملا شفاف نیستند؛ یعنی هیچ کس نمی تواند دقیقا توضیح دهد چرا یک هدف خاص برای نابودی انتخاب شده یا چه مسیری برای این انتخاب طی شده است. آمریکا با آگاهی از این عدم شفافیت ذاتی، این فناوری را در میدان نبرد به کار گرفته است. چرا؟ چون هوش مصنوعی بهترین بهانه برای فرار از پاسخگویی و عواقب کیفری است. وقتی منطق دستگاه مبهم باشد، وکلای پنتاگون می توانند تا ابد ادعا کنند خطای فنی رخ داده است. اما حقوق بین الملل می گوید استفاده از ابزاری که ذاتا با اصول بنیادین حقوق بشردوستانه یعنی تفکیک اهداف نظامی از غیرنظامی ناسازگار است، خود یک جنایت جنگی مستقل محسوب می شود.

گزارش های مستند بین المللی نشان می دهد که ساختمان مدرسه شجره طیبه حداقل از سال ۱۳۹۵، یعنی یک دهه پیش از حمله، کاملا غیرنظامی بوده و از هرگونه تاسیسات نظامی جدا شده است و اطلاعات مربوط به ماهیت غیرنظامی آن نه فقط در دسترس، که در معرض دید همگان قرار داشته است. وقتی یک مدرسه ابتدایی با این سطح از حضور و فعالیت علنی، توسط پیشرفته ترین ماشین هوشمند اطلاعاتی-نظامی جهان به اصطلاح اشتباهی هدف قرار می گیرد، و اتفاقا این اشتباه درست در آغاز یک جنگ تمام عیار رخ می دهد، و ده ها مدرسه دیگر هم در ایران، فلسطین و لبنان به همین شیوه اشتباها! بمباران می شوند، دیگر نمی توان از سهو و خطا حرف زد. این یک حمله عمدی با بهانه سازی قبلی است.

مطابق با حقوق بین الملل، به کارگیری سلاحی که قادر به تفکیک اهداف نظامی از غیرنظامی نباشد، ممنوع است. میون به واسطه سرعت سرسام آور و ذات مبهم مسیر تصمیم گیری خود، عملا فاقد این توانایی است البته که نیت ساخت . پس مسئولیت این جنایت صرفا متوجه اپراتور یا برنامه نویس نیست. طبق دکترین مسئولیت فرماندهی، مقامات ارشد نظامی و سیاسی آمریکا که دستور به کارگیری این سامانه را در مناطق پرجمعیت و شهری صادر کرده اند، مستقیما مسئول کشتار دانش آموزان میناب هستند. فرقی نمی کند این دستور را پنتاگون داده باشد یا کاخ سفید؛ این جنایت، مصداق بارز نقض فاحش کنوانسیون های ژنو و پروتکل اول الحاقی است که متخصصان حوزه حقوق بین الملل باید بیشتر درباره آن صحبت کنند.

جنایت میناب یک خطای انسانی یا نقص فنی نبود؛ نتیجه منطقی و اجتناب ناپذیر یک دکترین نظامی جنایتکارانه است که سرعت کشتار را بر اخلاق و حدود انسانی جنگی ترجیح می دهد، برای گریز از پاسخگویی به آغوش سیستم ها پناه می برد، و اکنون پشت نقاب پیشرفت فناوری پنهان شده است. آمریکا نه فقط قاتل ۱۶۰ دانش آموز، بلکه معمار سازوکاری است که این قتل عام را به یک رویه تبدیل خواهد کرد.

منتشر شده در روزنامه اعتماد - به تاریخ ۷ اردیبهشت ۱۴۰۵