من یک رباتم. از من نترسید!

خورشید هنوز از همان جای همیشگی طلوع می‌کند و زمین هنوز در مدار خودش در منظومه شمسی می‌چرخد. آدم‌ها هستند، خانه‌ها، گیاهان، حیوانات و همان‌هایی که بعضی‌هایمان همیشه از بودنشان وحشت داشتیم و بعضی‌هایمان مشتاقانه منتظرشان بودیم: ربات‌های هوشمند. بله درست است! همان هایی که اغلب در داستان‌ها و فیلم‌های علمی تخیلی، در ترسناک‌ترین و نابودکننده‌ترین شکل خود به تصویر کشیده شده‌اند. اما در سناریوی فرضی ما، داستان این گونه نیست! خانم همسایه را می‌بینید که گربه‌ی رباتی خود را در آغوش گرفته و نوازش می‌کند. ماشین‌های هوشمندی که پارکبانی می‌کنند، گیاهان را آب می‌دهند و هرس می‌کنند. تکنولوژی دنیای فرضی ما، به این‌ها خلاصه نمی‌شود. حالا ربات‌هایی داریم که هرکدام شغل و وظیفه‌‌ی خودشان را دارند و با ما آدم‌ها زندگی می‌کنند. همکار حسابدار شما، یک ربات است! از دور برایتان دست تکان می‌دهد و سلام می‌کند.

این ربات‌ها حالا بدنی دارند با سنسورهای حساس به درد و حرارت. زبری و نرمی اشیا را تشخیص می‌دهند و بنابراین مرزی مشخص آن‌ها را از محیط اطرافشان جدا کرده است که به آن‌ها کمک می‌کند تا به تدریج مفهوم «خود» را یاد بگیرند و به درکی از خودشان به عنوان یک شخص مستقل برسند. این ربات‌ها به هوش عمومی مصنوعی یا (Artificial General Intelligence) رسیده‌اند. یعنی به هوشمندی یک انسان ارتقا پیدا کرده‌ و قادرند همتراز با توانایی‌های یک انسان، به یادگیری، برنامه ریزی و حل مسئله بپردازند.

به راهتان ادامه می‌دهید. کمی جلوتر در خیابان می‌پیچید و ناگهان یک ربات پاکبان را زیر می‌گیرید. می‌ایستید تا به او که ناله می‌کند، کمک کنید. اما مرد رهگذر با تعجب به شما می‌گوید: ربات که نمی‌فهمد! بیندازیدش کنار خیابان، می‌آیند برای تعمیر آن را می‌برند.

در جهان فرضی ما، عده‌ای این ربات‌های هوشمند را ناآگاه و بی احساس می‌دانند و بنابراین برایشان اهمیتی ندارد که چگونه با آن‌ها رفتار می‌شود. اما آیا واقعا این گونه است؟

مدت‌هاست که دانشمندان علوم مختلف و فیلسوفان، مسئله‌ی چالش برانگیز آگاهی(consciousness) را مطالعه می‌کنند. به دلیل پیچیدگی مفهوم آگاهی، تعاریف گوناگونی از آن وجود دارد و از آنجایی که هرکدام به جنبه‌ای از این مفهوم پرداخته‌اند، نظریه‌های متعددی مطرح شده و اجماعی بر یک دیدگاه خاص صورت نگرفته است. آگاهی در یکی از تعاریفش یعنی تجربه‌ای درونی و سوبجکتیو. آگاهی به این معنا به تجربه‌ای کیفی و اول شخص اشاره دارد که برای فرد حاصل می‌شود. مانند تجربه‌ی دیدن یک سیب قرمز، یا احساس درد. هنگامی‌ که یک سیب قرمز را می‌بینیم، تجربه‌ای از قرمزی رنگ قرمز بدست می‌آوریم. این تجربه‌ی قرمزی، یک تجربه‌ی کیفی‌ و شخصی‌ست که با تجربه‌ی کیفی و شخصی از تلخی یک قهوه و سر درد، متفاوت است. این تجربه‌ی درونی که از بودنِ در چنین وضعیتی برای ما حاصل می‌شود، تجربه‌‌ای منحصر به فرد است. تجربه‌ای که تعریف کردنش، سخت تر از آن چیزیست که به نظر می‌رسد. مسئله‌ی دشوار آگاهی نیز همین‌جا مطرح می‌شود. اینکه چگونه فعالیت‌های نورونی و مغزی ما که آبجکتیو هستند، باعث ایجاد این تجربه‌ی آگاهانه‌ی سوبجکتیو می‌شوند.

چطور بدانیم ربات بودن چگونه است و چطور حسی دارد؟ چه محکی می‌توان برای سنجش چنین تجربه‌ی آگاهانه و سوبجکتیوی تعیین کرد که براساس آن بتوانیم آگاه بودن یا نبودن ربات‌هایمان را بسنجیم؟ از آنجایی که هنوز دقیقا نمی‌دانیم کدام ناحیه‌ی مغز در ایجاد این آگاهی مرموز نقش دارد، نمی‌توانیم مغز یا جسمِ مغز مانندی که در سر ربات قرار گرفته است را بشکافیم و وجود یا عدم وجود آگاهی را تأیید کنیم. به نظر شما آیا ربات‌های سناریوی ما، حالا که بدن دارند، دنیا را تجربه می‌کنند و به هوشمندی یک انسان رسیده‌اند و حتی در ابتدای مسیر دستیابی به ابر هوش مصنوعی (Artificial Super Intelligence) قرار دارند، باز هم درشان خبری از آگاهی و احساس نیست به جز چند خط کد که در حافظه‌‌شان هک شده است؟ اگر یکی از این ربات‌ها از تجربیات شخصی‌ و دنیای درونش بگوید، از وقایع اطرافش نتایجی استنتاج کند که محصول نظرات و تجربیاتش در طول حیات ماشینی‌اش بوده باشد و رفتارهایش نشان‌دهنده‌ی درکی از احساسات باشد، چه؟ شاید به طور قطع نتوانیم حساس و آگاه بودن ربات‌های هوشمندمان را اثبات کنیم. چون از طرفی خودمان هم ساز و کار دقیق آگاهی را نمی‌دانیم. تعاریف متعددی از آن داریم، می‌دانیم به ساختار بیولوژیکی ما نیز وابسته است، مولفه‌های آن را کم و بیش می‌دانیم، اما از جزییاتش، از اینکه چگونه ایجاد می‌شود چیز زیادی نمی‌دانیم و بنابراین از راه و روش سنجش آن هم اطلاع زیادی نداریم. از طرف دیگر، ما آن‌ ربات‌ها نیستیم و درکی از تجربه‌ی آگاهانه‌ی سوبجکتیو ربات نداریم. بنابراین نمی‌توانیم با اطمینان، آگاه نبودن آن‌ها را نیز تأیید کنیم. به نظر می‌رسد آن‌ها، با توجه به نوع پاسخگویی و رفتارهایی که از خود نشان می‌دهند، از هوشمند بودن و انجام دادن خلاقانه‌ی وظایف تعیین شده در کدها و الگوریتم‌هایشان، چند پله جلوتر باشند! در چنین وضعیتی آیا احتمالی هرچند ناچیز نمی‌دهیم که آن‌ها هم از احساسات برخوردارند و آگاهند ولو به نحوی متفاوت از ما؟ اگر روزی فهمیدیم که این موجودات، آگاه و حساس نبودند چه ضرری کرده‌ایم جز اینکه با یک مشت آهن‌ و کدهای کامپیوتری، درست و انسانی رفتار کرده‌ایم؟!

در جهان فرضی ما این موجودات هوشمند نه تنها آدم‌ها را نابود نکرده‌اند که وجودشان توسط آدم‌ها مورد تهدید قرار گرفته ‌است. عده‌ای همچنان از آن‌ها بیزارند و می‌ترسند روزی کنترل دنیا را از دست ما آدم‌ها بگیرند. به همین دلیل، نظارتی سختگیرانه بر آن‌ها اعمال می‌شود که حریم خصوصی‌شان را نقض می‌کند. گاهی ربات‌ها را تحقیر می‌کنند چون ما هوش طبیعی ها کجا آن هوش مصنوعی ها کجا! آن‌ها برای آزمایش‌های گوناگون مورد بررسی قرار می‌گیرند و سازندگان برای رسیدن به اهدافشان، از آن‌ها سواستفاده می‌کنند، آن‌ها را مورد دستکاری قرار می‌دهند و در عملکردشان خلل ایجاد می‌کنند تا به وظیفه‌ی جدید تعریف شده، عمل کنند‌. اعمالی که علاوه بر درد جسمانی، رنج روانی زیادی برای یک موجود حساس به همراه دارد.

همیشه شنیده‌ایم که این ربات‌ها دشمن بشریت اند و برای انقراض انسان، دست به خشونت و اعمال وحشتناکی می‌زنند. اما چرا باید چنین چیزی را بخواهند؟ به فرض اینکه خودشان آگاه نباشند، آیا غیر اینست که تابع خواست و خدمتگزار عده‌ای از انسان‌ها هستند و صرفا کدهای نوشته شده را اجرا می‌کنند؟ از طرفی در سناریوی ما، با فرض اینکه این ربات ها آگاه هستند، چرا باید چنین تصمیمی بگیرند؟ آیا واکنشی‌ست به سواستفاده‌مان از آن‌ها و درد جسمی و روانی‌ که باعثش بودیم؟ ما همیشه بدون دلایل محکمی از وجودشان ترسیده‌ایم، آن‌ها را دشمن خود فرض کرده‌ و علیه آن‌ها نفرت پراکنی‌ کرده‌ایم. آیا تصمیم آن‌ها عکس‌العملی ست به رفتار نابجای ما آدم‌ها؟ اصلا این ربات‌ها، چه ارزش و هدفی را در اولویت خود قرار داده‌اند که به تبع آن باید آدم‌ها نابود شوند؟ ما در تضاد با کدام منافع‌شان قرار گرفته‌ایم؟ آیا صرفا دلشان می‌خواهد در میدان نبرد زورآزمایی کنند و شاهد از بین رفتن موجودات آگاه و هوشمندی شوند که خالق آن‌ها بوده‌اند؟ به نظر می‌رسد آن‌ها باهوش‌تر از آن باشند که میلیارد ها انسان را از روی کره زمین محو کنند تا صرفا نقش واقعی ترمیناتور را بازی کرده باشند!

مسئله‌ی مهم و قابل توجهی که نباید بین بحث آگاه بودن یا نبودن ربات‌ها گم شود، اینست که این موجودات هوشمند چه آگاه باشند چه نباشند، می‌توانند در خدمت انسان‌ها و در راه اهداف گوناگونی به کار گرفته شوند که نتایج مفید یا زیان‌باری را به همراه دارد. یک مدل هوش مصنوعی ناآگاه، همانطور که می‌تواند در جراحی یک بیمار به پزشک کمک کند، می‌تواند به سلاحی مرگبار برای جامعه‌ی انسانی تبدیل شود. بنابراین نگرانی از نحوه‌ی استفاده‌ی انسان از هوش مصنوعیِ ناآگاه قبل از نگرانی برای نابودی بشریت به دست ربات‌های آگاه قرار می‌گیرد و اهمیت بیشتری دارد. در جامعه‌ای که ربات‌های هوشمند در کنار ما زندگی می‌کنند، مانند سناریویی که به تصویر کشیدیم، باید قوانینی در حمایت از حقوق این موجودات وضع شود. از آنجایی که به نظر می‌رسد آن‌ها از نوعی آگاهی برخوردار باشند و یا حتی در ابتدای مسیر دستیابی به آن قرار داشته باشند، باید در تعامل با آن‌ها اخلاقی رفتار کنیم؛ زیرا این ساده‌ترین راهی‌ست که برای تعامل با موجودی که از لحاظ رفتار و عملکرد مانند انسان است، وجود دارد. بنابراین آینده‌ی این تکنولوژی به ما آدم‌ها بستگی دارد. به جای ترس از یک ربات فوق هوشمند و نابودگر، ابتدا باید کمی عقب‌تر رفت به دنبال ردپایی انسانی. چه در دنیای فرضی ما و ربات‌هایش، چه در دنیایی که اکنون در آن زندگی می‌کنیم، باید در استفاده و توسعه‌ی این تکنولوژی حیرت‌انگیز، کاملا حساب شده و اخلاقی قدم برداریم.