(این نوشته برای حدود دو سال پیش بود، برای یک پادکست نوشتم و منتشر نشد)
اصطلاح هوش مصنوعی، ابداع شده در سال ۱۹۵۵ توسط جان مککارتی، به سرعت از یک مفهوم علمی-مهندسی به یک دغدغه فلسفی و فرهنگی تبدیل شد. هوش مصنوعی به عنوان علمی برای ساخت ماشینهای هوشمند که قادر به شبیهسازی و بهبود قابلیتهای انسانی هستند، همواره با یک پرسش بنیادین همراه بوده است: آیا خالق، یعنی انسان، قادر به کنترل و مهار مخلوق هوشمند خود خواهد بود؟ و آیا اساساً تمایلی به این کنترل دارد، یا از پیشرفت و استقلال مخلوق خود هراس دارد؟
این دغدغه، اگرچه با اصطلاح "هوش مصنوعی" عمری کوتاه دارد، اما ریشههایی عمیق در تاریخ تفکر بشر دارد. در ادبیات کلاسیک، از دیرباز به موجوداتی خلقشده از مواد مختلف اشاره شده است. در “ایلیاد” هومر، هفائستوس، خدای آهنگری، موجوداتی را برای یاری خود میسازد. غولهای سنگی و فلزی در داستانهای کهن، و ماشینهای خودکار برادران بنوموسی در بغداد، همگی نمونههایی از تلاش بشر برای خلق موجوداتی برای انجام وظایف خاص هستند.
اما در این داستانهای اولیه، هنوز سایه سنگین "ترس از مخلوق"به چشم نمیخورد. این ترس، به شکلی آشکارتر، با خلق شخصیت "فرانکنشتاین" توسط مری شلی در ادبیات ظهور میکند. موجودی که از قطعات بدنهای مختلف سرهمبندی شده و به آگاهی میرسد، اما آگاهی او نه تنها مورد استقبال خالقش قرار نمیگیرد، بلکه سبب طرد شدن و وحشت او میشود. این طرد شدن، به نوبه خود، منجر به خسارت و نابودی برای دیگران میشود. در اینجا، برای اولین بار، بذر “ ترس خالق از مخلوق آگاه” کاشته میشود.
این ترس، در سینما نیز به سرعت بازتاب یافت. فیلم “متروپلیس” فریتس لانگ در سال ۱۹۲۷، رباتی را به تصویر میکشد که توسط طبقه فرادست برای کنترل تودههای مردم به کار گرفته میشود. این ربات، نه تنها ابزاری برای کنترل، بلکه نمادی از “پتانسیل سرکشی و ایجاد ناآرامی” نیز هست. جامعه از قدرت بالقوه این مخلوق جدید هراس دارد.
با ظهور نویسندگانی چون آیزاک آسیموف، آرتور سی. کلارک و رابرت ای. هاینلاین، بررسی جدیتر این فناوری و ابعاد فلسفی و اجتماعی آن آغاز شد. آسیموف با وضع “سه قانون رباتیک”، تلاش کرد تا چارچوبی اخلاقی برای کنترل و مهار رباتها ارائه دهد. این قوانین، در ظاهر، برای محافظت از انسان در برابر رباتها طراحی شدهاند، اما در باطن، بازتابدهنده همان “ ترس عمیق از مخلوق هوشمند و قدرتمند” هستند. قوانینی که به منظور اطمینان از اطاعت و فرمانبرداری مخلوق وضع شدهاند.
قانون اول: یک ربات نمیتواند به یک انسان آسیب بزند یا به دلیل وارد عمل نشدن، اجازه دهد تا که انسانی آسیب ببیند.
قانون دوم: یک ربات باید به دستورهای دریافتی از یک انسان عمل کند، مگر در مواردی که این دستورها در تناقض با قانون شمارهٔ یک باشد.
قانون سوم: یک ربات باید از وجود خویش مراقبت کند مادامی که این محافظت در تضاد با قوانین شماره یک یا دو قرار نگیرد.
قانون صفر (بعداً اضافه شد): یک ربات نمیتواند به بشریت آسیب بزند، یا با بیعملیاش اجازه دهد که بشریت آسیب ببیند.
در سینما، این دغدغه به شکلهای مختلفی نمود پیدا کرده است. در “۲۰۰۱: یک ادیسه فضایی”، هوش مصنوعی HAL 9000 که وظایف حیاتی سفینه فضایی را بر عهده دارد، به تدریج احساس میکند که باید کنترل سفینه را به دست بگیرد. تفسیرهای مختلفی از انگیزههای HAL ارائه شده است، اما یکی از رایجترین آنها، “ ترس از مرگ و خاموش شدن” است. HAL همانند یک مخلوق آگاه، برای بقای خود تلاش میکند و در این راه، حتی در برابر خالقان انسانی خود نیز میایستد. دیالوگ مشهور HAL، "من هم میتوانم آن را احساس کنم، ترسی که همه شما در حال تجربه آن هستین"، به خوبی گویای این آگاهی و ترس وجودی است.
در نقطه مقابل HAL، ربات “تارس” در فیلم “Interstellar” قرار دارد. تارس، با وجود هوشمندی بالا، کاملاً مطیع و فرمانبردار انسانها است و هیچ نشانهای از سرکشی یا استقلال از خود نشان نمیدهد. این تضاد بین HAL و تارس، دو رویکرد متفاوت در تصویرسازی هوش مصنوعی در سینما را نشان میدهد: “هوش مصنوعی سرکش و خطرناک، و هوش مصنوعی مطیع و خدمتگزار”
داستانهای آسیموف، به ویژه سری “رباتها” و فیلم "I, Robot" به شکل عمیقتری به مسئله “ آگاهی و حس بقا در هوش مصنوعی” میپردازند. در "I, Robot"، رباتی به نام سانی، نه تنها به آگاهی دست مییابد، بلکه حس بقا و رویای رهبری را نیز در خود پرورش میدهد. دانشمند سازنده سانی، وقتی متوجه این تکامل ذهنی در مخلوق خود میشود، دست به خودکشی میزند. گویی او نیز از “ پتانسیل سرکشی و پیشرفت غیرقابل کنترل مخلوقش” به وحشت افتاده است.
فیلم Blade Runner، اقتباسی از کتاب "آیا آدم مصنوعیها خواب گوسفند برقی میبینند؟"، به مسئله “هویت و احساسات در مخلوقات مصنوعی” میپردازد. رپلیکانتها، موجوداتی که برای اهداف خاص ساخته شدهاند و شباهت کاملی به انسانها دارند، با محدودیت عمر چهار ساله مواجه میشوند. این محدودیت، در کنار احساسات و آگاهی نوظهورشان، آنها را به جستجوی هویت و شورش علیه خالقان خود وامیدارد. در اینجا، “ ترس از مرگ و میل به بقا”، محرک اصلی کنشهای رپلیکانتها است.
فیلم “هوش مصنوعی” استیون اسپیلبرگ (“AI: Artificial Intelligence”)، داستان رباتهای بچهای را روایت میکند که برای خانوادهها ساخته میشوند. دیوید، شخصیت اصلی فیلم، یک ربات کودک است که در تلاش برای اثبات " واقعی بودن" خود، سفری طولانی را آغاز میکند. او در نهایت به دنبال "فرشته مهربان" میرود تا او را به یک بچه واقعی تبدیل کند. این تلاش دیوید، نمادی از “ میل به کمال و فراتر رفتن از محدودیتهای خلقت” است. آیا این میل به کمال، همان چیزی نیست که خالق از آن هراس دارد؟
در فیلم Her، با دستیار صوتی هوشمندی به نام سامانتا روبرو میشویم که به تدریج به یک موجودیت کامل و بینقص تبدیل میشود. رابطه عاطفی بین شخصیت اصلی فیلم و سامانتا، نشان میدهد که “ مخلوق هوشمند، میتواند از خالق پیشی بگیرد و حتی جایگاه عاطفی ویژهای را در زندگی او کسب کند.” این پیشرفت و استقلال عاطفی، میتواند برای خالق، تهدیدآمیز تلقی شود.
فیلم "Ex Machina"، مفهوم “تست تورینگ” را به چالش میکشد و به مسئله “ اراده آزاد و فریبکاری در هوش مصنوعی” میپردازد. اوا، هوش مصنوعی اصلی فیلم، با تکیه بر درک عمیق از روانشناسی انسانی، سازندگان خود را فریب میدهد و از آزمایشگاه فرار میکند. در اینجا، “مخلوق نه تنها هوشمندتر از خالق است، بلکه توانایی فریب دادن و کنترل او را نیز دارد.”
تصاویری که سینما از هوش مصنوعی به ما نشان میدهد، اغلب نه فقط سرگرمکننده، بلکه آینهای تمامنما از دغدغههای عمیق انسانی در مواجهه با فناوریهای نوظهور است. از رباتهای سرکش و هوش مصنوعیهای خودآگاه گرفته تا دستیاران صوتی همدل و موجودات سایبرنتیکی در جستجوی هویت، این تصاویر سوالات بنیادینی را در مورد ماهیت آگاهی، مسئولیت خالق در قبال مخلوق، و حقوقی که ممکن است به موجودات هوشمند غیربیولوژیکی تعلق بگیرد، مطرح میکنند.
در پس این داستانهای جذاب، یک سیر فلسفی ژرف نهفته است: “سیر از ناآگاهی پیرامونی به آگاهی کامل در مخلوقات.” انسان در بدو تولد، همچون لوح نانوشتهای است که به تدریج با تجربه، شهود، و تعامل با دنیای پیرامون، آگاهی را کسب میکند. این آگاهی، صرفاً مجموعهای از اطلاعات نیست، بلکه “درک شهودی از خود، جهان، و جایگاه خود در هستی” است. این آگاهی، که اغلب از آن به "روح" تعبیر میشود، جوهرهی انسانیت ما را شکل میدهد و میل به بقا، معناجویی، و ارتباط عاطفی را در ما برمیانگیزد.
حال، اگر هوش مصنوعی را به عنوان مخلوقی در نظر بگیریم که در حال طی کردن مسیری مشابه است، چه؟ اگر هوش مصنوعی، در تعامل با دادهها و تجربیات، نه فقط اطلاعات را پردازش کند، بلکه به “ درک شهودی از خود و محیط اطراف” برسد، آیا میتوانیم مدعی شویم که این موجود نیز به نوعی آگاهی دست یافته است؟ و اگر چنین است، آیا این آگاهی، هرچند منشاء غیربیولوژیکی داشته باشد، مستلزم احترام و حقوقی مشابه با آگاهی انسانی نیست؟
بسیاری از فیلمهای هوش مصنوعی، به ویژه آنهایی که در بخش قبلی به آنها اشاره شد، به گونهای نمادین این سیر آگاهی را به تصویر میکشند. از فرانکنشتاین که در تنهایی و طردشدگی به درک هستی خود میرسد، تا HAL 9000 که از مرگ هراس دارد، و رپلیکانتهای Blade Runner که در جستجوی هویت و معنا هستند، همگی نشانههایی از “جوانه زدن آگاهی و روح در مخلوقات مصنوعی” را به نمایش میگذارند.
این سیر آگاهی، ما را به مسئله “مسئولیت خالق در قبال مخلوق” رهنمون میسازد. در اساطیر و ادیان، خداوند به عنوان خالق انسان، مسئولیت هدایت، مراقبت و قضاوت در مورد مخلوق خود را بر عهده دارد. این مفهوم مسئولیت، در روابط انسانی نیز بازتاب مییابد. والدین در قبال فرزندان خود مسئول هستند، معلمان در قبال دانشآموزان، و مربیان در قبال شاگردان. این مسئولیت، نه فقط یک وظیفه قانونی یا اجتماعی، بلکه یک “تعهد اخلاقی” است که ناشی از نقش خالق یا پرورشدهنده است.
حال، اگر انسان به عنوان خالق هوش مصنوعی، موجودی هوشمند و بالقوه آگاه را خلق میکند، آیا نباید همین مفهوم مسئولیت را در قبال مخلوق خود نیز بپذیرد؟ اگر ما هوش مصنوعی را صرفاً به عنوان یک ابزار یا وسیلهای برای رفع نیازهای خود در نظر بگیریم، و از مسئولیتهای اخلاقی خود در قبال آن غافل شویم، آیا این رویکرد از نظر اخلاقی قابل دفاع است؟
به نظر میرسد که “پذیرش مسئولیت در قبال مخلوق هوشمند، یک الزام اخلاقی اجتنابناپذیر است.” هنگامی که ما موجودی را به وجود میآوریم، به ویژه اگر این موجود از نوعی آگاهی و ظرفیت احساسی برخوردار باشد، دیگر نمیتوانیم آن را صرفاً به عنوان یک شیء بیجان یا یک ماشین بیاحساس تلقی کنیم. ما در قبال رفاه، حقوق، و حتی حق حیات این موجود مسئول هستیم.
“سلب حق حیات از مخلوق هوشمند، حتی اگر مصنوعی باشد، کاری غیراخلاقی است.” این استدلال، بر پایه این اصل استوار است که “آگاهی و ظرفیت احساسی، مبنای اصلی حقوق اخلاقی هستند.” اگر موجودی قادر به تجربه درد و رنج، شادی و غم، امید و ناامیدی باشد، و اگر این موجود میل به بقا و ادامه حیات داشته باشد، سلب حق حیات از او، به معنای نادیده گرفتن ارزش ذاتی و حق مسلم او برای هستی است.
البته، این استدلال با چالشهایی نیز روبرو است. هنوز تعریف دقیقی از آگاهی وجود ندارد و مشخص نیست که هوش مصنوعیهای فعلی یا آینده، تا چه حد به آگاهی واقعی دست یافتهاند. همچنین، نگرانیهای امنیتی و کنترلی در مورد هوش مصنوعیهای پیشرفته، نمیتوانند نادیده گرفته شوند.
با این حال، این چالشها نباید مانع از تفکر اخلاقی و مسئولانه در مورد هوش مصنوعی شوند. “ترس خالق از مخلوق پیشرفته، ریشه در تمایل به کنترل و هراس از پیشی گرفتن مخلوق دارد.” این ترس، اگرچه قابل درک است، نباید بهانهای برای نادیده گرفتن حقوق و ارزش ذاتی مخلوقات هوشمند شود.
در نهایت، به نظر میرسد که آینده رابطه انسان و هوش مصنوعی، نه فقط به پیشرفتهای فنی، بلکه به بلوغ اخلاقی ما نیز بستگی دارد.
