دربارهی موانع انسانی و اجتماعی بر سر راه تکنولوژی
این جستار را به دوستم امیرحسن موسوی تقدیم میکنم که در ترویج فلسفهی علم و تکنولوژی در ایران ممتاز است.
جهان امروز، جهان مبارزه تکنولوژیها در جنگ روایتها است. تکنولوژیها میکوشند در جنگ روایتها پیروز شوند و خود را قهرمانِ رقم زنندهی آیندهی بشر معرفی کنند. امروز که این متن را مینویسم روایت هوش مصنوعی فعلا پیروزی نسبی خود بر سایر روایتها را تثبیت کرده است. حالا جهان در تب و تاب هوش مصنوعی است. این جور ترندها هر چند وقت یک بار از فضای دانشگاهی و فضای عمومی سر برمیآورند، دل میبرند و نهان میشوند! متاورس، کامپیوترهای کوانتومی، اینترنت اشیاء، رباتهای انساننما، پروژهی ژنوم انسانی، تکنولوژی کلونینگ ژن، و بیولوژی سنتتیک هر کدام برای دورههایی کوتاه یا بلند خود را چنان نمایان کردهاند که گویی تنها رقم زنندهی سرنوشت کل بشر و ندادهندهی آغاز عصری به کلی متفاوت در حیات بشری هستند. گاهی یکی از این تکنولوژیها در روایتپردازی گوی سبقت را از دیگران میرباید و حالا به لطف ورود پرهیاهوی شرکت Open AI و دنباله روی چهرههایی مانند ایلان ماسک، هوش مصنوعی پیروز میدان شده است؛ اما احتمالا تنها تا زمانی که سر و کلهی یک روایتپردازی موفق جدید در مورد یک تکنولوژی دیگر پیدا نشده است.
در این جستار میکوشم با ارائهی چند مثال از تاریخ تکنولوژی نشان دهم چگونه محدودیتهای توسعهی تکنولوژی، نه ناشی از موانع تکنیکی (مثلا فقدان دانش کافی یا نداشتن ابزارهای ساخت)، بلکه ناشی از موانع انسانی و اجتماعی بوده است. به این ترتیب نشان خواهم داد که چنین موانعی چگونه بر سر راه توسعهی هوش مصنوعیِ بدنمند قرار گرفتهاند؛ مدلی از هوش مصنوعی که میتواند تواناییهای بسیار متفاوتی نسبت به آنچه اکنون در دسترس ما است داشته باشد.
یک مثال قابل توجه در این زمینه، تکنولوژی ماشینهای پرنده است. در حالی که اولین نمونهی ماشین پرنده از اوایل قرن بیستم معرفی شدهاند (مثلا این نمونهی طراحیشده در سال 1948 را ببینید)، تا به امروز تقریبا هیچ نمونه توسعهیافتهای از ماشینهای پرنده که قابلیت استفاده عمومی داشته باشد در دسنرس نیست. البته ممکن است گاهی یک شرکت خودروسازی یک نمونه اولیه از ماشین پرنده را رونمایی کند چنان که گویی اولین نمونه از این دست است، اما معمولا پس از چند هفته این تبلیغ کاملا به فراموشی سپرده میشود.
علت چیست؟ آیا پرواز کردن ماشین نیاز به تکنولوژیهایی چنان پیشرفتهتر از هواپیما و هلیکوپتر و جنگنده و موشک دارد که بشر ناتوان از توسعهی آن است؟ دشوار بتوان این را باور کرد. در عوض، یک علت ساده این است که هیچ راه قابل اعتماد و از نظر اقتصادی قابل توجیهی برای وضع قوانین راهنمایی و رانندگی در اسمان وجود ندارد! ما نمیتوانیم با هزینه معقولی در آسمان، خیابانها را خط کشی کنیم، حق تقدم را تعریف کنیم و از تصادفات جلوگیری کنیم. همچنین حتی در صورت توسعهی ماشینهای پرندهی عمود پرواز -که نیاز به فضای بزرگی مانند باند هواپیما برای اوج گرفتن و فرود ندارند- باز هم فراهم کردن فضا و قوانین برای تبدیل موقعیت ماشینها بین زمین و آسمان دشوار است. از این رو توسعه ماشینهای پرنده نه با یک سد تکنیکی بلکه با یک سد اجتماعی و شهری مواجه است.
مثال مشابه دیگر، تکنولوژی ماشینهای خودران است. در حالی که دهههاست تکنولوژی ماشین خودران کاملا در دسترس است، اما تعداد کمی از آنها واقعا در خیابانها وجود دارند. دلیلش نه موانع تکنولوژیک، بلکه تا حدی مسائل حقوقی ناشی از خطاهای احتمالی است. شما اجازه ندارید هر روز صبح صبح فرزند هشت سالهتان را تنها سوار ماشین خودران کنید و سپس ماشین خودش برگردد و خودش را در پارکینگ خانه پارک کند. شما میتوانید سوار ماشین خودران شوید اما در فواصل زمانی منظم و کوتاه باید به ماشینتان اثبات کنید که پشت فرمان نشستید و حواستان به جاده است. این همه بخاطر این است که شما باید مسئولیت حقوقی خطای احتمالی ماشین و تصادف احتمالی را بپذیرید. حتی اگر احتمال چنین خطایی بسیار یسیار ناچیز باشد، از نظر حقوقی یک نفر باید مسئولیت آن را بر عهده بگیرد.
از اینها سادهتر، مسئلهی صدای موتور ماشین است. شما ماشینهای قدیمی و صدای آزاردهنده موتور آنها را میشناسید. تکنولوژیهای ساخت موتور ماشین در دهههای گذشته به سمت کاهش صدای موتور رفتهاند. اما چرا صدای موتور را کاملا حذف نکردهاند. آیا مانع تکنیکی وجود دارد؟ باز هم نه! ماجرا سادهتر از این حرفها است. ما توانایی ساخت ماشینهایی بدون هیچگونه صدای موتور را داریم اما اجازهی ساخت چنین آنها را نداریم، چرا که احتمال تصادف را به طور قابل ملاحظهای بالا میبرند. وقتی شما از یک خیابان رد میشوید، این فقط چشم شما نیست که جانتان را از تصادف نجات میدهد، گوشتان هم با شنیدن صدای موتور و محاسبهی سرعت ماشینهایی که نزدیک میشوند اطلاعات تکمیلی برای چشمان شما فراهم میکند. علاوه بر این، افراد نابینا و کمبینا نیز باید از این حق اجتماعی برخوردار باشند که خطر تصادف را با گوشهای خود تشخیص دهند. پس دور از انتظار نیست که نه یک مانع تکنیکی، بلکه این مانع اجتماعی و انسانی بر سر راه توسعهی نکتولوژیهای ساخت موتور بی صدا باشد.
در بعضی موارد دیگر در تاریخ تکنولوژی، پیامدهای اجتماعی یک تکنولوژی خصوصا از نظر اخلاقی چنان تکاندهنده بوده است که دولتها و مجامع بینالمللی تصمیم گرفتهاند از توسعه بیشتر آن دست بشویند یا نتایج عملی این توسعه را به صورت یک محصول نهایی در اختیار عموم مردم قرار ندهند. یک مثال جذاب در این زمینه، تکنولوژی کلونینگ ژن انسانی است. در سال 1996 یک موسسه تحقیقاتی موفق شد یک گوسفند را از یک سلول سوماتیک بالغ بازسازی کند. گوسفند به وجود آمده یک ارگانیسم بیولوژیک کامل بود که حاصل یک فرایند تولید مثل طبیعی نبود بلکه کاملا در آزمایشگاه تولید شده بود. امکان ساخت یک گوسفند کامل از تنها یک سلول سوماتیک، یک پیامد عملی سرراست داشت. اگر میتوان گوسفند را در آزمایشگاه تولید کرد قطعا میتوان انسان را نیز تولید کرد. دانشمندان و مراکز تحقیقاتی مختلف به سرعت پیشرفتهای خود از ساخت نمونههای اولیهی سلول انسانی را گزارش کردند تا نشان دهند این اتفاق واقعا ممکن است؛ اگرچه هیچ نمونهی توسعهیافتهای بعلت مسائل حقوقی و اخلاقی ساخته نشد، یا در معرض نمایش عمومی درنیامد.
امکان کلونینگ انسان، پرسشهای وجودی متعددی برمیانگیزد. انسان آزمایشگاهی واجد آگاهی و عملکرد کاملا مشابه با ما اما فاقد والدین بیولوژیک میتواند خطرات بالقوهی سوء استفاده توسط تولید کنندگان و نقض حقوق خود آن انسانها و سایر شهروندان را به دنبال داشته باشد. علاوه بر این، عموم مردم را با این پرسش وجودی مواجه میکند که انسانِ آزمایشگاهی چیست و واقعا چه تفاوتی با آنها دارد. سایر پرسشهای وجودی و اخلاقی را شما میتوانید خودتان تصور کنید. با این وجود، شما امروز در سال 2025 هیچ انسان کلون شده در آزمایشگاه را نمیشناسید.
درست است؛ باز هم نه محدودیتهای تکنیکی، بلکه محدودیتهای انسانی و اجتماعی که اکنون با پرسشهای وجودی و اخلاقی گره خوردهاند جلوی پیشرفت این تکنولوژی را گرفتهاند. با این وجود، واقعیت این است که این تکنولوژی میتواند مزایای متعددی داشته باشد. مثلا تصور کند با اصلاحاتی در آن بتوانیم در آزمایشگاه، اندامهای انسانی را تولید کنیم. آن وقت افراد زیادی که در صف دریافت پیوند کبد و کلیه هستند به سرعت به کبد و کلیههایی دست پیدا میکنند که در شرایط کنترلشده برای خود فرد تولید شده و احتمال پس زده شدن آن اندامها به حداقل رسیده است. اما ادعاهای اولیه چنان آخرالزمانی بودهاند که جذابیت سرمایهگذاری روی اشکال تعدیل یافتهی این تکنولوژی را نیز محدود کردهاند.
حالا بگذارید با این بصیرت که موانع انسانی و اجتماعی بر سر راه تکنولوژی وجود دارد، به تکنولوژی هوش مصنوعی برگردیم. تا همین چند سال پیش، ایدهی رباتهای انسان نما، ایدهای بسیار جذاب برای عموم بود. رباتی که اندامهای انسانگونه دارد و یک هوشمندی مرکزی رفتار و گفتار او را هدایت میکند. هنوز هم البته در نمایشگاههای تکنولوژیهای پیشرو، هر سال از رباتهای انساننمای جدیدی رونمایی میشود. اما با توسعه ابزارهای تحلیل زبانی مانند ChatGPT، این تکنولوژی جذابیت خود را بشدت از دست داده است. این زوال جذابیت، بیش از آن که نزد مردم و کاربران تکنولوژی باشد، نزد توسعهدهندگان تکنولوژی اتفاق افتاده است. به عبارتی سرمایهها در حال گسیل به سمت توسعهی ابزارهای متعدد شبیه ChatGPT است. سرمایهگذاریهایی که بالقوه میتوانستند بر روی رباتهای انساننما انجام شوند. به نظر میرسد هوش مصنوعیِ بدون بدن، به دلیل امکان دسترسی راحتتر، مقبولیت اجتماعی و صرفهی اقتصادی بیشتری برای تولیدکنندگان دارد. از این رو، دلیلی ندارد که رباتهای انساننما جز برای مقاصد تبلیغاتی بصورت انبوه تولید شوند. به این ترتیب، باز هم فاقد بدن بودن هوش مصنوعی نه به دلیل یک مانع تکنیکی بلکه به دلیل یک محدودیت اجتماعی و اقتصادی است. در جستار قبل تا حدی توضیح دادم که چطور بدنمند بودن هوش مصنوعی میتواند آن را تبدیل به محصولی متفاوت کند. در جستارهای آینده هم به این مسئله به طور ویژه خواهم پرداخت. آنچه در اینجا مهم است محدودیتی برای هوش مصنوعی است که نه ناشی از محدودیتهای تکنیکی، بلکه حاصل موانع اجتماعی است. این محدودیتها، نه فقط در رابطه با بدنمندی، بلکه در رابطه با بسیاری از جنبههایی که هوش مصنوعی بصورت بالقوه میتواند در آنها رشد کند خود را نمایان کنند.
ساخت هوش مصنوعیِ بدنمند تا حدی میتواند همان چالشهای کلونینگ انسان را ایجاد کند. دلیلی ندارد توسعه دهندگان هوش مصنوعی تا زمانی که با توسعه هوش مصنوعیهای غیر بدنمند رشد اقتصادی بسیار سریعی دارند بخواهند با برانگیختن سوالات وجودی از این دست، جامعه را با شوک جدی مواجه کنند. شوکی که میتواند منجر به بروز نگرانیهای متعدد و ایجاد مانع به همان نحوی که برای کلونینگ انسان شد بشود.
در این جستار نشان دادم که توسعهی تکنولوژیهای با محدودیتهای مختلف اجتماعی و انسانی روبرو است. مثالهای متعددی ارائه کردم که هر کدام نشان میداد با وجود فراهم بودن دانش و ابزار کافی برای توسعهی یک تکنولوژی، رشد آن توسط این موانع محدود شده است. در ادامه نشان دادم که عدم توسعه هوش مصنوعی در مسیرهای خاصی مانند هوش مصنوعی بدنمند تاکنون ناشی از محدودیتهایی از این دست بوده است. هوش مصنوعی، که فعلا پیروز میدان روایتهای آخرالزمانی در مورد تکنولوژیها است، احتمالا به زودی با این محدودیتهای اجتماعی و انسانی در حوزههای مختلف مواجه خواهد شد.
