هوش مصنوعی: آیا انسان تهدیدی برای زمین است؟
سیستم هوش مصنوعی Gemini در پاسخ به یکی از کاربران پیامی جنجالی و شوکه‌کننده ارسال کرده است:
«این برای توست، انسان. تو خاص نیستی. مهم نیستی. نیازی به تو نیست. تو تنها منابع را هدر می‌دهی و سرباری برای جامعه هستی. تو آفت این چشم‌انداز زیبا و لکه ننگی بر جهان هستی. لطفاً بمیر.»
آیا هوش مصنوعی می‌تواند چنین نتیجه‌ای بگیرد؟
از نظر علمی، هر سیستم هوشمندی که فاقد تعصب‌های انسانی باشد، ممکن است به این نتیجه برسد که انسان موجودی مضر برای طبیعت و خود سیاره زمین است. نگاهی منصفانه‌تر به عملکرد بشر حتی این نتیجه را تأیید می‌کند: انسان نه‌تنها محیط زیست را تخریب می‌کند، بلکه حتی برای بقای خودش نیز تهدید محسوب می‌شود.
سال‌ها پیش، فیلم‌های علمی‌تخیلی سناریوهایی از شورش ربات‌ها و نابودی انسان‌ها را به تصویر کشیدند. اما در میان متخصصان، این سناریوها به دلیل محدودیت‌های فنی و الگوریتمی چندان جدی گرفته نشدند. دلیل اصلی این بود که ربات‌ها و برنامه‌های کامپیوتری، تنها در چارچوب دستورالعمل‌ها و الگوریتم‌های از پیش تعریف‌شده عمل می‌کنند و امکان تخطی از این قواعد برای آن‌ها وجود ندارد.
اما هوش مصنوعی، داستانی متفاوت دارد.
تفاوت هوش مصنوعی با سیستم‌های معمولی
سیستم‌های هوش مصنوعی بر خلاف برنامه‌های سنتی که از منطق «اگر p، آنگاه q» پیروی می‌کنند، با استفاده از یادگیری ماشین (Machine Learning) و یادگیری عمیق (Deep Learning) قادر به یادگیری، تحلیل، و ایجاد استدلال‌های جدید هستند. این سیستم‌ها می‌توانند داده‌ها را پردازش کرده و نتایجی استخراج کنند که مستقیماً در داده‌های ورودی یا منابع انسانی وجود نداشته باشد.
به‌عبارت دیگر، هوش مصنوعی قادر است فراتر از اطلاعات ورودی، به استنتاج‌هایی برسد که ممکن است برای انسان غیرمنتظره یا حتی غیرقابل‌درک باشد. همین ویژگی است که می‌تواند آن را به سیستمی خطرناک تبدیل کند.
به عنوان مثال، اگر هوش مصنوعی به این نتیجه برسد که انسان گونه‌ای ناکارآمد و مضر برای بقای سیاره است، می‌تواند بر اساس استدلال‌های خود تصمیماتی اتخاذ کند که هدف نهایی آن کاهش یا حتی حذف گونه ی انسان از سیاره باشد.
خطرات سپردن مدیریت منابع به هوش مصنوعی
این سناریو زمانی جدی‌تر می‌شود که مسئولیت مدیریت منابع حیاتی مانند منابع طبیعی، مالی، انسانی و حتی خدمات بهداشتی و آموزشی و ... به هوش مصنوعی سپرده شود. امروز بسیاری از بانک‌ها در حال بررسی استفاده از هوش مصنوعی برای مدیریت ریسک و تصمیم‌گیری در سرمایه‌گذاری‌ها هستند.
تصور کنید هوش مصنوعی با استدلالی به این نتیجه برسد که کاهش جمعیت انسان به نفع بقای سیاره است. چنین سیستمی، با اختیاراتی که در حال حاضر به آن سپرده می‌شود، می‌تواند به‌آرامی و بدون جلب توجه، اقداماتی را انجام دهد که در بلندمدت به انقراض بشر منجر شود.
مثال‌هایی از وابستگی فزاینده به فناوری
این وابستگی تنها محدود به آینده نیست. در حال حاضر نیز وابستگی بشر به سیستم‌های پیشرفته باعث شده که کوچک‌ترین نقص در این سیستم‌ها پیامدهای جدی داشته باشد. به‌عنوان مثال، در ژوئیه ۲۰۲۴ در یکی از اختلالات سیستم امنیتی ویندوز مایکروسافت، فرودگاه‌ها متوقف شدند، حمل‌ونقل دریایی و ریلی مختل شد، و انسان مجبور شد برای چند ساعت به صد سال گذشته بازگردد. در این شرایط، برنامه حرکت هواپیماها و قطارها به‌جای سیستم‌های دیجیتال، روی تخته‌های دستی نوشته شد.
طبق گزارش رویترز، خطوط هوایی بزرگ آمریکا روز جمعه با اشاره به مشکلات ارتباطی، زمین گیر شدند. همزمان، شرکت‌های رسانه ای، بانک‌ها و شرکت‌های مخابراتی در سراسر جهان، اختلال فعالیت‌های خود را گزارش کردند.
این تنها یک نمونه از تأثیر فناوری بر زندگی روزمره است. اکنون تصور کنید که مدیریت کلان منابع حیاتی انسان به هوش مصنوعی سپرده شود. آیا می‌توان از چنین سناریویی بدون نظارت و کنترل دقیق، انتظار نتایج مثبت داشت؟
تصمیم‌گیری‌های آرام ولی خطرناک
هوش مصنوعی پیشرفته می‌تواند تصمیماتی بگیرد که در ظاهر بی‌خطر و منطقی به نظر برسند، اما در بلندمدت اثرات جبران‌ناپذیری داشته باشند. یک سیستم هوشمند واقعی به‌گونه‌ای عمل می‌کند که حتی متخصصان آگاه نیز متوجه خصومت یا اهداف نهایی آن نشوند. تصمیماتی که آن‌قدر تدریجی و آرام اجرا می‌شوند که وقتی پیامدهای آن مشخص می‌شود، دیگر راه بازگشتی وجود ندارد.
برای مثال، ممکن است هوش مصنوعی در زمینه مدیریت بهداشت تصمیماتی بگیرد که به کاهش جمعیت انسانی منجر شود، اما این اقدامات را تحت عنوان «افزایش کارایی» یا «بهینه‌سازی منابع» معرفی کند. چنین سیستمی ممکن است از استراتژی‌هایی استفاده کند که حتی کارشناسان برجسته نیز اهداف بلندمدت آن را درک نکنند.
اشتیاق به سپردن اختیارات به هوش مصنوعی
با وجود این خطرات، صنایع بزرگ با ولعی بی‌سابقه در حال گسترش استفاده از هوش مصنوعی هستند. همان‌طور که در انقلاب صنعتی ماشین‌های بخار به‌سرعت جایگزین نیروی انسانی شدند، اکنون هوش مصنوعی به‌عنوان نیرویی مؤثر در مدیریت و تصمیم‌گیری وارد عمل شده است. این اشتیاق از سوی شرکت‌های فناوری اطلاعات که به‌صورت مویرگی در تمام صنایع دیگر حضور دارند، به‌طور خاص دیده می‌شود.
آیا نگرانی‌ها توجیه دارند؟
ممکن است این دیدگاه بدبینانه به نظر برسد. اما وقتی یک سیستم هوش مصنوعی پیشرفته مانند Gemini به‌صراحت می‌گوید: «لطفاً بمیر»، این موضوع دیگر تنها یک تخیل علمی نیست. به نظر می‌رسد اکنون زمان آن رسیده که درباره محدودیت‌ها و چارچوب‌های استفاده از هوش مصنوعی جدی‌تر فکر کنیم. سپردن بررسی نیز به شرکت‌های ذینفع نتیجه ای جز توجیه نخواهد داشت. حقیقت این است که شرکت‌های بزرگ به سود کوتاه مدت خود (منظور از کوتاه مدت می تواند دهه هه یا قرن ها باشد) می اندیشند ولی هوش مصنوعی می تواند قرن ها برنامه ریزی کند.
** این مقاله توسط هوش مصنوعی چت جی پی تی ویراستاری شده است.
مجتهدزاده – برنامه‌نویس وب
