99.9٪ احتمال دارد هوش مصنوعی ما را نابود کند

پادکستر Lex Fridman در قسمت اخیر گفت که بیشتر مهندسان هوش مصنوعی که او با آن‌ها صحبت کرده، بین یک تا 20 درصد احتمال می‌دهند که هوش مصنوعی عمومی در نهایت انسان‌ها را نابود کند.

پیش‌بینی بسته به نحوه سؤال شما متفاوت است. برای مثال، یک مطالعه اخیر که با 2,700 محقق هوش مصنوعی انجام شد، فقط 5 درصد احتمال می‌دهد که هوش مصنوعی منجر به انقراض انسان‌ها شود.

اما Fridman گفت که مهم است با افرادی صحبت کنیم که احتمال بسیار بالاتری را برای انقراض توسط هوش مصنوعی تخمین می‌زنند — مثل محقق هوش مصنوعی Roman Yampolskiy، که در مصاحبه‌ای که یکشنبه منتشر شد به پادکستر گفت که او این احتمال را 99.9 درصد در صد سال آینده می‌داند.

این محقق هوش مصنوعی در دانشگاه Louisville علوم کامپیوتر تدریس می‌کند و به تازگی کتابی به نام "AI: Unexplainable, Unpredictable, Uncontrollable" منتشر کرده است.

او بیش از دو ساعت درباره ریسک‌های هوش مصنوعی در پادکست Fridman بحث کرد — و پیش‌بینی‌های او بسیار تلخ بودند.

او گفت که احتمال انقراض انسان‌ها توسط هوش مصنوعی به این بستگی دارد که آیا انسان‌ها می‌توانند نرم‌افزارهای بسیار پیچیده‌ای را بدون هیچ گونه خطا در صد سال آینده خلق کنند یا نه. Yampolskiy گفت که این امر بعید است چرا که هیچ مدل هوش مصنوعی تا به حال کاملاً ایمن نبوده و توسط افرادی که سعی در انجام کاری دارند که هوش مصنوعی برای آن طراحی نشده است، مورد سوءاستفاده قرار نگرفته است.

آنها قبلاً اشتباهاتی کرده‌اند، Yampolskiy گفت. "ما حوادثی داشته‌ایم، آنها هک شده‌اند. من فکر نمی‌کنم که امروز مدل زبان بزرگی وجود داشته باشد که هیچ‌کس موفق به انجام کاری با آن نکرده باشد که توسعه‌دهندگان قصد انجام آن را نداشته‌اند."

نسخه‌های اولیه مدل‌های هوش مصنوعی در دو سال گذشته، نشانه‌های مختلفی از سوءاستفاده یا اطلاعات نادرست را برجسته کرده‌اند. Deepfakes تصاویر پورنوگرافی جعلی از شخصیت‌های عمومی زن ایجاد کرده‌اند و با تماس‌های روباتیک هوش مصنوعی که صدای رئیس‌جمهور بایدن را تقلید می‌کنند، تهدید به تأثیرگذاری بر انتخابات کرده‌اند.

Google AI Overviews، که بر اساس مدل هوش مصنوعی Gemini گوگل ساخته شده است، جدیدترین محصولی است که نتوانست موفق شود. این ویژگی جدید در جستجوی گوگل قرار بود مرورهای سریع و اطلاعاتی برای برخی از پرسش‌ها در بالای نتایج جستجو ارائه دهد. اما به جای آن، به خاطر پاسخ‌های بی‌معنی مانند پیشنهاد پختن پیتزا با چسب یا گفتن اینکه هیچ کشوری در آفریقا با حرف K شروع نمی‌شود، ویروسی شد.

Yampolskiy گفت که برای کنترل هوش مصنوعی، نیاز به یک ماشین ایمنی دائمی داریم. Yampolskiy گفت حتی اگر در نسخه‌های بعدی GPT کار خوبی انجام دهیم، هوش مصنوعی همچنان به بهبود، یادگیری، خود-اصلاح و تعامل با بازیگران مختلف ادامه خواهد داد — و با ریسک‌های وجودی، "فقط یک شانس دارید."

مدیرعامل توسعه‌دهنده ChatGPT یعنی OpenAI، Sam Altman، یک "محیط نظارتی" پیشنهاد داده است که در آن افراد با هوش مصنوعی تجربه می‌کنند و بر اساس آنچه "واقعاً غلط پیش رفته" و آنچه "واقعاً درست پیش رفته" آن را تنظیم می‌کنند.

Altman یک بار در سال 2015 هشدار داد — یا شاید هم شوخی کرد — که "آینده هوش مصنوعی احتمالاً به پایان دنیا منجر خواهد شد، اما در این بین، شرکت‌های بزرگی وجود خواهند داشت."

به تازگی، Altman گفته است که چیزی که مانع خواب او می‌شود "همه چیزهایی از دنیای علمی تخیلی" مربوط به هوش مصنوعی است، از جمله چیزهایی که "به راحتی می‌توان تصور کرد که به اشتباه پیش خواهند رفت."

از زمانی که ChatGPT در نوامبر 2022 جهان را به تسخیر درآورد، پیش‌بینی‌های مختلفی در مورد چگونگی منجر شدن هوش مصنوعی به سقوط بشریت انجام شده است.

اما Yampolskiy همچنین هشدار داد که "ما نمی‌توانیم پیش‌بینی کنیم که یک سیستم هوشمندتر چه خواهد کرد." او انسان‌ها را در مقایسه با AGI یا هوش مصنوعی عمومی، به سنجاب تشبیه کرد و گفت هوش مصنوعی با چیزی که حتی نمی‌دانیم وجود دارد، محقق خواهد شد.

با این حال، Yampolskiy سه حوزه از نتایج را پیش‌بینی می‌کند. یکی از ریسک‌ها این است که همه خواهند مرد، دیگری این است که همه رنج خواهند برد و آرزو خواهند کرد که ای کاش مرده بودند و دیگری این است که انسان‌ها به طور کامل هدف خود را از دست داده‌اند.

آخری به دنیایی اشاره دارد که در آن سیستم‌های هوش مصنوعی خلاق‌تر از انسان‌ها هستند و می‌توانند همه مشاغل را انجام دهند. در آن واقعیت، مشخص نیست که انسان‌ها برای مشارکت چه کاری انجام خواهند داد، Yampolskiy گفت، نگرانی‌هایی را بازتاب می‌دهد درباره اینکه آیا هوش مصنوعی شروع به گرفتن مشاغل انسان‌ها خواهد کرد یا خیر.

بیشتر افراد در این حوزه برخی سطوح ریسک با هوش مصنوعی را تصدیق می‌کنند، اما فکر نمی‌کنند که احتمالاً اوضاع به بدی ختم شود. Elon Musk احتمال 10-20 درصدی را پیش‌بینی کرده که هوش مصنوعی انسانیت را نابود کند. مدیرعامل سابق گوگل Eric Schmidt گفته است که خطرات واقعی هوش مصنوعی، که شامل حملات سایبری و بیولوژیکی هستند، در سه تا پنج سال آینده ظاهر خواهند شد. اگر هوش مصنوعی اراده آزاد پیدا کند، Schmidt یک راه حل ساده دارد: انسان‌ها می‌توانند آن را از برق بکشند.

منبع : Business Insider

🔹این مقاله به صورت ماشینی، توسط Aiticle تولید شده و ممکنه ایراداتی داشته باشه، فیدبک‌های شما به ما در جهت بهبود سیستممون خیلی کمک میکنه :) لطفا نظراتتون رو باهامون به اشتراک بگذارین.