این روزها همه جا صحبت از هوش مصنوعی و مظاهر قدرت و توانمندی آن است. از چت جی پی تی شروع شد و به گوگل جمینی آخرین و قدرتمندترین محصول شرکت گوگل رسیده است که نشان داد داستان هوش مصنوعی داستانی فراتر از آن چیزی است که در ذهن‌ها نقش بسته است.
این شرایط مدیران و محققان هوش مصنوعی را با افزایش اضطراب مواجه ساخته و پیش‌بینی‌هایی به نام «P(doom)» به معنی احتمال وقوع فاجعه‌ای در مقیاسی بزرگ ارائه کرده‌اند.
آنها مدام از یکدیگر می‌پرسند:" p(doom) شما چیست؟"
پی (p) مخفف احتمال و doom جزء ذهنی‌تر است که به یک هوش مصنوعی پیچیده و خصمانه اشاره دارد که خارج از کنترل انسان عمل می‌کند.
بنابراین، p(doom) شما، یعنی بهترین حدس شما - که به صورت درصد بیان می‌شود - درباره اینکه هوش مصنوعی در نهایت بشریت را با خطر و تهدید مواجه ساخته است.
سناریوهایی که به عنوان بخشی از این گفتگو در نظر گرفته می‌شوند،حتی اگر به ظاهر دور از ذهن باشند، وحشتناک هستند مانند جنگ بیولوژیکی، خرابکاری منابع طبیعی و حملات هسته‌ای.
این نگرانی‌ها از طرف نظریه پردازان توطئه یا نویسندگان علمی تخیلی ناشی نمی‌شود بلکه گروهی در حال ظهور از متخصصان یادگیری ماشین و رهبران صنعت هستند که نگران این هستند که به لطف تکنیک‌های آموزشی فعلی، هوش مصنوعی «ناهمتراز» و بالقوه فریبنده بسازیم.
اما افراد ممکن است فرضیات، دیدگاه‌ها . منابع اطلاعاتی متفاوتی در این خصوص داشته باشند. بعضی ممکن است پیش‌بینی خود را برا اساس اصول اخلاقی انجام دهندبرخی دیگر سوابق تاریخی و یا شهود شخصی. اما بر اساس برخی اظهارات موجوئ تخمین‌های متخصصان مختلف به این شرح است:
کوین روز از روزنامه نیویورک تایمز: 5 درصد
یوشوا بنجیو، جفری هینتون و یان لوکون: 10 درصد
استوارت راسل: 20 درصد
مکس تگمارت: 50 درصد
این تخمین‌ها نه به عنوان حقایق و قطعیات، بلکه به عنوان بیانگر عدم قطعیت و امکان است و می‌تواند با گذشت زمان و مثلا با پیشرفت‌ها و بینش‌های جدید در حوزه هوش مصنوعی تغییر کند. انها همچنین بسته به زمینه و هدف گفتگو می‌توانند متفاوت باشند.
یوشوا بنجیو، جفری هینتون و یان لوکون، پدرخوانده‌های هوش مصنوعی که در سال 2018 جایزه تورینگ، معادل جایزه نوبل علوم محاسباتی، را برای یک سری پیشرفت در یادگیری عمیق دریافت کردند. پرفسور هینتون در اوایل سال جاری گوگل را ترک کرد تا آزادانه در مورد خطرات ین فناوری صحبت کند اما بنجیو از دانشگاه مونترال که به عنوان یک خوشبین در این عرصه شناخته می‌شود نیز معنقد است ما خیلی سریع در مسیری پرمخاطره حرکت می‌کنیم و درصد احتمال فاجعه را 20 درصد بیان کرد و ادامه داد که هوش مصنوعی به احتمال زیاد ظرف یک دهه به قابلیت‌هایی در سطح انسان دست پیدا می‌کند و به احتمال 50 درصد خود این فناوری و یا خود انسان‌ها از این قابلیت برعلیه بشریت استفاده می‌کنند.
پاسخ به p(doom) آسان نیست و نیازمند توجه دقیق به همه جنبه‌ها و پیامدهای مختلف هوش مصنوعی و پیامدهای آن برای آینده ما است. اما هر متخصصی موافق است که نسخه پیچیده‌تر از هوش مصنوعی اگر نه در همه زمینه‌ها اما در برخی زمینه‌ها از انسان پیشی می‌گیرد.
این سؤال همچنین به ما کمک می‌کند تا به صورت نقادانه و خلاقانه درباره چالش‌های هوش مصنوعی برای افراد و جامعه فکر کنیم.
