نگرانی از آینده همواره بخشی جدایی ناپذیر از ذهن انسان را به خود مشغول می‌کند. برخی از این نگرانی‌ها موجه و منطقی هستند اما برخی دیگر از اضطراب و ترس بی‌مورد ناشی می‌شوند. در این میان هوش مصنوعی با توجه به شمه‌هایی که از خود نشان داده، دلایلی منطقی برای ترسیدن از خود به ما داده است.
ادوارد اسنودن متخصص شبکه‌های کامپیوتری و افشاگر مشهور اسناد محرمانه آژانس امنیت ملی آمریکا در این باره می‌گوید:
با پیشرفت فناوری‌های مربوط به هوش مصنوعی بزرگترین خطرین همچنان در مقابل ماست. یک دوربین مدار بسته مجهز به هوش مصنوعی تنها یک ضبط صوت نخواهد بود بلکه یک افسر پلیس ترسناک خواهد بود.
تعریف هوش مصنوعی به صورت کلی چنین است که:
سیستم‌هایی است که واکنش‌هایی مشابه رفتار‌های هوشمند انسان از جمله درک شرایط پیچیده، یادگیری و توانایی کسب علم و استدلال برای حل مسائل، شبیه‌سازی شیوه‌های استدلالی انسان و پاسخ کارامد به آن‌ها دارد.
هوش مصنوعی می‌تواند برای انسان خطرات زیادی را به وجود بیاورد. دانشمندان و چهره‌های شناخته شده‌ی مختلف از جمله استیون هاوکینگ و ایلون ماسک بارها نسبت به پیامد‌های آن هشدار داده اند.
هوش مصنوعی از چند راه مختلف می‌تواند برای موجودیت انسان خطرساز باشد؛ از هوش مصنوعی که کدهای آن به گونه‌ای نوشته شده باشد تا به انسان آسیب برساند تا هوش مصنوعی که به صورت خودکار انسان را تهدیدی برای خود تشخیص دهد و در صدد صدمه رساندن به انسان برآید.
خطرناکترین راه‌های آسیب رسان هوش مصنوعی به صورت زیر هستند:
۱-هوش مصنوعی که به منظور هدفی ویرانگر طراحی شده باشد
سلاح‌های خودکار در واقع سیستم‌های هوش مصنوعی عستند که به منظور کشتار طراحی شده اند. اگر افراد شرور و تروریست‌ها به این سلاح‌ها دست‌یابی پیدا کنند این خطر وجود دارد که جان انسان‌های بسیاری گرفته شود. از طرفی این سلاح‌ها به گونه‌ای طراحی شده‌اند که خاموش کردن آن‌ها بسیار دشوار است و این موضوعی است که باعث می‌شود که انسان‌ها دیگر نتوانند این سلاح‌ها را به کنترل خود در بیاورند.
۲-هوش مصنوعی که برنامه‌ای مفید برای آن نوشته شده باشد
این اتفاق زمانی می‌تواند باعث مشکل شود که اهدافی که شما برای هوش مصنوعی خود تعریف کرده‌اید به شیوه‌ی مورد انتظار پیش نرود. به طور مثال اگر شما از یک اتوموبیل مجهز به هوش مصنوعی بخواهید تا شما را به محل کارتان برساند ممکن است در مسیر راهتان با اتفاقات مرگباری مواجهه شوید. اگر از هوش مصنوعی درخواست کنید کاری برای شما انجام دهد، ممکن است او بدون درک صحیح از اتفاقاتی که رخ می‌دهد، آسیب‌های جبران ناپذیری به محیط زیست وارد کند.
۳-ابرهوش مصنوعی، مهم‌ترین خطر
ابرهوش مصنوعی در واقع سیستمی تکامل یافته است که هوش بیشتری نسبت به انسان دارد و برای رسیدن به اهدافش ممکن است دست به هرکاری بزند. اگر اهداف آن با اهداف انسان مطابقت نداشته باشد باعث ایجاد مشکلات فراوانی می‌شود.
در پژوهشی که سال ۲۰۰۲ درباره‌ی هوش مصنوعی توسط بولتون انجام شد آمده است: زمانی که اولین ابرهوش نفوذ ناپذیر ساخته شود امکان دارد که با انتخاب هدفی اشتباه برای آن باعث نابودی انسان شویم. برای مثال از آن دستگاه می‌خواهید که یک مسئله‌ی ریاضی را حل کند و در عوض این دستگاه تمام مواد منظومه‌ی شمسی را به یک ماشین حساب تبدیل کند.
