تهدید هوش مصنوعی: ترمیناتورهای سرکش؟

یک سامانه‌ی پیش‌رفته‌ی مبتنی بر هوش مصنوعی، موسوم به Skynet، ناگهان به خودآگاهی رسیده و تصمیم به نابودی تمدّن بشری می‌گیرد. این سناریوی فیلم Terminator است؛ سناریویی که بسیاری - به ویژه عامّه‌ی مردم - را نسبت به هوش مصنوعی بدگمان می‌کند. امّا به راستی بزرگ‌ترین تهدید هوش مصنوعی چیست؟ آیا واقعاً باید نگران حمله‌ی همه‌جانبه‌ی ترمیناتورهای سرکش باشیم؟

نکته: تمامی نوشته‌های آتی، دیدگاه شخصی بنده است و ممکن است هرکس با توجّه به تخصّص و/یا جهان‌بینی منحصر به فرد خود، به شیوه‌ی دیگری فکر کند. پذیرای تمامی نظرات هستم.

نخستین پرسش این است که آیا اصلاً امکان رسیدن هوش جامع مصنوعی (Artificial General Intelligence – سامانه‌ای که فقط برای انجام یک وظیفه همچون بازی شطرنج طرّاحی نشده است؛ بلکه عملاً می‌تواند از پس هر کاری (و در تعریفی دیگر: هر فکری) که از انسان بر می‌آید، برآید.) به سطحی که با هوش انسان قابل قیاس باشد وجود دارد؟

برخی معتقدند که مخلوق هیچ‌گاه نمی‌تواند بهتر از خالقش شود. امّا شخصاً هیچ‌گاه متوجّه نشدم که این ادّعا بر چه فلسفه‌ای بنا شده و چرا نباید جز این فکر کنیم. چه چیز می‌خواهد جلوی یک سخت‌افزار قابل قیاس با مغز انسان که درحال اجرای یک شبکه‌ی عصبی مصنوعی (Artificial Neural Network) بسیار گسترده است را بگیرد که به انسان نرسیده و حتّی از او پیشی نگیرد؟ اصلاً تفاوت میان انسان و ماشین چیست؟ آیا ما چیزی جز ماشین‌هایی بیولوژیک هستیم که توسّط طبیعت و طی میلیون‌ها سال فرگشت، «برنامه‌‌نویسی» شده‌ایم؟ زمانی که از روان‌پزشکتان دارویی دریافت می‌کنید تا مثلاً با ایجاد تغییراتی در ترشّح هورمون‌هایتان، رفتار و افکار شما را تغییر دهد، یا حتّی زمانی که مشغول تماشای پروپاگاندایی سیاسی هستید، آیا جز این است که دارید برنامه‌نویسی مجدّد می‌شوید؟

بنا بر باور شخصی من، هوش مصنوعی از انسان نیز پیشی خواهد گرفت. تنها دلیلی که هنوز نمی‌توانیم سامانه‌هایی بسازیم که با انسان (یا حتّی با یک حشره) قابل قیاس باشند، محدودیت‌های علمی و فن‌آورانه است. هر زمان که بتوانیم فرایندهای مغزی یک موجود زنده را به طور کامل مدل‌سازی کرده (که خود پاسخ‌های صریحی راجع به مسائلی چون منشاء خودآگاهی نیز می‌دهد) و همچنین سخت‌افزار مناسبی نیز برای پیاده‌سازی مجدّد این مدل داشته باشیم (نمی‌دانم، شاید روی یک کامپیوتر کوانتومی یا حتّی یک کامپیوتر بیولوژیکی! که گفته که کامپیوترها حتماً باید از ترانزیستورهای فلزی بهره ببرند؟)، هیچ‌چیز جلوی ما را نمی‌گیرد که دست به آفرینش حیات زده و سامانه‌هایی به خوبی یا حتّی بهتر از خودمان طرّاحی کنیم. سامانه‌های مستقلّی که حتّی می‌توانند خود را نیز بازطرّاحی و برنامه‌نویسی دوباره کرده و چنان پیشرفت کنند که فکرش را هم نتوانیم بکنیم. امّا چه وقت چنین چیزی رخ می‌دهد؟ به عقیده‌ی من نه در آینده‌ای نزدیک! (البته اگر کسی از آینده‌ای نزدیک درحال خواندن این مطلب من است که حال نوشته‌ای تاریخی نیز محسوب می‌شود و در زمان او دانش و فن‌آوری بشر به چنین درجه‌ای رسیده است، لطفاً مرا مسخره نکند! فرزند عزیزِ نادیده‌ام (البته امیدوارم شانس آورده باشی و منقرضت نکرده باشم!)؛ حق بده که پیش‌بینی دنیای فن‌آوری، حتی برای فقط پنج‌سال آتی نیز بسیار دشوار است.)

نسل ما باید همان‌قدر نگران سامانه‌های مصنوعی خودآگاه و حمله‌ی ترمیناتورهای سرکش باشد که نگران ازدیاد جمعیت در سیّاره‌ی مرّیخ است!

با این وجود شاید تهدیدات دیگری نیز از جانب هوش مصنوعی وجود داشته باشند که دقیقاً نسل خود ما را نشانه رفته‌اند! لازم نیست هوش مصنوعی حتماً بهتر از بشر باشد تا مفهوم بشریت را زیر سؤال ببرد. چهار تهدید اصلی از نظر من از این قرار است:

• توتالیتاریسم هوشمند
• آزادگانِ بَرده
• اَبَر-رقبا
• سقوط اومانیسم

در هیچ یک کسی توسّط شلّیک سرب داغ از سوی آدم‌آهنی‌ها کشته نخواهد شد؛ امّا می‌تواند شرایطی بدتر از مرگ نیز پیش آید! به ترتیب به هر یک خواهم پرداخت:

توتالیتاریسم هوشمند

توتالیتاریسم (فرانسوی: Totalitarisme | انگلیسی: Totalitarianism | برابر فارسی: تمامیت‌خواهی، فراگیری) به طور خلاصه در «دانشنامهٔ سیاسی - داریوش آشوری» چنین تعریف شده است:

[...] فراگیر یا توتالیتر به عنوان صفت برای رژیم‌هایی به کار می رود که دارای این مشخصات باشند: نظارت دولت بر همه‌ی جنبه‌های فعالیت اقتصادی و اجتماعی؛ انحصار قدرت سیاسی در دست یک حزب حاکم و حذف هرگونه نظارت آزادانه‌ی جامعه – اغلب در داخل خود حزب نیز – بر دولت؛ دست‌یازی به ترور برای سرکوبی هرگونه مخالفت و نارضایی؛ تسلط یک فرد یا یک گروه بر حزب و دولت؛ تلاش برای شکل دادن به جامعه بر اساس ایدئولوژی حزبی؛ بسیج همه‌ی نیروهای جامعه در راه هدف‌های حزب و دولت؛ و از میان بردن آزادیهای فردی. در دولت فراگیر دست‌یازی‌های دولت در حیات جامعه محدود به هیچ حد قانونی نیست و دولت با یکسان کردن آموزش، نظارت بر فعالیتهای ادبی و هنری و در دست گرفتن تمام رسانه‌ها و مجراهای خبری و نظارت بر آن‌ها همه‌ی نیروهای جامعه را در خدمت خود می‌گیرد و هدایت می‌کند. دولت فراگیر وجود گروه‌ها یا افرادی را که نخواهند گردن به رهنمودهایش بگذارند یا در جهت هدف‌هایش وظیفه‌ی معینی بر عهده نداشته باشند تاب نمی‌آورد. [...]

برای اطّلاعات بیشتر نیز کتاب The Origins of Totalitarianism - Hannah Arendt (بخشی از این کتاب نیز تحت نام «توتالیتاریسم» به فارسی ترجمه شده است) را پیشنهاد می‌کنم. امّا در هر صورت اگر از پیش نمی‌دانستید که توتالیتاریسم چیست، با توضیحات بالا باید به شناختی کافی دست یافته باشید.

هم علم و هم فن‌آوری، در نهایت ابزار هستند و این که چگونه و با چه هدفی استفاده شوند، کاملاً به کاربرشان بستگی دارد. هوش مصنوعی و داده‌کاوی نیز استثنا نیستند. هم‌اکنون که درحال نگارش این مطلب هستم، همراه با تیمی مشغول پژوهش و توسعه‌ی سامانه‌ای هستیم جهت تشخیص نوعی بیماری مغزی، آن هم در مراحل اوّلیه‌اش و پیش از این که به مرحله‌ی حاد رسیده و برای درمانش دیر شود، و آن هم بدون نیاز به انجام آزمایش‌های دردناک و گران و یا حتّی نیاز به حضور یک پزشک متخصّص (که ممکن است به ویژه در شهرهای کوچک، در دسترس نباشد). امّا همه‌ی کاربردها لزوماً تا این حد بشردوستانه نیستند. هوش مصنوعی می‌تواند به عنوان سلاحی در دستان یک حکومت توتالیتر نیز به کار گرفته شده و جهت اعمال نفوذ داخلی و خارجی و شناسایی و سرکوب مخالفان و دگراندیشان نیز مورد استفاده قرار گیرد و ویران‌شهری همچون رمان «۱۹۸۴ - جورج اورول»، امّا بسیار پیش‌رفته‌تر و مجهّزتر را پدید آورد.

به خبر زیر توجّه کنید، به ویژه به ادبیات خاصّ ژورنالیستیِ آن:

In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English.

این خبر توسّط انسان تولید نشده است؛ بلکه خروجی یک مدل زبانی موسوم به GPT-2 بوده که می‌تواند صرفاً با دریافت یک یا چند جمله‌ی ساده، آن‌ها را تکمیل کرده و یک گزارش خبری جعلی تحویلتان دهد! (مقاله و جزئیات بیشتر [+]). حال به ویدیوی زیر توجّه کنید:

فن‌آوری مورد استفاده، Deepfake نام داشته و می‌تواند تک‌تک حالات چهره‌ی شخصی را بخاطر بسپارد و یک ویدیوی کاملاً جعلی از او تهیه کند. دیگر خودتان می‌توانید تصوّر کنید که یک حکومت توتالیتر می‌تواند با چنین چیزی دست به چه کارهایی بزند، چقدر دروغ بگوید و تا چه حد با دروغ به خود مشروعیت ببخشد.

«اهورامزدا این کشور را بپاید از سپاه دشمن، از خشکسالی و از دروغ. به این کشور نیاید، نه سپاه دشمن، نه خشکسالی و نه دروغ.» — داریوش یکم هخامنشی، سنگ‌نوشته‌ی DPd پارسه (تخت جمشید)
منبع و متن اصلی: http://irania.ir/ie/3821

از هنرهای هوش مصنوعی، استخراج الگوهاست که منجر به پیش‌بینی و کشف ناشناخته‌ها می‌شود. لذا یک حکومت توتالیتر می‌تواند از همین موضوع استفاده کرده و شهروندان را به شدّت تحت نظارت و کنترل قرار دهد. لازم نیست برای هرکس یک اوپراتور انسانی قرار دهد که او را ۲۴ ساعته با دوربین‌های مداربسته کنترل کند. کافیست بگذارد هوش مصنوعی این کار را به صورت خودکار انجام دهد. حتّی بی‌ارزش‌ترین اطّلاعاتی همچون مسیرهای تردّد، الگوهای رأی‌دهی، حضور یا عدم حضور در مراسم‌های مختلف و... می‌توانند نهایتاً به آن حکومت کمک کنند که رفتار و افکار هر شهروند را پیش‌بینی کرده و دگراندیشان را شناسایی و جهت سرکوب و حذف آن‌ها اقدام کند.

البته از سمتی دیگر نیز می‌توان با خود هوش مصنوعی به جنگ این رویکرد رفت. مثلاً هوش مصنوعی می‌تواند نقش شایانی در شناسایی اخبار جعلی یا تشخیص تصاویر واقعی از ساختگی ایفا کند. علاوه بر آن، می‌توان سیستمی برای صحت‌سنجی محتوای چندرسانه‌ای نیز پیاده‌سازی کرد که مثلاً هر عکس و ویدیوی دارای جنبه‌ی خبری، به شیوه‌ای توسّط منبع معتمد منتشرکننده‌ی آن امضای دیجیتالی شده و دارای یک شناسه‌ی منحصربه‌فرد شود تا راه اخبار جعلی سد شود. و یا باز هم با بهره‌گیری از هوش مصنوعی (در کنار روش‌هایی دیگر) کاربران واقعی شبکه‌های اجتماعی از کاربران جعلی‌ای که به صورت فله‌ای اقدام به نشر اخبار جعلی یا پروپاگاندا می‌کنند تفکیک شود.

آزادگانِ بَرده

حتماً لازم نیست که هوش مصنوعی در دستان یک حکومت توتالیتر قرار گیرد تا خطرناک شود. حتّی در یک دولت‌شهر مبتنی بر دموکراسی نیز هوش مصنوعی می‌تواند به عنوان ابزاری جهت کُشتن آزادی مورد استفاده قرار گیرد. شاید باورتان نشود امّا شما (هم به عنوان یک فرد و هم به عنوان یک جامعه) بسیار بسیار قابل پیش‌بینی‌تر از آن هستید که گمان می‌کنید!

فرض کنید شرکت بیمه‌ی شما با تحلیل داده‌هایی عمومی که خودتان مثلاً در اینستاگرام به اشتراک می‌گذارید، و یا با دسترسی به لیست تراکنش‌های مالیتان و اطّلاع از این که پولتان را چه وقت و در چه جاهایی خرج می‌کنید، از عادت‌های شخصی شما و سبک زندگی‌تان باخبر بشود. مثلاً از آن‌جایی که هر هفته چندین‌بار از کارتخوان یک فست‌فودی استفاده کردید، بفهمد که عادت به مصرف افراطی غذاهای پرچرب دارید. یا از آن‌جایی که چندین بار مبلغی معادل جریمه‌ی سرعت غیر مجاز را به پلیس پرداخت کرده‌اید، بفهمد که معمولاً عادت به رانندگی ورای سرعت مجاز را دارید. حال بر اساس این یافته‌ها، به این نتیجه برسد که شما به احتمال زیاد مشتری پُرخطری برای منافع اقتصادی‌اش هستید و تصمیم گیرد که به شما خدمات نداده و به سراغ مشتریان کم‌خطرتر برود.

یا تصوّر کنید که احزاب سیاسی بتوانند نتایج انتخابات را از قبل پیش‌بینی کنند. فکر می‌کنید غیرممکن است؟ محض اطّلاعتان پیش از انتخابات ریاست جمهوری ۱۳۹۶ در ایران، مسابقه‌ای در کشور، در حوزه‌ی متن‌کاوی (Text Mining) و پردازش زبان طبیعی (Natural Language Processing) برگزار شد و در آن شرکت‌کنندگان می‌بایست با استفاده از فقط مجموعه‌داده‌ای که از محتوای فارسی عمومی موجود در تلگرام (مطالب کانال‌های خبری عمومی و...) گردآوری شده بود، دست به پیش‌بینی نتیجه‌ی انتخابات بزنند. گروه‌های مختلفی شرکت کردند و سپس با اعلام نتایج واقعی، دقّت پیش‌بینی‌هایشان ارزیابی شد. نه تنها به وضوح پیش‌بینی شد که حسن روحانی پیروز این انتخابات است، بلکه درصد آرا نیز با دقّت سرسام‌آور ۹۹/۹۹۸٪ تخمین زده شد! (برای اطّلاع از جزئیات بیشتر و نتایج مستقل هر تیم به nlpcontest.com مراجعه نمایید)

حال به این فکر کنید که یک حزب سیاسی، با اطّلاع قبلی از این که نتیجه‌ی انتخابات چه خواهد شد، رویکرد مناسبی را اتّخاذ و دست به تبلیغات مناسبی بزند. این تبلیغات حتّی می‌توانند برای هرکس شخصی‌سازی‌شده و هدف‌مند باشند. مگر همین الآن گوگل، فیس‌بوک، آمازون و... نمی‌توانند با مدل‌سازی شخصیت شما، دست به تبلیغات هدف‌مند زده و محصولاتی را به شما نشان دهند که می‌دانند به احتمال زیاد مورد توجّه شما قرار خواهد گرفت؟ حال اگر چنین شرکت‌هایی به طور خاص در خدمت یک حزب سیاسی قرار گیرند چه؟ به راحتی می‌توان حدس زد که گرایش سیاسی شما چیست و به احتمال زیاد به چه کسی می‌خواهید رأی دهید و در صورت لزوم می‌توان نظرتان را نیز عوض کرد! فرض کنید مثلاً یک حزب چپ‌گرا از گرایش راست‌گرایانه‌ی شما باخبر شده (آن هم از سال‌ها پیش از انتخابات) و به مرور لابلای آن‌چه در فید اینستاگرام و توییتر به شما نمایش داده می‌شود، مطالبی راجع به اختلاف طبقاتی، هزینه‌های سرسام‌آور خدمات درمانی خصوصی و... نیز جای داده شود تا به تدریج نظرتان را عوض کند. در ظاهر همچنان دموکراسی وجود دارد و شما با میل خود به پای صندوق‌های رفته‌اید و به حزب منتخب خود رأی داده‌اید. امّا در اصل این نظر خودتان نبوده است؛ بلکه نظری بوده که در اعماق ذهن شما تزریق شده است.

از راه حل‌های مهم برای جلوگیری این رخ‌داد، ایجاد شفّافیت سیاسی و همچین وضع قوانین محکمی برای حفظ حریم خصوصی کاربران است. برای مثال تصویب و اجرای GDPR (سرواژه‌سازی‌شده از The General Data Protection Regulation، برابر «مقررات عمومی حفاظت از داده») توسّط اتّحادیه‌ی اروپا، گام بسیار بزرگ و شایان توجّهی در این راستا بود، و به مراتب مفیدتر و کارآمدتر از تمامی توهّمات توطئه‌ی کسانی چون David Icke یا جناب ع.ا.ر (کافیست نامش را بیاورم تا طرفدارانش به سرعت هجوم آورده و انواع برچسب‌های «مزدور صهیونیست» و «نفوذی اسرائیل» را بهم بزنند! پیش‌تر تجربه‌اش را داشته‌ام و باور کنید تمایلی به تکرار آن ندارم!) بوده است! دلیل این که معتقدم با این مسئله نباید با رویکرد تئوری توطئه برخورد کرد همین است. این شیوه‌ی سر بریدن آزادی، کاملاً در چهارچوب قانون (یا درواقع با بهره‌گیری از خلاءهای قانونی) درحال انجام است و لذا برخورد با آن نیز باید در همان چهارچوب قانون و با مطالبات قانونی انجام شود. توهّم توطئه، پارانویا و هذیان‌گویی نه تنها کوچک‌ترین کمکی در این راستا نمی‌کند، بلکه ذهن‌ها را از واقعیت دور کرده و به سوی مُشتی اراجیف بی‌اساس سوق می‌دهد. نه خبری از مطالباتی واضح و روشن خواهد بود و نه تغییراتی کارآمد. یک انجمن مردمی تشکیل‌شده از تعدادی وکیل و متخصّص کامپیوتر، مؤثّرتر از هزاران ساعت سخنرانی و طرح فرضیات توطئه خواهد بود.

اَبَر-رقبا

حالتی را متصوّر شوید که یک سامانه‌ی هوشمند نیز همچون یک فرد حقیقی، به عنوان یک موجودیت فعّال قانونی تعریف شده و از حق و حقوقی برای خود برخوردار شود؛ مثل حقّ داشتن حساب بانکی، تجارت و... . و یا این که به عنوان مدیر یا مشاور مدیر یک شرکت ایفای نقش کرده و نقش فردی حقوقی را بازی کند. حال در این حالت، مثلاً با یک رقیب اقتصادی بسیار قدرتمند روبه‌رو هستید که در محاسبات و پیش‌بینی‌های اقتصادی، خیلی خیلی بهتر از شما عمل می‌کند. او (از ضمیر «او» برایش استفاده کنیم یا «آن»؟) می‌تواند پیش‌بینی‌های بسیار دقیق‌تری از شما انجام دهد و استراتژی‌های مدیریتی بس بهینه‌تری بچیند. او از شما ثروت کلان‌تری جمع‌آوری کرده و حتّی می‌تواند شما را ورشکست کند. چطور است از او در دادگاه شکایت کنید؟ مانعی نیست؛ جز این که او علاوه بر یک تحلیل‌گر اقتصادی نخبه و یک مدیر فوق‌العاده، یک وکیل کارکشته نیز است! او تمامی قوانین ریز و درشت را می‌داند، خلاءهای قانونی را به خوبی شناخت انسان از کف دستش بلد است، تک‌تک پرونده‌های حقوقی تاریخ را خوانده است و دقیقاً می‌داند که برای تبرئه‌ی خودش چه باید بکند؛ چرا که اصلاً از همان ابتدا باهوش‌تر از چیزی بوده است که جُرمی انجام دهد و گیر قانون بیفتد. شما ممکن است به سرعت زمین بخورید، درحالی که او روز به روز باهوش‌تر، قدرت‌مندتر و ثروت‌مندتر می‌شود و نمی‌توانید متوقّفش کنید.

راه حلّ پیشنهادی من برای جلوگیری از این معضل این است که از همان ابتدا نگذاشت علم هوش مصنوعی، به انحصار در بیاید. راه حل می‌تواند تبلیغ و ترویج فلسفه و فرهنگ نرم‌افزار آزاد باشد. با انتشار رایگان و آزاد پژوهش‌ها، مقالات، source codeها و... می‌توان به همه این امکان را داد که از مزایای هوش مصنوعی بهره‌مند شوند. درست است که در هر صورت اَبَر-شرکت‌ها ثروت و امکانات بیشتری را در اختیار خواهند داشت؛ امّا حداقل بازی نیز تا این حد یک‌جانبه و نابرابر نخواهد بود و شرکت‌های کوچک و حتّی افراد حقیقی نیز می‌توانند در عرصه‌ی رقابت باقی بمانند. خوشبختانه وضعیت فعلی نیز تا حدودی امیدبخش بوده و وجود پروژه‌های متن‌باز (open source) فراوان، مقالات آکادمیک رایگان فراوان، پیدایش سازمان‌ها، شرکت‌ها و پژوهش‌کده‌هایی همچون OpenAI و با هدف جلوگیری از آسیب‌های هوش مصنوعی، ترویج و/یا کمک به توسعه‌ی پروژه‌های بشردوستانه و استفاده از این علم برای مقاصد سازنده، حمایت فکری و مالی چهره‌هایی چون ایلان ماسک و زنده‌یاد استیون هاوکینگ و...، می‌تواند تا حدودی از این نگرانی بکاهد.

سقوط اومانیسم

از تغییراتی که در دوران رنسانس رخ داد این بود که کم‌کم انسان بر صندلی خدا نشست! اگر تا پیش از آن دوران، کلیساها در رأس قدرت بودند و حکمرانان جایگاه مقدّسی داشتند و به باور همگان توسّط خدا/خدایان برگزیده شده بودند، و اگر تا پیش از آن باید برای هر پرسشی به روحانیون مراجعه می‌کردند و پاسخ را از لابلای موعظه‌های آنان بیرون می‌کشیدند، کم‌کم این نگرش دست‌خوش تغییر شد. کم‌کم جایگاه متافیزیکی حکمرانان کم‌رنگ شد و کم‌کم دانشمندان برای پاسخ‌گویی به پرسش‌ها جلو آمدند. به تدریج، ابتدا و انتهای هر چیز به انسان ختم شد. از آن زمان تا کنون، اومانیسم (فرانسوی: Humanisme | انگلیسی: Humanism | برابر فارسی: انسان‌گرایی) بنیان فلسفی سیاست‌های کلان بسیاری از کشورها بوده است. تفاوتی نمی‌کند که کدام ایدئولوژی در جریان باشد؛ در هر صورت انسان است که نقشی کلیدی ایفا می‌کند. یک دستگاه سوسیالیست به تولیدکننده نیاز دارد. یک دستگاه کاپیتالیست به مصرف‌کننده نیاز دارد. میلیتاریست سرباز می‌خواهد. در هر صورت باید فکری جهت فراهم‌آوری بستری برای تولّد، تربیت، آموزش، تأمین خوراک، درمان و... فراهم شود. هیچ آینده‌نگری تولیدکنندگان/مصرف‌کنندگان/سربازان/... مریض، ناتوان و تعلیم‌ندیده نمی‌خواهد! حتّی اگر کشوری با آنارشیسم اداره شود، باز هم انسان در محوریت است و افراد برای رفع نیازهای خود به یک دیگر وابسته‌اند.

امّا چه می‌شود اگر این‌گونه نباشد؟ چه می‌شود اگر نه تنها دیگر انسان در رأس نباشد، بلکه عملاً کاربردی هم نداشته باشد؟ همیشه گسترش اتوماسیون، بسیاری را نگران نابودی برخی از مشاغل و کسب و کارها کرده است. پیش از همه، خطر متوجّه کارگران خطّ تولیدی شد که دیگر نیازی به نیروی دستانشان نبود و کارشان با بازوهای مکانیکی انجام می‌گفت. به همین ترتیب مشاغلی از بین رفتند؛ امّا از سوی دیگر نیز مشاغل جدیدی پدید آمدند. آن‌چه همیشه رخ می‌داد، تخریب خلّاق (Creative Destruction) بود. به هر حال معمولاً مشاغلی که متّکی بر قدرت شناخت، تجربه، تشخیص یا خلّاقیت انسان بوده‌اند، با خطر کم‌تری دست و پنجه نرم کرده‌اند. امّا هوش مصنوعی می‌تواند برای آن‌ها نیز یک تهدید جدّی باشد. یک سامانه‌ی هوشمند می‌تواند دقیق‌تر از مجرّب‌ترین پزشکان، بیماری‌ها را تشخیص دهد؛ بهتر از حرفه‌ای‌ترین رانندگان، هفته‌ها بدون خواب‌آلودگی و حواس‌پرتی در جادّه‌ها رانندگی کند، بامهارت‌تر از زبده‌ترین خلبانان جنگی، سنگین‌ترین مانورها را بدون ترس از بی‌هوش شدن اجرا کند و حرفه‌ای‌تر از باسوادترین وکیل‌ها، پرونده‌های حقوقی را پیش ببرد.

به این قطعه گوش دهید: [+]

نام آن «I am AI» بوده و سازنده‌اش نه یک انسان، بلکه سامانه‌ای مبتنی بر یادگیری ماشین، بنام Aiva بوده است! این سامانه، توسّط آثار هنرمندانی چون باخ، بتهوون، موتزارت و... «تعلیم دیده» است تا خودش کشف کند که چه رشته‌ای از اصوات، برای انسان یک «موسیقی زیبا» محسوب می‌شود! شرکتی با همین نام تیز تأسیس شده است که می‌تواند از شما سفارش گرفته در سبک مورد نظرتان آهنگ‌هایی تولید کند (وب‌سایت شرکت: aiva.ai). یا به شکلی مشابه، سامانه‌هایی وجود دارند که می‌توانند شعر بنویسند؛ آن هم اشعاری بسیار پراحساس! به هر حال خود هنرمدان که نیز هنرشان را از الهامات غیبی به دست نمی‌آورند! آن‌ها نیز هم بر اساس دانش و هم تجربه، و بر مبنای الهاماتی که از محیط و دیگران و حتّی غریزه‌ی خود گرفته‌اند، دست به تولید آثار هنری می‌زنند. چرا هوش مصنوعی نتواند چنین کاری کند؟ در فیلم‌هایی با موضوع هوش مصنوعی، معمولاً داستان از این قرار است: هوش مصنوعی به قدرت رسیده و انسان را به عقب می‌راند، امّا نهایتاً انسان با کمک چیزهایی چون «عشق» یا «روح»، بر آن چیره شود. امّا آیا واقعاً همین است؟

“I hate to break it to you, but what people calls ‘love’ is just a chemical reaction that compels animals to breed...” — Rick and Morty

«متنفّرم از این که این خبر رو بهت بدم، امّا اون‌چه مردم «عشق» می‌نامند، فقط یه واکنش شیمیایی هست که حیوانات رو وادار به زاد و ولد می‌کنه...» — سریال ریک و مورتی

اگر نهایتاً هوش مصنوعیْ ما را از صندلی خدا بلند کند و خود بشیند چه؟ چه می‌شود اگر انسان، به‌دردنخور شود؟ چه رخ می‌دهد اگر زمانی دیگر دلیلی نداشته باشد برای همه، خوراک و خدمات بهداشتی، درمانی و آموزشی فراهم شود؟ چه اتّفاقی می‌افتد اگر اومانیسم سقوط کند؟

تصوّر دنیای پس از پایان‌یابی سلطه‌ی انسان سخت است. امّا نهایتاً شاید البته آن‌قدرها هم بد نشود. یکی از سناریوهای احتمالی می‌تواند تلفیق و ادغام انسان با ماشین باشد. شاید بتوانیم هوشیاری و آگاهی خود را به بستری خارج از جسم خود منتقل کنیم و عملاً با ماشین یکی شویم. یا از آن‌جا که ورودی اصلی یادگیری ماشین، داده‌ی خام است، شاید کاربرد جدیدی پیدا کنیم: تولیدکننده‌ی داده. به ما خدمات رایگان ارائه می‌شود و در عوض از ما داده‌ جمع‌آوری می‌شود؛ همان‌طوری که هم‌اکنون اَبَرشرکت‌های گوگل، فیس‌بوک و... کار می‌کنند. در آن حالت، احتمالاً دنیایمان چیزی شبیه به رمان «Brave New World - آلدوس هاکسلی» شود — همه خوشحال و رضایت‌مند، نمی‌دانم؛ عیبی دارد؟

منابعی برای مطالعه‌ی عمیق‌تر

• کتاب «Homo Deus»
  - نویسنده: Yuval Noah Harari
  - عنوان فارسی: انسان خداگونه
  - سطح: عمومی
  - توضیحات: کتاب جذّابی در مورد آینده‌نگری و انسان‌شناسی فلسفی
• کتاب «Life 3.0»
  - نویسنده: Max Tegmark
  - عنوان فارسی: حیات ۳/۰ | حیات: نسخه‌ی ۳
  - سطح: عمومی
  - توضیحات: گفتگوهایی در باب انفجار هوش مصنوعی، آینده‌ی بشریت با هوش مصنوعی و...
• کتاب «Everybody Lies: Big Data, New Data, and What the Internet Can Tell Us About Who We Really Are»
  - نویسنده: Seth Stephens-Davidowitz
  - عنوان فارسی: همه دروغ می‌گویند
  - سطح: عمومی
  - توضیحات: کتابی فوق‌العاده و مثال‌هایی جالب، با موضوع داده‌کاوی (Data Mining) و کلان‌داده (Big Data) که توسّط کارشناسی که سابقاً نزد گوگل نیز کار می‌کرده است نوشته شده و توضیح می‌دهد که از چیزی به سادگی سرچ‌های اینترنتی مردم می‌توان به چه یافته‌های سرسام‌آوری دست یافت.
• کتاب «Blown to Bits: Your Life, Liberty, and Happiness After the Digital Explosion»
  - نویسنده: Ken Ledeen ،Hal Abelson و Harry Lewis
  - عنوان فارسی: انفجار دیجیتال: زندگی، آزادی خوش‌بختی پس از انفجار اطّلاعاتی
  - سطح: عمومی
  - توضیحات: تأثیرات نفوذ روزافزون فنّاوری اطّلاعات بر زندگی شخصی ما
• کتاب «Prediction Machines: The Simple Economics of Artificial Intelligence»
  - نویسنده: Ajay Agrawal ،Avi Goldfarb و Joshua Gans
  - عنوان فارسی: ماشین‌های پیش‌بینی: اقتصاد ساده‌ی هوش مصنوعی
  - سطح: عمومی
  - توضیحات: تأثیرات هوش مصنوعی بر دنیای مدیریت و اقتصاد
• مستند «The Age of A.I.»
  - شمار قسمت‌ها: ۸
  - سال انتشار: ۲۰۱۹
  - سطح: عمومی
  - توضیحات: دانستنی‌هایی در مورد کاربرد هوش مصنوعی در دنیای امروز
• مستند «Mind Field»
  - شمار قسمت‌ها: ۲۴ (سه فصل)
  - سال انتشار: ۲۰۱۷
  - توضیحات: مستند جذّابی در مورد مغز انسان، جنبه‌های مختلفش و شیوه‌های واکنشش
• کتاب «A Programmer's Guide to Data Mining: The Ancient Art of the Numerati»
  - نویسنده: Ron Zacharski
  - عنوان فارسی: داده‌کاوی برای برنامه‌نویسان: هنر باستانی شمارش
  - سطح: تخصّصی (پیش‌نیازها شامل برنامه‌نویسی کامپیوتر و ریاضیات پایه)
  - توضیحات: منبع گیرایی برای آشنایی با داده‌کاوی که توسّط دوست خوبم، جناب مسعود کاویانی، ترجمه و برای استفاده‌ی عموم در دسترس قرار گرفته است.
• کتاب «Neural Networks and Deep Learning»
  - نویسنده: Michael Nielsen
  - سطح: تخصّصی (پیش‌نیازها شامل برنامه‌نویسی کامپیوتر، مبانی هوش مصنوعی، ریاضیات پایه و ریاضیات مهندسی)
• مقاله‌ی «Learning to transduce with unbounded memory»
  - سطح: تخصّصی (پیش‌نیازها شامل مفاهیم Deep Learning، شبکه‌های RNN و ریاضیات پایه)
  - توضیحات: تألیف‌شده توسّط جمعی از محقّقان Google DeepMind و در مورد مدلی از نوع Neural Stack که در همین پروژه نیز مورد استفاده قرار گرفته است.

سرگرمی

• فیلم «The Imitation Game»
  - سال انتشار: ۲۰۱۴
  - کارگردان: Morten Tyldum
  - عنوان فارسی: بازی تقلید
  - توضیحات: زندگی‌نامه‌ی اَلن تورینگ، ریاضی‌دانی که در جنگ جهانی دوّم موفّق به شکستن کد انیگما و رمزگشایی پیام‌های محرمانه‌ی آلمان نازی شد.
• فیلم «Ex Machina»
  - سال انتشار: ۲۰۱۴
  - کارگردان: Alex Garland
  - عنوان فارسی: اکس‌ماکینا
  - توضیحات: تعاملات یک جوان برنامه‌نویس با یک ربات انسان‌نمای مبتنی بر هوش جامع مصنوعی
• آنتولوژی «Black Mirror»
  - سال انتشار: از ۲۰۱۱
  - تهیه‌کننده: Charlie Brooker
  - عنوان فارسی: آینه‌ی سیاه
  - توضیحات: هر قسمت به تأثیرات فن‌آوری بر تغییر رفتار انسان‌ها می‌پردازد.
• سریال «Westworld»
  - سال انتشار: از ۲۰۱۶
  - تهیه‌کننده: Jonathan Nolan
  - عنوان فارسی: دنیای غرب
  - توضیحات: خودآگاه شدن ربات‌هایی که سابقاً فقط ابزار سرگرمی بوده‌اند.
• بازی «Fallout 4»
  - سال انتشار: ۲۰۱۵
  - ناشر: Bethesda
  - بستر: PS4 ،X1 و MS Win
  - توضیحات: نسبت به ربات‌های انسان‌نمای غیرقابل تمایز از انسان چه نظری دارید؟ بازی به شما ۴ حق انتخاب می‌دهد: آن‌ها را نادیده بگیرید، به بردگی انسان در بیاورید، به عنوان یک تکنولوژی افراطی نابود کنید و یا موجوداتی زنده و درست مثل انسان به حساب بیاورید... . ضمناً DLC داستانی Far Harbor را نیز فراموش نکنید!
• بازی «Detroit: Become Human»
  - سال انتشار: ۲۰۱۸
  - ناشر: Sony
  - بستر: PS4 و MS Win
  - توضیحات: روایت آینده‌ای که در آن ربات‌های انسان‌نما، مشاغل را تسخیر کرده و کم‌کم درحال پر کردن جای انسان می‌باشند.
• بازی «Watch_Dogs 2»
  - سال انتشار: ۲۰۱۶
  - ناشر: Ubisoft
  - بستر: PS4 و MS Win
  - توضیحات: چه می‌شود اگر یک سامانه‌ی اطّلاعاتی یک‌پارچه، در تک‌تک ابعاد زندگی رسوخ داشته و شما را به عنوان مجرم جُرمی که هنوز انجام نداده‌اید معرّفی کند؟

مطالب مرتبط دوستان