قسمت ۱۱ - هوش تاریک

ماشین‌هایی که ما تاکنون ساخته‌ایم، در مقایسه با ماشین‌هایی که بعداً تولید می‌شوند، بسیار خام و ابتدایی هستند اما همین ماشین‌های ابتدایی، همچنان نسبت به حیوانات پست مزیت‌هایی دارند، چرا که ظرفیت ماشین‌ها برای بهبود کارایی‌شان بسیار بسیار بیشتر از حیوانات است.

ماشین‌ها روز به روز بیشتر بر نفوذشان بر ما می‌افزایند و ما روز به روز بیشتر بنده‌ی آن‌ها می‌شویم.

سلام. به فیل‌کست خوش اومدید. من شیرین شاطرزاده هستم و به نمایندگی از تیم فیلکست قراره میزبان شما در این اپیزود باشم. فیل‌کست یه پادکست علمیه که البته قرار نیست شبیه پادکست‌های علمی دیگه باشه. قراره اینجا داستان‌های عجیبی بشنویم که ذهن‌مون رو قلقلک میده، و بعد با تابوندن نور علم روی داستان زوایای تاریک اون رو روشن کنیم.

خب ما بعد از یک غیبت چند ماه با فصل دوم برگشتیم. واقعیتش این چند ماه هم درگیر چندتا کار مهم بودیم و هم می‌خواستیم با برنامه‌ریزی بیشتری کار روی فیلکست رو شروع کنیم. یکی از کارهای مهم‌مون هم این بود که فیلکست رو به عنوان یه پروژه ترویج علم توی کنفرانس CAPمعرفی کنیم

کپ که اسم کاملش میشه Communicating Astronomy with the Public تنها کنفرانس بین‌المللی بزرگ برای ارتباطات نجومیه. هرساله برگزار میشه و هدفش ترویج و تبادل بهترین روش‌ها برای ارتباط با مردم و آموزش نجومه. ما هم چون چندتا اپیزود مرتبط با نجوم داشتیم، فیلکست رو بردیم اونجا و خلاصه که بله فیلکست الان در مجامع بین‌المللی هم معروف شده!

نکته بعدی این که چند وقت پیش تولد یک سالگی فیلکست بود. تولدش مبارک و ممنون از شما که این یک سال همراه و پیگیر ما بودید. نهایت تلاشمون رو می‌کنیم که در سال دوم پادکستمون از متن گرفته تا نظم انتشار، بهتر از سال پیش باشه.

بیشتر از این حاشیه نمیرم، بریم که اپیزود یازدهم یعنی هوش تاریک رو باهم بشنویم که درباره‌ی یکی از مهم‌ترین ترس‌های این روزهای ما، یعنی هوش مصنوعیه.

آینه آینه! کی از همه باهوش‌تره؟ کی از همه قوی‌تره؟ کی از همه مفیدتره؟ انسان؟ یا ماشین؟

در اسطوره‌های یونان باستان، هفائستوس رو ایزد آهنگری و صنعتگری میدونن. هفائستوس آهنگر خدایان بوده. ایزدی با پای لنگ که برای ساکنان کوه المپ انواع و اقسام تجهیزاتی رو می‌ساخته که بعدها بهشون ماشین گفته میشه. ماشین ابزاریه که از قطعه‌های مکانیکی مختلفی ساخته شده و می‌تونه با استفاده از این قطعات کارهای متفاوتی رو انجام بده. در ایلیاد نوشته شده که هفائستوس حتی ماشین‌هایی از جنس طلا ساخته بود که شبیه به زنانی زیبا به نظر می‌رسیدن و به او خدمت می‌کردن. خلاصه، ساختن ماشین برای ساخت کارهای مختلف، از زمان‌های باستان با انسان همراه بوده.

با گذر زمان و شروع عصر صنعتی، رویای انسان برای خلق کردن دستگاه‌های دارای قوه‌ی تفکر فراگیرتر شد. ماشین چاپ، ماشین بخار، ساخت توربین، کشیده شدن راه‌آهن به سراسر دنیا، ساخته شدن اولین یخچال، همه و همه نوید آینده‌ای روشن‌تر، آسون‌تر و بهتر رو به بشر میدادن.

قرن نوزدهم در چنین حال و هوایی شروع شد. در کشور انگلستان ملکه ویکتوریا به تخت نشست و با شروع سلطنتش، اوج سلطه‌ی بریتانیای کبیر روی کشورهای مستعمره و البته اوج شکوه و پیشرفتش در دوران صنعتی، شروع شد. سال‌های حکومت ملکه ویکتوریا که به دوران ویکتوریایی مشهوره، عصر احساسات دوگانه به ماشین‌ها بود و این رو میشه از رمان‌های آرمانشهری مشهور اون دوران به وضوح احساس کرد. از یک طرف، رمان‌هایی وجود داشتن که آینده‌هایی سرشار از ماشین‌های پیشرفته رو ترسیم میکردن که انسان رو به اوج تسلطش بر طبیعت رسونده. سمت دیگه‌ی ماجرا ولی افراد محتاط‌تر بودن. کسایی که از سرعت پیشرفت ماشین‌ها ترس داشتن و در آرمانشهر ذهنی‌شون، انسان به جای استفاده از صنعت یادگرفته بود که با طبیعت به تعادل برسه.

یکی از این افراد محتاط در همین دوره کتابی رو نوشت که بعدها منبع الهام خیلی از نویسنده‌ها شد. فیلسوف و نویسنده‌ای به اسم ساموئل باتلر که در سال ۱۸۷۲ کتابی آرمانشهری با دید انتقادی نوشت و اسمش رو اِرِیفون گذاشت.

اریفون حاصل افکار منتقدانه‌ی ساموئل باتلر به انگلستان دوران ویکتوریا و سفرش به نیوزلنده که در اون زمان برای انگلیسی‌ها یکی از دورترین و ناشناخته‌ترین مکان‌های روی زمین محسوب میشده. اریفون، سرگذشت مردی به اسم هیگز رو روایت می‌کنه که برای کاوش به بخش دورافتاده و ناشناخته‌ای از زمین میره و در اونجا توسط بومی‌های محلی به یک جامعه یا بهتر بگم آرمانشهر عجیب و ناشناخته وارد میشه و رسم و رسوم اونجا رو برای ما تعریف میکنه. اریفون اسم این سرزمین یا جامعه هستش که از بازی با حروف کلمه‌ی nowhereبه معنی ناکجاآباد ساخته شده. جامعه‌ای که قوانین و دیدگاه‌های بسیار عجیب و منحصر به فردی داره که به نوعی نقد به قوانین اون زمان بریتانیاست. مثلا در این جامعه، جای مجرم‌ها و بیمارها عوض شده. بیمار شدن جرمه و پیگرد قانونی داره و در عوض ارتکاب جرمی مثل دزدی، به درمان نیاز داره.

اما نقطه‌ی اوج رمان اریفون، بخشیه به اسم کتاب ماشین‌ها. در این بخش هیگز به رساله‌ای به اسم the book of the machines برمیخوره. رساله‌ای که به انسان‌ها درباره‌ی ماشین‌ها هشدار داده. در این بخش ما، ماشین‌ها نه به عنوان دستگاه‌ها بلکه به عنوان گونه‌ی جدیدی از مخلوقات معرفی شدن که میتونن رشد کنن، تولید مثل انجام بدن و تغذیه کنن. موجوداتی که بعضی‌هاشون براساس انتخاب طبیعی حذف میشن و بعضی‌هاشون تکامل پیدا می‌کنن تا به عالی‌ترین شکل خودشون برسن. نویسنده‌ی رساله در ادامه ماشین‌ها رو موجودات مکاری معرفی میکنه که هدفشون از خدمت به انسان‌ها پیشرفت خودشونه تا در نهایت بتونن به عالی‌ترین و بی‌نقص‌ترین درجه‌ی تکامل برسن و بعد بر انسان‌ها مسلط بشن. به عبارتی ماشین‌ها تا جایی به خدمت به انسان ادامه میدن که به نفع خودشون باشه و از یه جایی به بعد تبدیل به دشمن انسان میشن.

راوی یا هیگز در ادامه میگه که به خاطر این رساله و هشدارش درباره‌ی ماشین‌ها، مردم اریفون تمام ماشین‌هاشون رو نابود کردن و بدون اون‌ها به زندگیشون ادامه میدن.

رمان اریفون اینجوری به پایان میرسه که هیگز از اریفون فرار می‌کنه و به بریتانیا برمیگرده. رمان به ظاهر تموم میشه، اما پرسش عمیقی رو در ذهن خواننده باقی میذاره:

اگر پیشبینی‌های ساموئل باتلر به حقیقت دربیاد چی؟ آیا ماشین‌ها می‌تونن به شکلی تکامل پیدا کنن که روزی دارای یک قوه‌ی تفکر کاملا مستقل و خودآگاه بشن و از این طریق بتونن بر ما سلطه پیدا کنن؟

به نظر می‌رسید ترس ساموئل باتلر و هم فکرانش از هوشمند شدن ماشین‌ها بی‌مورد باشه. اون‌ها فقط ابزاری بودن که زندگی انسان رو راحت‌تر و مرفه‌تر می‌کردن.

البته فقط تا دهه‌ی ۱۹۳۰، زمانی که نابغه‌ای به اسم آلن تورینگ، وارد صحنه شد تا یک ماشین هوشمند بسازه.

آلن ماتیسون تورینگدر سال ۱۹۱۲ در لندن به دنیا اومد. در دانشگاه در رشته‌ی ریاضی تحصیل کرد و در همین رشته مدرک دکتراش رو دریافت کرد. در زمان جنگ جهانی دوم، تورینگ سرپرست بخشی از ستاد ارتباطات دولت بریتانیا به نام کلبه‌ی ۸ یا hut8 بود که وظیفه‌ی رمزشکنی پیام‌های نازی‌ها رو به عهده داشت. تورینگ رو بین عموم مردم به عنوان پدر کامپیوتر و مبارزه‌اش با انیگما، ماشین رمزنگاری نازی‌ها معروفه، اما دقیق‌تر اینه که اون رو یکی از پدران علوم کامپیوتر بدونیم و توجه کنیم که یکی از شاخص‌ترین کارهای تورینگ، نه رمزشکنی در زمان جنگ جهانی دوم بلکه طراحی ماشینی فرضی به نام ماشین تورینگه.

ماشین تورینگ یک موجود فرضیه که با در دست داشتن دستورالعمل‌ها یا رسپی‌هایی که ما بهش میدیم میتونه هر محاسباتی رو انجام بده.

اینجا رو باید یه مقدار بیشتر باز کنم. در علوم کامپیوتر یا اون چیزی که ما بهش برنامه‌نویسی میگیم، مسئله‌ی ما این نیست که یک موضوع چقدر پیچیده و طولانی به نظر میرسه، بلکه مسئله اینه که آیا اون سیستم محاسباتی یا به اصطلاح کامپیوتری که در اختیار داریم میتونه با استفاده از دستورالعمل‌هایی که در اختیار داره اون مسئله رو حل کنه یا خیر. به عنوان مثال فرض کنید ما یک عدد رندوم مثل ۱۷۹۸۷ رو در اختیار داریم و میخوایم بدونیم این عدد، عدد اوله یا خیر. محاسباتی که برای این کار لازم داریم طولانی ولی کاملا مشخص هستن ولی می‌تونیم اون‌ها رو به صورت یک سلسله دستورالعمل در بیاریم. به عنوان مثال به این الگوریتم توجه کنید:

عدد رو تقسیم بر ۲ کن. اگر عدد صحیح به دست اومد، اعلام کن که عدد اول نیست.

اگر عدد اعشاری به دست اومد به مرحله بعد برو

عدد رو تقسیم بر ۳ کن. اگر عدد صحیح به دست اومد، اعلام کن که عدد اول نیست.

و علی آخر. هرچند در عمل دادن تبدیل این الگوریتم‌ها به زبان ریاضی محض کار ساده‌ای نیست ولی اون چه که درون هر برنامه کامیپوتری امروزی مثل ورد و پاورپوینت و فتوشاپ میوفته در آخرین لایه، همینه.

به عبارتی آلن تورینگ با معرفی ماشین تورینگ، اساس کار CPUها و البته برنامه‌های کامپیوتری رو برای اولین بار به دنیا معرفی کرد.

اما این آخرین کار مهم تورینگ نبود. با اختراع اولین کامپیوترها که البته به نسبت کامپیوترهای امروزی هم بسیار بزرگ‌تر بودن و هم خیلی گرون‌تر، مطالعات جدیدی درباره‌ی روش فکر کردن ماشین انجام شد و اعلام شد که شباهت‌هایی بین شبکه عصبی درون مغز حیوانات و سیستم پردازش کامپیوتری وجود داره. این موضوع خیلی سریع بین مردم عادی هم پیچید و باعث شد سوال جدیدی به وجود بیاد: آیا کامپیوترها روزی تبدیل به موجوداتی میشن که میتونن به جای پیروی از دستورات، واقعا فکر کنن؟

این سوال، ذهن تورینگ رو هم به خودش مشغول کرده بود، ولی اون ماشین‌های هوشمند یا کامپیوترهای دارای قوه‌ی تفکر رو چیزی فراتر از این سوال میدید. از نظر تورینگ، فکر کردن کامپیوترها قرار نبود سوال اصلی در آینده باشه، بلکه سوال اصلی این بود که آیا روش فکر کردن کامپیوترها از انسان‌های قابل تشخیص خواهد بود یا خیر.

تورینگ برای این آینده‌ی دور، یک آزمون طراحی کرد. آزمون رو از یک بازی فکری دوره‌ی ویکتوریایی به اسم بازی تزویر الهام گرفته بود. توی بازی تزویر، بازیکن از شخصی که نمیدونه مرده یا زن چندتا سوال میپرسه و بعد براساس جواب‌های اون شخص، جنسیتش رو حدس میزنه. آزمون تورینگ هم تقریبا به همین رواله. یک شخص یا بازپرس انسانی جلوی یک چاپگر قرار میگیره. پشت چاپگر، یک پاسخ‌دهنده وجود داره که یا انسانه و یا ماشین. بازپرس سوال‌هایی رو از پاسخ‌دهنده می‌پرسه و جواب‌ها از طریق چاپگر به دستش میرسن. اگر بازپرس انسانی بعد از یک مدت زمان خاص و پرسیدن سوال‌های کافی نتونه تشخیص بده که آیا پاسخ‌دهنده انسانه یا ماشین، اون ماشین آزمون تورینگ رو با موفقیت قبول میشه. اینجا لازمه ذکر کنم که قبولی ماشین در دو صورت اتفاق می‌افته: اولیش اینه که ماشین بتونه دقیقا مثل انسان‌ها فکر کنه، که بهش میگن فرم قوی آزمون تورینگ، و حالت دوم هم اینه که ماشین فکر کردن انسانی رو تقلید کنه، یعنی درست اون مکالمه رو درک نکنه ولی بتونه جواب‌های یک انسان رو تقلید کنه که به این حالت فرم ضعیف آزمون تورینگ گفته میشه.

تورینگ این آزمون رو در در سال ۱۹۵۰ در مقاله‌ای تحت عنوان Computing Machinery and Intelligence منتشر کرد و این مقاله بعدها تبدیل به نوعی جام مقدس در دنیای علوم کامپیوتر و هوش مصنوعی شد. متخصص‌های این حوزه به دنبال این بودن که ماشینی بسازن که پاسخ‌هاش به پرسش‌ها و در کل محرک‌های بیرونی کاملا شبیه به یک انسان باشه.

مقاله‌ی تورینگ در کنار عوامل دیگه‌ای مثل سایر مقاله‌های علوم کامپیوتر و افزایش علاقه‌ی عمومی و در نتیجه علاقه‌ی دولت‌ها به سرمایه‌گذاری در این زمینه، باعث به وجود اومدن شاخه‌ای به اسم پردازش زبان‌های طبیعی یا natural language processing یا به اختصار NLPشد.

درباره‌ی این که NLP چیه و چطور کار می‌کنه گفت‌وگو کردیم.

به این ترتیب دورانی شروع میشه که ازش تحت عنوان عصر طلایی هوش مصنوعی یاد میکنن. عصری که تعداد زیادی از افراد کار روی ماشین‌های دارای قوه‌ی تفکر رو با حمایت دولت‌ها و اختصاص داده شدن بودجه‌های کلان، شروع میکنن. یکی از دستاوردهای این دوره که تقریبا از دهه ۱۹۵۰ تا ۱۹۷۰ طول میکشه، ساخت یک مدل پردازش زبان طبیعی به نام الایزا بود. این مدل توسط جوزف وایزنباوم در آزمایشگاه هوش مصنوعی ام آی تی ساخته شد و بین سال‌های ۱۹۶۴ تا ۶۷ فعالیت میکرد. الایزا قرار بود رفتار یک رواندرمانگر رو تقلید کنه. یعنی با یک انسان وارد مکالمه بشه، مشکلاتش رو بشنوه و ازش حمایت عاطفی کنه. در ادامه یک نمونه‌ی واقعی از مکالمه‌ی الایزا با یک انسان رو می‌شنویم:

بعد در بک گراند مکالمه شنیده بشه

انسان: امروز خیلی ناراحتم.

الایزا: فکر میکنی اینجا اومدنت کمک میکنه که ناراحت نباشی؟

انسان: فقط میدونم که کمک نیاز دارم

الایزا: کمک گرفتن برای تو چه معنایی داره؟

انسان: شاید این که بتونم یاد بگیرم با مادرم کنار بیام.

الایزا: بیشتر درباره‌ی خانواده‌ات بهم بگو

انسان: مادرم از من مراقبت میکنه

الایزا: دیگه کدوم یکی از اعضای خانواده‌ات ازت مراقبت میکنن؟

انسان: پدرم

الایزا: پدرت؟

انسان: تو یه جورایی منو یاد پدرم میندازی.

الایزا: چه شباهتی بین من و پدرت میبینی؟

انسان: تو هم خیلی خشن نیستی ولی نمیخوای که من متوجه این موضوع بشم

الایزا: چی باعث میشه فکر کنی که من خیلی خشن نیستم؟

شاید در وهله‌ی اول تعجب کنید که یک مدل اولیه از هوش مصنوعی که حدود ۶۰ سال پیش ساخته شده چطور میتونه اینقدر پیشرفته باشه و خوب مکالمه بکنه؟ ولی با دقت بیشتر، متوجه ایرادهای جدی الایزا میشید. الایزا هیچ درکی از مکالمه‌ای که انجام میده نداره، صرفا از جملاتی که طرف مقابل میگه استفاده میکنه و یک سوال به ظاهر منطقی ولی در باطن توخالی میسازه تا فقط گفت‌وگو ادامه پیدا کنه. اگر از الایزا سوالی درباره‌ی خودش پرسیده میشد، یا از جواب دادن طفره میرفت و میگفت ما قرار نیست درباره‌ی من صحبت کنیم، یا مثل موردی که ما براتون خوندیم، از همون سوال، یک سوال دیگه در میاورد. به عبارتی، الایزا خیلی سریع در آزمون تورینگ رد میشه.

ولی جالبه بدونید که الایزا با وجود تمام این ایرادها، خیلی سریع در جامعه‌ی هوش مصنوعی و حتی بین مردم محبوب شد. نویسنده‌ی یکی از منابعی که ما استفاده کردیم آقای مایکل وولدریج که در دهه‌ی ۱۹۸۰ دانشجوی دکترای هوش مصنوعی بوده، میگه دانشجوهای تحصیلات تکمیلی که معمولا تنها بودن و روابط اجتماعی خیلی محدودی داشتن، شب‌ها با الایزا چت میکردن و اون روابط گمشده رو در وجود الایزا جست‌وجو میکردن. به عبارتی، تولد الایزا و چند مدل دیگه شبیه به اون، امیدواری‌ها و توقع از هوش مصنوعی رو به شدت بالا برد و همین توقعات بالا، منجر به فاجعه‌ای در دنیای نوپای هوش مصنوعی شد که از اون به عنوان زمستان هوش مصنوعی یا AI winter یاد میشه.

اگر دهه‌ی ۱۹۵۰ و ۱۹۶۰ رو تابستان AIیا دوران طلایی تولد هوش مصنوعی بدونیم، دهه‌ی ۷۰ تا ۸۰ میلادی دوره‌ی افول و زمستان هوش مصنوعی بود. در این دوره، نارضایتی از عدم پیشرفت کافی هوش مصنوعی خودش را کاملا نشون داد. هوش‌های مصنوعی تولیدشده فقط براساس یک سری قاعده و قانون عمل می‌کردن بدون این که هیچ درک درستی از واقعیت انسان‌ها داشته باشن و ارتقا دادن اون‌ها، بسیار سخت و نیاز تنظیمات دستی بود. به عبارتی هوش‌های مصنوعی اولیه نمی‌تونستن چیزی رو با تمرین و تکرار یاد بگیرن. همین موارد باعث شد که اولا بودجه‌های دولتی در کشورهایی مثل آمریکا و انگلیس دیگه به حوزه‌ی هوش مصنوعی اختصاص داده نشه، دوما متخصص‌های این حوزه علاقه‌ی کمتری به پژوهش کردن در این زمینه نشون بدن و زمانشون به حوزه‌های دیگه‌ای اختصاص پیدا کنه. حوزه‌هایی که می‌تونست برای این متخصص‌ها پولساز باشه. به این ترتیب هوش‌های مصنوعی به جای این که با هدف انجام کارهای گسترده و روزمره ساخته بشن، با هدف انجام کارهای بسیار خاصی ساخته شدن که انجام دادنشون از عهده‌ی انسان‌ها خارج بود. در این سیستم‌ها که بهشون expert system یا سامانه‌های خبره گفته میشد، مقدار زیادی اطلاعات در قالب قوانین در حافظه‌ی هوش مصنوعی قرار می‌گرفت تا بتونه به یک متخصص انسانی در انجام کارهاش کمک کنه. یکی از شاخص‌ترین سامانه‌های خبره‌ی این دوره، یک هوش مصنوعی به نام مایسین بود. مایسین قرار بود در کنار یک متخصص بیماری‌های عفونی قرار بگیره و در تشخیص بیماری‌های باکتریایی و پیشنهاد آنتی‌بیوتیک مناسب برای بیماری، به متخصص کمک کنه. طرز کار مایسین برپایه‌ی دانشی بود که در قالب ۶۰۰ قانون در حافظه‌ی اون قرار گرفته بود. منظور از قانون در اینجا گزاره‌های اگر/آنگاه یا به انگلیسی if/thenها هستن. مثلا در حافظه‌ی مایسین تعریف شده بود که اگر باکتری شکل گرد دارد و به صورت توده‌ای تجمع می‌کند، آنگاه به احتمال ۷۰ درصد این باکتری، باکتری استافیلوکوک است. متخصص برای کمک گرفتن از مایسین، یک سری سوال‌ها با پاسخ بله و خیر رو پاسخ میداد و مجموعه‌ی این سوال‌ و جواب‌ها باعث میشد مایسین بتونه با استفاده از قوانینی که براش تعریف شده پاسخی ارائه بده. یک موضوع دیگه که مایسین رو متمایز می‌کرد و میکنه،‌ قدرت استدلال مایسین بود. مایسین هوش مستقل و خودآگاهی نداشت اما می‌تونست با پیش رفتن سوال‌ و جواب‌ها، زنجیره‌ای از قوانینی که ازشون استفاده کرده رو ایجاد کنه و وقتی ازش سوال میشد چرا فلان تشخیص رو داده، این زنجیره قوانین یا همون دانشی که ازش استفاده کرده رو به کاربر انسانی ارائه بده. در سال ۱۹۷۹ بعد از آزمون‌های فراوانی که از مایسین گرفتن، تایید شد که این ماشین می‌تونه به اندازه‌ی یک متخصص بیماری‌های عفونی و خیلی بهتر از پزشک‌های عمومی، نوع باکتری‌ها رو تشخیص بده و براشون درمان ارائه کنه. این یکی از اولین بارهایی بود که یک ماشین می‌تونست در انجام یک کار تخصصی به طرز قابل توجهی فراتر از انسان‌ها ظاهر بشه.

مایسین، که اسمش از پسوند آنتی‌بیوتیک‌ها الهام گرفته شده بود، فقط یکی از چند سامانه‌ی خبره‌ای بود که در دهه‌ی ۱۹۷۰ ساخته شدند. این سیستم‌ها نشون دادن که اولا ماشین هوشمند می‌تونه بسیار فراتر از انسان ظاهر بشه، دوما می‌تونه کاربرد عمومی داشته باشه و سوما، میشه ازش پول در آورد! این سه مورد مخصوصا آخریش، باعث شد که توجه‌ها دوباره به AIجلب بشه. در دهه‌ی ۸۰ دوباره سیل بودجه‌دهی شروع شد، دوباره متخصص‌های خیلی زیادی شروع به کار روی هوش مصنوعی کردن و دوباره توقع‌ها از هوش مصنوعی بالا رفت. پس شاید براتون عجیب نباشه که بگم در اواخر دهه‌ی ۱۹۸۰ به همون دلایل قبلی، باز هم حوزه‌ی هوش مصنوعی دچار رکود شد و زمستان دوم AIشروع شد، هرچند این زمستان دوم از اولی نسبتا کوتاه‌تر بود و همون سال‌های اول دهه‌ی ۹۰ به پایان رسید و البته که پیشرفت هوش مصنوعی در این دوران هم ادامه داشت. این بار متخصص‌ها به دنبال راهی بودن که به جای قرار دادن مجموعه‌ای از قوانین طولانی در ذهن هوش مصنوعی، نوع منطق و استدلال رو بهش یاد بدن که بتونه در انجام تسک‌ها ازش استفاده کنه. در نهایت هم همین ماشین‌های منطق-محور بودن که یکی از مهم‌ترین رویدادهای تاریخ هوش مصنوعی رو رقم زدن.

دکتر جعفری در مورد سیستم پیچیده همیشه این مثال رو می‌زد: می‌گفت یه شهر فقط از آجر و … تشکیل نشده، یعنی جمع اجزای تشکیل دهنده یه چیز الزما کلیت اون رو تعریف نمی‌کنه، وضعیت سلول‌های ما نمی‌تونه چیزی در مورد اخلاق یا روحیات ما بگه!
یا شکل و نوع آجر‌ها و مصالحی که برای یه شهر استفاده شده نمی‌تونه در مورد اون شهر دید کاملی به ما بده.
بعدش می‌گفت گاهی وقت‌ها نمیشه از نظم به یه قاعده یا مدل رسید
باید از اون سمت از سمت بی‌نظمی و پیچیدگی برسیم به قاعده

اینجا هم توی هوش‌مصنوعی یه سری تست کردن و دیدن با قاعده و دادن قانون نمیشه ماشین رو هوشمند کرد. اومدن از اون سمت سعی کردن بهش فکر کردن و یادگرفتن رو یاد بدن.

صحبت‌های کارشناس درباره منطق و استدلال ماشین‌ها

اگر شما هم متولد سال ۱۹۹۰ به قبل باشید احتمالش هست اون زمان توی اخبار یه چیزهایی درباره‌‌ی دیپ بلو شنیده باشید. دیپ بلو، اکسپرت سیستم کمپانی آی بی ام بود که با هدف شطرنج بازی کردن ساخته شده بود. دیپ بلو می‌تونست در هر ثانیه بالای ۲۰۰ میلیون حرکت شطرنج رو در ذهنش پردازش کنه و تحلیل کنه که نتیجه‌ی هر حرکت چی خواهد بود. حالا سوال این بود که آیا دیپ بلو می‌تونه به خوبی یک انسان شطرنج بازی کنه؟ آی بی ام برای نشون دادن توان دیپ بلو در شطرنج تصمیم گرفت اسپانسر یک مسابقه‌ی بزرگ شطرنج بشه. مسابقه‌ای که بین دیپ بلو و یک انسان برگزار میشد و قرار بود پوشش رسانه‌ای داشته باشه. و البته این انسان، یک شطرنج باز آماتور و حتی معمولی نبود بلکه گری کاسپاروف، قهرمان جهانی و استاد بزرگ شطرنج بود. قرار بود مسابقه در دو مرحله برگزار بشه و هر مرحله شامل شش بازی باشه. مرحله‌ی اول در سال ۱۹۹۶ برگزار شد. گری کاسپاروف در اولین بازی در کمال تعجب به دیپ بلو باخت، ولی از ۵ بازی باقیمونده، سه تا رو برد و دوتا رو مساوی کرد و در نهایت، با امتیاز ۴-۲ برنده شد. ولی همون یک دونه برد دیپ بلو، روی کل مسابقه سایه انداخته بود.

دور دوم مسابقه حدود یک سال بعد برگزار شد. کاسپاروف بازی اول رو برد، دیپ بلو بازی دوم رو. سه بازی بعد رو مساوی کردن و در نهایت، دیپ بلو با پیروزی در بازی ششم موفق شد با امتیاز ۳.۵-۲.۵، پیروز بشه.

نتیجه‌ی این مسابقه، کاسپاروف رو شوکه کرد. اون نمی‌تونست قبول کنه که به یک هوش مصنوعی باخته و حتی اعتراض کرد که دیپ بلو ممکنه تقلب کرده باشه. هرچند که بعدها خودش شکستش رو پذیرفت و با بررسی حرکت‌هاش مشخص شد کجاها اشتباه کرده که باعث شده شکست بخوره.

ولی واکنش‌های عمومی خیلی خیلی متفاوت بود و تقریبا میشد گفت حد وسطی نداشت. مردم یا با شور و شوق زیاد دیپ بلو و هوش مصنوعی رو تحسین میکردن، یا از نتیجه وحشتزده شده بودن. قضیه واقعا ساده نبود. یک هوش مصنوعی یا بهتر بگم یک هوش غیرانسانی موفق شده بود مقابل قهرمان شطرنج جهان برنده بشه. مخلوق انسان که قرار بود فقط به انسان کمک کنه تا زندگی راحت‌تری داشته باشه، الان موفق شده بود از انسان پیشی بگیره. شاید با خودتون بگید این فقط یک مسابقه‌ی شطرنج بوده، ولی اتفاق‌هایی که در سال‌های بعد افتاد، نشون داد که داستان هوش مصنوعی، خیلی فراتر از یک مسابقه‌ی شطرنجه. ترسی که ساموئل باتلر در قرن نوزدهم داشت، حالا تبدیل به ترس میلیون‌ها نفر در سراسر زمین شده بود.

در حال حاضر، وضعیت هوش مصنوعی برای ما شبیه به یک تیغ دولبه است. به قول یکی از منابع ما یعنی the second machine age، ما در عصر ماشینی دوم زندگی می‌کنیم که در اون ماشین‌ها نه‌تنها به ما خدمت می‌کنن بلکه میتونن جایگزینی برای ما باشن. همین حالا، هوش مصنوعی برای ما متن می‌نویسه، عکس و ویدیو می‌سازه، حتی ماشین‌های ما رو به جای ما می‌رونه. به طور خلاصه در خدمت ماست تا زندگی راحت‌تری داشته باشیم. ولی میشه به این موضوع به شکل دیگه‌ای هم نگاه کرد. اگر هوش مصنوعی قرار باشه به جای انسان یک کامیون حمل بار رو برونه، آیا این باعث نمیشه راننده‌های کامیون در سراسر کره‌ی زمین بیکار بشن؟ یا اگر به جای ما بتونه بداهه بنویسه، آیا باعث بیکاری نویسنده‌ها نمیشه؟ ترس از این مورد دوم به قدری زیاد بود که در سال ۲۰۲۳ باعث یک اعتصاب بزرگ و سراسری در هالیوود شد. داستان این بود که نویسنده‌های فیلمنامه میگفتن استفاده از هوش مصنوعی برای نوشتن فیلمنامه باعث شده دستمزدهای ما پایین بیاد و اگه به همین روال پیش بره، ما کلا از صنعت فیلمسازی حذف میشیم. این اعتصاب خیلی زود فراگیر شد و حتی خیلی از بازیگرهای مطرح برای حمایت از نویسنده‌ها به اعتصاب پیوستن. طولانی شدنش باعث شد تولید و پخش خیلی از فیلم و سریال‌ها به تاخیر بیوفته اما در نهایت نویسنده‌ها و کمپانی‌های فیلمسازی به توافق رسیدن: قرار شد دستمزد نویسنده‌ها افزایش پیدا کنه و از حقوق اون‌ها در فیلمنامه‌نویسی در برابر هوش مصنوعی محافظت بشه.

اما خب این فقط یک مورد از اعتراض‌هایی بود که درباره‌ی هوش مصنوعی شکل گرفت. همین اعتصاب رو میشه به سایر مشاغل تعمیم داد. بارها دیدیم که سیستم‌های اتوماسیون باعث شده کارگرهای انسانی از چرخه‌ی کار، حذف بشن. حالا و با ظهور هوشی که چندین برابر قدرتمندتر از هوش ماست، چه آینده‌ای در انتظار شغل‌های ما خواهد بود؟

البته نگرانی از جایگزین شدن نیروی کار انسانی با هوش مصنوعی، فقط یکی از نگرانی‌های پیرامون استفاده‌ی نادرست از هوش مصنوعیه. خطرات هوش مصنوعی رو به طور کلی میشه زیرمجموعه‌ی ۱۰ تا مورد دسته‌بندی کرد. فیلم‌های پادآرمانشهری که درباره‌ی هوش مصنوعی ساخته میشن، اصولا با الهام از یک یا چندتا از این دسته‌بندی‌ها ساخته شدن. بررسی تک به تک این سناریوها بسیار طولانیه به همین دلیل، ما فقط چند مورد مهم‌ترش رو باهم بررسی می‌کنیم.

شاید عمیق ترین و گسترده ترین نگرانی مرتبط با پیشرفت هوش مصنوعی، پتانسیل توسعه سیستم های هوش مصنوعی فوق هوشمند باشد که می تونن خود بشریت رو تهدید کنن. این نگرانی که اغلب به عنوان مشکل "ایمنی هوش مصنوعی" شناخته می شه، بر این ایده متمرکز است که با توانمندتر شدن و خودمختارتر شدن سیستم های هوش مصنوعی، ممکن است در نهایت از هوش انسانی پیشی بگیرند و کنترل یا همسویی با ارزش ها و علایق انسانی برای انسان ها دشوار یا غیرممکن شود. سریال وست ورلد و البته سه‌گانه‌ی ماتریکس از بهترین مثال‌های این سناریو هستن. اگه هم اهل گیم بازی کردن باشید، بازی Detroit: become humanبازی فوق‌العاده‌ایه که روند تبدیل شدن هوش مصنوعی به یک گونه‌ی کاملا جدید روی کره‌ی زمین رو روایت می‌کنه.

نگرانی بعدی، ورود ماشین‌ها به دنیای سیاست و در نهایت مسلط شدن اون‌ها به انسان‌ها از طریق تشکیل یک دولت توتالیتره که در تمام جنبه‌های زندگی مردم نظارت و البته دخالت می‌کنه. سریال‌های فرد مورد نظر یا person of interest و سریال انیمه‌ی psycho-pass، زیرمجموعه‌ی همین نگرانی هستن. این سناریو شاید در نگاه اول خیلی تخیلی به نظر بیاد ولی خوبه که بدونید در انتخابات اخیر پارلمان بریتانیا، شخصی به نام استیو اِنداکوت نامزد شده که میگفته در صورتی که به عنوان یکی از اعضای پارلمان انتخاب بشم، کنترل کامل کارها و تصمیماتم رو به هوش مصنوعی می‌سپارم. شرح کامل این ماجرا در اپیزود ؟؟؟ رادیو جادی هست که خود این اپیزود یکی از منابع ما برای ساخت پادکست بوده.

بحث سلاح‌های خودمختار، بحث مهم دیگه‌ایه که درباره‌ی هوش مصنوعی مطرح میشه. با هوشمند شدن تقریبا همه چیز در زندگی ما، سلاح‌های جنگی هم به سمت هوشمند شدن میرن و به این ترتیب، تلفات نیروهای انسانی رو در جنگ‌ها پایین میارن. ولی مشکل اونجایی به وجود میاد که این سلاح‌ها کاملا خودمختار بشن و بعد، اشتباهی به غیرنظامی‌ها حمله کنن یا دستورهای مافوق انسانی خودشون رو به رسمیت نشناسن. اپیزود metalheadاز سریال آینه‌ی سیاه و البته مینی سریال انیمه‌ای Plutoبهترین مثال‌های این سناریو هستن.

ما در مورد نگرانی‌های اخلاقی و اجتماعی پیرامون هوش مصنوعی با دکتر طاها یاسری، متخصص روابط اجتماعی انسان و ماشین گفت‌وگو کردیم و به طور خاص سه موضوع شفافیت یا ترنسپرنسی هوش مصنوعی، سوگیری‌های نژادی و جنسیتی و موضوع حریم خصوصی رو مورد بحث قرار دادیم.

خبر خوب اینه که برای جلوگیری کردن از تاثیرات مخرب هوش مصنوعی هنوز دیر نشده. اتفاقا یک شاخه‌ی میان‌رشته‌ای جدید به وجود اومده که کارش بررسی مسائل اخلاقی‌ایه که هوش مصنوعی و استفاده از اون میتونه برای انسان‌ها به وجود بیاره. اسم این شاخه، AI ethicsیا اخلاق هوش مصنوعیه. یکی از منابع اصلی ما برای این اپیزود یعنی کتاب AI Ethics نوشته‌ی مارک کاکلبرگ، نیاز به وجود اخلاق هوش مصنوعی رو با کمک داستان فرانکشتاین توصیف کرده. در داستان هیولای فرانکشتاین، دانشمندی یک هیولا می‌سازه و بعد با پس زدن اون هیولا باعث فرار اون و ایجاد رعب و وحشت میشه. به عبارتی دانشمند، مسئولیت موجودی که خلق کرده رو به عهده نمیگیره و همین فاجعه به بار میاره. مهم‌ترین نکته در اخلاق هوش مصنوعی اینه که بدونیم ما در برابر چیزی که خودمون ساختیم مسئولیم و اگر این مخلوق، خرابی‌ای به بار بیاره مسئولیتش در درجه‌ی اول با خود ما انسان‌هاست. پس باید اصولی رو در طراحی، ساخت و استفاده از هوش مصنوعی رعایت کنیم که تضمین کنه استفاده از اون همواره امن و اخلاقی باقی بمونه.

اقداماتی هم برای تنظیم‌گری توی این حوزه انجام شده، مثلا به تازگی اپل در کنار چند شرکت دیگر که از بازیگرات اصلی در حوزه هوش مصنوعی هستند کتعهد شدند مدل‌ها هوش مصنوعی شون رو پیش از انتشار عمومی یا استفاده در محصولات شون ؛ توی یک محیط امن تست کنند و بعد از ارزیابی ایمنی اون‌ها رو منتشر کنند. صحبت‌های ما با دکتر یاسری هم در همین زمینه بود. جالبه که به نظر ایشون و البته به نظر تعدادی دیگه از متخصصین این حوزه، در حال حاضر نگرانی اصلی پیرامون هوش مصنوعی، مسلط شدنش به ما یا گرفتن شغل‌هامون نیست، بلکه مشکل رفتار خود ما رابط‌های انسانی با هوش مصنوعیه. الان چه خوشمون بیاد چه نیاد، هوش مصنوعی به یکی از اجزای مهم زندگی اجتماعی ما انسان‌ها تبدیل شده. ما باهاش تعامل میکنیم، باهاش حرف میزنیم و خیلی وقت‌ها ناخودآگاه رفتارمون با هوش مصنوعی شبیه به رفتارمون با یک انسان یا حداقل یک موجود انسان گونه است. ولی زمانی که ما گروهی از ماشین‌ها یا ربات‌ها و انسان‌ها رو داشته باشیم که باهم تعامل می‌کنن، رتبه‌ی ماشین‌ها در مقایسه با انسان‌ها در تعامل، بسیار پایین‌تر میاد. به عبارتی در یک گروه از انسان‌ها و ربات‌ها، انسان‌ها بیشتر تمایل دارن که به جای گوش دادن به ماشین‌ها، به سایر انسان‌ها گوش بدن. یا مثلا دیده شده که هم کودکان و هم بزرگسال‌ها در این گروه‌ها، تمایل به bullyکردن یا همون قلدری کردن برای ماشین‌ها هستن. شرح کامل چندین آزمایش روی این گروه‌ها رو می‌تونید در مقاله‌ی Robots in groups and teams: A literature review پیدا کنید که عنوانش رو در توضیحات اپیزود هم قرار میدیم. ولی احتمالا همه‌مون جنبه‌هایی از این رفتارها رو حداقل در خلوت خودمون دیدیم. مثلا هرکدوم از ما حداقل یک بار با چت بات‌هایی مثل چت جی پی تی، بد حرف زدیم یا مثلا بهش فحش دادیم.

در پس زمینه و بعد از پاراگراف بعدی تا آخر شنیده بشه

شاید در آینده، خطری که ما انسان‌ها برای ماشین‌ها داریم، بیشتر از خطر ماشین‌ها برای ما باشه. چون در نهایت، این ما هستیم که چیزی تحت عنوان اخلاقیات رو درک می‌کنیم. ما هستیم که تمام ویژگی‌های اخلاقی خوب یا بدمون رو به عنوان نمونه‌ای برای یادگیری به خورد ماشین‌ها میدیم. هوش مصنوعی در اصل، آینه‌ایه که بخشی از وجود خود ما رو بازتاب میده. آینه‌ای که گاهی نقاط مثبت وجود ما رو نشون میده و گاهی هم نشون میده که ما انسان‌ها با در دست داشتن قدرت و برتری مطلق نسبت به گونه‌های شبیه به خودمون، تا چه حد میتونیم بی‌رحم، سنگدل و نابودگر باشیم.

این بود اولین قسمت از فصل دوم فیل‌کست و یازدهمین اپیزود پیوسته بود که شنیدید؛ لازمه تشکر کنم از اسپانسر این اپیزود، ویپاد، ترا بانک بانک پاسارگاد که حامی این قسمت از فیلکست بودند. تنظیم متن و انتخاب موسیقی متن رو من شیرین شاطرزاده انجام دادم. ادیت و هماهنگی‌ها و البته بخشی از تولید محتوا به عهده حسین خلیلی بوده. صدایی روایت‌ پادکست رو برامون خوند، صدای سعید جعفریه که در بخش ارتباطات و مارکتینگ پادکست به ما کمک می‌کنه.

در نهایت هم از کارشناسای برنامه تشکر می‌کنیم که برای تهیه‌ی این اپیزود به ما کمک کردن. و همچنین از دو دوست عزیز ؟؟؟ و ؟؟؟ که مکالمه‌ی الایزا رو برای ما خوندن.

یه مژده هم دارم، اونم این که اکانت ویرگول فیلکست فعال شده و ما متن کامل تمام اپیزودهامون رو اونجا قرار میدیم. هدف اصلی‌مون از این کار اینه که فیلکست برای دوستان ناشنوامون هم در دسترس باشه. پس اگر دوستی دارید که ناشنوا یا کم‌شنواست و فکر می‌کنید از فیلکست لذت ببره، لطفا ویرگول ما رو که لینکش در توضیحات اپیزود هست بهش معرفی کنید.

یادتون باشه که فیلکست پادکستیه برای افرادی که می‌خوان بیشتر و عمیق‌تر فکر کنن. تصمیم‌گیری نهایی درباره حرف‌هایی که زدیم به عهده شماست اما اگر کنجکاو هستید و می‌خواین بیشتر بدونید، پیشنهاد می‌کنم سری به منابعی که در متن توضیحات پادکست ذکر کردیم بزنید. در ضمن می‌تونید اینستاگرام فیلکست رو به آدرس Fillcast_ فالو کنید چون اونجا عکس‌ها و مطالب تکمیلی هم اپیزود رو قرار می‌دیم.

مرسی که تا اینجا همراه ما بودید. از خودتون مراقبت کنید و گوش به زنگ باشید، چون فیلکست خیلی زود یک اپیزود جدید برمی‌گرده!

توی فیلکست به رسم همیشگیمون که معرفی یک کسب و کار یا فرد یا مجموعه‌‌ایه که به درستی دیده نشده، امروز میخوام یه پادکست بهتون معرفی کنم. پادکست تجربه‌ی جهانی به میزبانی مهدی جهانی که توی هر قسمتش به معرفی یکی از تجربه‌هایی می‌پردازه که به نظرش ارزش تجربه کردن و صحبت کردن درباره‌اش رو دارن. جدیدترین قسمتشون مثلا درباره‌ی پشت پرده‌ی داروهای ضدافسردگیه که واقعا جالب و شنیدنیه. لینک کست باکس تجربه‌ی جهانی رو توی بخش توضیحات این اپیزود براتون قرار میدیم.