فرض کن یک هوش مصنوعی پرستار شده، دوتا بیمار همزمان نیاز به تنفس ضروری دارن. هوش مصنوعی تشخیص میده اونی که جوون تر هست باید نجات پیدا کنه.چرا؟
چون هوش مصنوعی بر اساس اطلاعات تحلیل میکنه، و اطلاعات اون آدم ها نشون میداد نجات اون جووتر تره بیشتر به نفع آینده بشر هست. اما نجات ندادن اون سن بالاتره واقعا اخلاقی نیست و مارو ناراحت میکنه. درحالی که...
درحالی که هوش مصنوعی هیچ احساسی نسبت به این قضیه نداره. ما احساس داریم. حالا چطور این هوش مصنوعی رو کدنویسی کنیم که احساس مارو بفهمه؟ مثلا بگیم اینو در نظر بگیر که جوون تره سودش برای بشر بیشتره ولی ناراحت باش از اینکه سن بالاعه رو نجات ندادی؟
یا مثلا یک سری اطلاعات بدیم از احساسات آدما به هوش مصنوعی و اون با تحلیل کردن میفهمه که آدم ها از اینکه اون سن بالاعه رو نجات نداده ناراحت میشن. پس سن بالا رو نجات بده، اما خب باز اون جوونه چی؟
یا مثلا باز میاد تحلیل میکنه و میفهمه که هر کدوم رو نجات بده درکل مردم ناراحت میشن از یک طرف، پس بهترین راه نادیده گرفتن احساسات آدم هاست و بهتره تصمیم درست عملی بشه. اما حالا تصمیم درست از نظر اون یعنی چی؟
هوش مصنوعی تصمیم درست رو هم از روی دیتاها تشخیص میده. میفهمه هرچیزی باعث افزایش عمر آدمیزاد بشه مثلا خوبه. شاید با تحلیل اطلاعات بیشتر بفهمه این جوونه که اینجاست به شدت آدم دزد و منحرفی بوده و اگه زنده بمونه برای جامعه بشری آسیب بیشتری در آینده محتمل میشه
پس پیره رو نجات میده، اما باز هم آیا منطقیه؟ کدوم تصمیم درسته؟ به نظرتون هوش مصنوعی این حجم عظیم پیچیدگی احساسات انسانی رو چطور میتونه درک کنه؟چطور میتونه متوجه بشه بعضی وقت ها از هدیه گرفتن یک شکلات بیشتر از کلی ابراز احساسات توسط یک فرد خوشحال میشیم؟
چطور میتونه تشخیص بده بعضی وقتا با اینکه یک نفر رو خیلی دوست داریم ولی به موفقیتش حسودی میکنیم؟ یا چطور میتونه تشخیص بده که اگه اون جوون دزده رو نجات میداد، اون جوون یک تلنگر بزرگ در زندگیش ایجاد میشد و کلا عوض میشد و یکی از تاثیرگذارترین آدم ها میشد.
مشکل اینه احساسات انسان توسط خود انسان هم هنوز درک نشدن، و در آینده احتمالا هوش مصنوعی با قلقک دادن احساسات آدما کلی ماجراهای عجیب و قابل تامل ایجاد میکنه. احتمالا کلی موقعیت های جدیدی ایجاد میکنه که حتی نیاز به بازنگری فلسفی و خط زدن دور کتاب های نیچه و کانت و دکارت باشه.
