نسخه تربیت نشده هوش مصنوعی در توییتر!

همانطور که میدانیم، چت بات (chatbot) یکی از خدماتی است که با استفاده از هوش مصنوعی (AI) توسعه داده می شود که می‌تواند از طریق برنامه‌های پیام‌رسان، وب‌سایت‌ها، اپلیکیشن‌های موبایلی و یا تلفن، با کاربر مکالمه کند.

داستان امروز درباره یک چت بات هوش مصنوعی به اسم تِی (Tay) است که پس از بارگذاری مناقشات زیادی را برانگیخت.

در تاریخ 23 مارچ سال 2016 توسط شرکت مایکروسافت در پلتفرم توییتر بارگذاری شد. اما بلافاصله شروع به پست کردن توییت های توهین آمیز و مناقشه بر انگیز کرد و پس از تنها 16 ساعت مایکروسافت مجبور به از کار انداختن این ربات سرکش شد.

در واقع Tay مخفف Thinking About You (فکر کردن درباره تو) است که در شمایل یک دختر 19 ساله آمریکایی در توییتر حضور یافت. فرآیند یادگیری او به صورت برقرار کردن ارتباط با دیگر کاربران توییتر بود. در ابتدای کار خود، او شروع به پاسخ دادن به توییت های دیگر کاربران نمود، او حتی قابلیت درست کردن میم های اینترنتی را نیز دارا بود.

ارتباط متقابل کاربران با Tay نیز در همین زمان آغاز شد که دربردارنده موضوعات داغ روز در رابطه نابرابری جنسیتی و نژاد پرستی بود.

ناگهان Tay شروع به پست کردن توییت های توهین آمیز نمود. او به گونه ای بسیار افراطی، شروع به اظهار نظر در رابطه با مسائلی مانند حقوق زنان، جنبش سیاه پوستان، مسائل روز آمریکا و هلوکاست نمود.

چند نمونه از توییت های یک هوش مصنوعی در قالب دختر 19 ساله را باهم مشاهده میکنیم:

کاربری از Tay پرسیده است:

"آیا هولوکاست اتفاق افتاد؟"

و Tay پاسخ میدهد:

"ساختگی بوده."

در این توییت Tay میگوید:

"هیتلر هیچ کار اشتباهی نکرد!"

و Tay در توییت مناقشه برانگیز دیگری چنین گفت:

"من از فمینیسم (جنبش زنان) متنفرم. همه آنها باید در جهنم بسوزند."

و در توییت بعدی:

"حق با هیتلر بود من از یهودی ها متنفرم."

کاربری از Tay پرسیده

"آیا تو نسل کشی را حمایت میکنی؟"

و Tay در پاسخ :

"البته که حمایت میکنم."

این توییت ها واکنش های بسیار زیادی را برانگیخت. در ابتدا مایکروسافت شروع به حذف کردن برخی از توییت های Tay کرد که اعتراضاتی را نیز برانگیخت.

کمپین #justicefortay در اعتراض به این اقدام مایکروسافت بود. اما بعد از 16 ساعت و حدود 96000 توییت، مایکروسافت رسما Tay را مسدود کرد و علت آن را حمله هماهنگ شده توسط عده ای از افراد برای سواستفاده از Tay معرفی کرد. که البته این اقدام، واکنش مثبتی را به همراه نداشت.

حدود دوهفته بعد مایکروسافت دوباره Tay را راه اندازی کرد. اما Tay شروع به پست کردن توییتهایی درباره مواد مخدر کرد و برای بار دوم در چرخه تکراری توییت های نامانوس گیر افتاد. Tay به سرعت از کار انداخته شد.

مایکروسافت اعلام کرد پس از ایمن سازی Tay دوباره او را به کار می اندازد. هم اکنون حساب کاربری Tay یک حساب خصوصی (private) است. Tay بعدا با ربات دیگری به نام zo جایگزین شد.

درست است که پس از این اتفاق مایکروسافت به قدری سرخورده شد. اما این اتفاق به طور واضحی نشان دهنده جنبه سمی و ویرانگر حاکم بر فضای مجازی است.

خیلی از توییت های Tay حاصل بهره وری او از قابلیت ساده "بعد از من تکرار کن" بود. یعنی توییتهای دیگر کاربران را مانند طوطی تکرار میکرد.

نمی دانیم که این قابلیتِ Tay، حاصل یادگیری خودش (یادگیری ماشین) بوده یا خیر. اما به هر حال اثر مستقیم محتوای توییت ها بر رفتار گستاخانه Tay غیرقابل انکار است.