۵ شکست هوش مصنوعی که احتمالا باید در مورد آن بدانید!

منتشر‌شده در towardsdatascience به تاریخ ۲۲ ژوئن ۲۰۲۱
لینک منبع 5 AI Failures You Probably Should Know About

کاملا طبیعی است که شکست را دوست نداشته باشید، شکست خوردن دردناک است. اما در واقع، شکست نه تنها برای هر کسی که جرات امتحان کردن چیزی جدید را داشته باشد، اجتناب‌ناپذیر است، بلکه ضروری هم هست. پذیرش شکست، کاتالیزور رشد نمایی است زیرا در درون آن‌ها درس‌های با ارزشی از زندگی وجود دارد. این بزرگ‌ترین چیز در مورد یادگیری از شکست است … آن‌ها نباید مال شما باشند.

اگرچه ما چندین سال است که در مورد هوش مصنوعی (AI) می‌دانیم، کاربرد آن در صنعت هنوز هم در مراحل اولیه بسیار زیاد است. انتظار شکست می‌رود. گاهی اوقات این شکست‌ها کشنده بوده و در موارد دیگر نه کاملا اما با این حال، ترک‌های هوش مصنوعی (یا اجرای اشتباه آن) نشان‌داده شده‌اند و اعتماد مردم از بین رفته‌است.

به عنوان یک متخصص، وظیفه ما این است که هوش مصنوعی را به طور ایمن تمرین کنیم، بنابراین یادگیری در مورد زمان‌هایی که تکنولوژی شکست‌خورده است و سپس برای درک اینکه چرا این تکنولوژی شکست‌خورده و چه کاری باید به طور متفاوت انجام شود، ارزشمند است. با توجه به آنچه گفته شد، در اینجا ۵ مورد وجود دارد که هوش مصنوعی شکست‌خورده است.

نکته: شکست‌ها به ترتیب زمانی نیستند.

# ۱: تای مایکروسافت

به نظر من، ربات‌ها این پتانسیل را دارند که یکی از با ارزش‌ترین منابع در تکنولوژی باشند. پیشرفت در توانایی کامپیوترها برای درک زبان طبیعی، توسعه تکنولوژی‌هایی که می‌توانند تعاملات انسانی را جعل کنند را ممکن ساخته‌است. (مایکروسافت) ممکن است در سال ۲۰۱۶ زمانی که Tay را به توییتر آزاد کردند نیز همین فکر را کرده باشد.

تیم تحقیقاتیTay (مخففThinking About You) را "هوش مصنوعی بدون هیچ خونسردی" توصیف کردند، چیزی که مردم شروع به مشاهده آن کردند، خصوصاً وقتی ربات در پاسخ به سایر کاربران توییتر شروع به اظهارات نژادپرستانه و تحقیرآمیز کرد.

By https://twitter.com/tayandyou (https://pbs.twimg.com/profile_images/712494863573356544/vtXa3ywk.jpg), Fair use, https://en.wikipedia.org/w/index.php?curid=49953711

این ربات در ابتدا برای آزمایش و بهبود درک مایکروسافت از زبان طبیعی در گفتگو آزاد شد. تای از مهارت‌های هوش مصنوعی خود برای یادگیری از تعاملات برای داشتن گفتگوهای بهتر در آینده استفاده کرده بود. طولی نکشید که کاربران توییتر شروع به هدف قرار دادن نقاط ضعف ربات هوش مصنوعی کردند و سپس آن را دستکاری کردند تا احساسات عمیقا جنسیتی و نژادپرستانه را بیاموزند.

مایکروسافت باید ربات را کم‌تر از ۲۴ ساعت پس از راه‌اندازی خاموش می‌کرد. در بیانیه‌ای در آینده، ساتیا نادلا، مدیرعامل مایکروسافت، در مورد «تاثیر بزرگی» که تای بر چگونگی نزدیک شدن مایکروسافت به هوش مصنوعی و اهمیت پاسخگویی داشت، اظهار داشت.

# ۲ ابزار استخدام آمازون

استفاده از هوش مصنوعی برای تسهیل کسب استعداد در این عصر و روز رایج است، با این حال، همیشه اینطور نبوده است. زمانی، اگر شما زنی بودید که به دنبال یک نقش تکنیکی در آمازون بودید، شانس شما بسیار کم بود.

آمازون در حال ساخت نرم‌افزاری بود که روند بازبینی رزومه متقاضیان کار را با هدف یافتن ۵ استعداد برتر از سال ۲۰۱۴ خودکار کند. تا سال ۲۰۱۵، متخصصان یادگیری ماشین آمازون کشف کردند که ابزار استخدام با نیروی هوش مصنوعی آن‌ها برای نقش‌های فنی (به عنوان مثال توسعه دهنده نرم‌افزار) به روشی که از نظر جنسیتی خنثی نبود، استخدام می‌کرد.

معلوم شد که آمازون الگوریتم‌های یادگیری ماشینی خود را در رزومه‌هایی که طی یک دوره ۱۰ ساله به شرکت ارائه شده‌بود، آموزش داده بود. اکثر رزومه‌ها از مردان گرفته شده‌اند، زیرا این چیزی است که در نقش‌های فنی بسیار رایج است، و الگوریتم‌ها این الگو را یاد گرفته‌اند و زنان مصمم مدعیان خوبی برای نقش‌های فنی نیستند.

# ۳.سیستم ردیابی توپ Inverness Caledonian Thistle F.C.

تیم فوتبال اسکاتلند، «Inverness Caledonian Thistle FC»، در اکتبر سال ۲۰۲۰، آغاز به کار فن‌آوری جدید خود در ردیابی توپ با نیروی هوش مصنوعی را اعلام کرد. این خبر پس از دو آزمایش موفقیت‌آمیز تکنولوژی که اعتماد این باشگاه را جلب کرده بود، اعلام شد.

فن‌آوری ردیابی توپ هوش مصنوعی در رقابت با Ar یونایتد اف سی نتوانست موفقیتی را که در طول اجرای تست کسب کرده بود، به دست آورد. این سیستم به طور مکرر توپ را با سر تاس فرد اشتباه می‌گرفت، به خصوص زمانی که توپ در مناطق نامشخص قرار داشت (یعنی توسط بازیکنان مسدود می‌شد یا زمانی که در سایه استادیوم بود).

در حقیقت، برخی از طرفداران ممکن است جنبه خنده‌دار این حادثه را ببینند، اما در آن زمان، اگر شما یک مشتری پرداختی بودید و داشتید فوتبال زنده را در میان یک بیماری همه‌گیر جهانی تماشا کنید، نابود می‌شدید.

سعی کنید نخندید؛ به نظر می‌رسد این مشکل در نتیجه شباهت‌های بصری بین سر بازیکن خط و توپ ایجاد شده‌است. عوامل دیگری نیز بر این تکنولوژی تاثیر گذاشتند، مانند زاویه دوربین که این تصور را ایجاد کرد که سر بازیکنان در محدوده زمین فوتبال قرار دارد.

# ۴: تلفات اتومبیل خود راننده‌ی Uber

۱۸ مارس ۲۰۱۸ به عنوان یک روز در تاریخ ثبت خواهد شد تا زندگی الین هرزبرگ را به یاد داشته باشد که اولین قربانی عابر پیاده ضبط‌شده شامل یک ماشین خود-راننده بود.

این حادثه در تمپه، آریزونا، ایالات‌متحده آمریکا رخ داد.

(هرزبرگ) در حالی که دوچرخه را از جاده چهار خطه عبور می‌داد، توسط وسیله نقلیه آزمایشیUBER به شدت کشته شد.

تاکسی Uber از خطرات بالقوه وسایل نقلیه خود-راننده آگاه بود، از این رو آن‌ها یک سیستم انسان-در-حلقه را ترکیب کردند تا به عنوان پشتیبان عمل کنند. با این حال، گزارش‌ها ادعا کرده‌اند که راننده ایمنی با یک قسمت صدای تلفن خود منحرف شده و در واقع تا یک سوم سفر را از دست داده است.

در گزارشی از شبکه خبری ان بی سی آمده‌است که علت این حادثه ناتوانی هوش مصنوعی در طبقه‌بندی یک شی به عنوان یک عابر پیاده است مگر اینکه آن شی در نزدیکی یک گذرگاه باشد.

به دنبال این حادثه، اوبر که به طور کامل ویران و قابل‌درک بود، آزمایش وسایل نقلیه خودکار در آریزونا را به حالت تعلیق درآورد-محلی که در آن چنین آزمایش‌هایی از سال ۲۰۱۶ تصویب شده‌بود.

#۵ هک شناسایی چهره با استفاده از ماسک گرینت شده ۳ بعدی

تشخیص چهره امروزه در همه جا در حال ظهور است، اما ممکن است آن طور که ما در ابتدا فکر می‌کردیم ایمن نباشد. محققان قادر به پیدا کردن نمونه‌هایی بوده‌اند که در آن‌ها تشخیص چهره با استفاده از یک ماسک چاپ‌شده سه‌بعدی که چهره مورد استفاده برای احراز هویت سیستمID چهره را به تصویر می‌کشد، فریب داده شده‌است.

جمع‌بندی

شکست معمولا با هزینه همراه است و این هزینه با افراد بیشتری که شکست را تحت‌تاثیر قرار می‌دهند، افزایش می‌یابد. گاهی اوقات، ما مجبور نیستیم منتظر بمانیم تا اشتباهات خودمان را برای یادگیری مرتکب شویم. دیگران پیش از ما اشتباه کرده‌اند تا بتوانیم از آن‌ها یاد بگیریم و رشد کنیم بدون این که مجبور باشیم همان هزینه را پرداخت کنیم. با این گفته، یاد بگیرید که شکست را بپذیرید که ممکن است یاد بگیرید زیرا راهی مطمئن برای رشد است.

از شما به خاطر خواندن متشکرم!

این متن با استفاده از ربات مترجم مقالات علم داده ترجمه شده و به صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد.

مقالات لینک‌شده در این متن می‌توانند به صورت رایگان با استفاده از مقاله‌خوان ترجمیار به فارسی مطالعه شوند.