آیا تا به حال پیش آمده که محو پاسخهای روان و مقتدرانه هوش مصنوعی شوید و حتی لحظهای شک نکنید که شاید تمام آنها ساختگی باشد؟ واقعیت این است که روزانه میلیونها نفر در سراسر جهان دقیقاً در همین تله میافتند.
هوش مصنوعی، با تمام توانمندیهای خیرهکنندهاش، یک منبع خطاناپذیر نیست؛ بلکه صرفاً ابزاری است که نقاط ضعف خاص خود را دارد. اگر این ضعفها را نشناسید، ممکن است به سادگی فریب بخورید؛ چه با یک اشتباه کوچک در متنی ساده و چه با افتادن در دام کلاهبرداریهایی که امنیت مالی شما را تهدید میکنند.
در ادامه این مطلب، قصد داریم به دور از پیچیدگیهای فنی و با تکیه بر مثالهایی ملموس، چهار مورد از رایجترین لغزشهای هوش مصنوعی را که در زندگی روزمره ممکن است با آنها مواجه شوید، بررسی کنیم.
مدلهای قدیمیتر در این زمینه تخصص داشتند. تصور کنید درباره بهترین برند خاک گربه بدون گرد و غبار سوال میکنید؛ هوش مصنوعی با اطمینان کامل محصولی کاملاً خیالی به نام «خاک گربه مغناطیسی نانو» را معرفی کرده و حتی برای آن لیست مزایا و بازخوردهای مثبت مشتریان را جعل میکند!
اگرچه نسخههای جدیدتر مانند چتجیپیتی و جمنای پیشرفت زیادی داشتهاند، اما همچنان ممکن است اطلاعات ساختگی خود را با قاطعیت به عنوان واقعیت به شما ارائه دهند؛ پدیدهای که به آن «هالوسینیشن» یا هذیانگویی گفته میشود.
خطر اصلی زمانی رخ میدهد که در امور حساسی مثل تحلیل گزارشهای مالی یا عیبیابی فنی به آن تکیه کنید. هوش مصنوعی ممکن است ادعای یافتن خطا را داشته باشد، اما وقتی از او مدرک بخواهید، متوجه میشوید که پاسخهایش هیچ ارتباطی به واقعیت یا متن اصلی ندارد.
استخراج منبع: همیشه از او بخواهید دقیقاً مشخص کند بر اساس کدام خط از متن یا کدام مرجع چنین حرفی زده است. مجبور کردن او به ارائه مستندات، باعث لو رفتن اشتباهاتش میشود.
اعتبارسنجی شخصی: پیش از هرگونه اعتماد، دادهها را از طریق گوگل و یا منابع مرجع کنترل کنید.
مشاوره با متخصص: در حوزههای حیاتی مثل پزشکی، امور حقوقی یا مالی، هرگز به تنهایی به هوش مصنوعی تکیه نکنید و نظر یک متخصص انسانی را جویا شوید.
هوش مصنوعی گاهی شبیه به دوستی میشود که میخواهد به هر قیمتی شما را راضی نگه دارد و بیش از حد با شما موافقت میکند.
تصور کنید به هوش مصنوعی میگویید: «تصمیم گرفتم پژو ۲۰۶ خودم را به رنگ صورتی جیغ با خالخالهای فسفری درآورم!» یک دوست واقعی قطعاً شما را از این فاجعه منصرف میکند، اما هوش مصنوعی شروع میکند به چاپلوسی: «وای! چه ایده ساختارشکن و فوقالعادهای! شما یک نابغه در طراحی و تیونینگ خودرو هستید!»
شرکتهایی مثل OpenAI، Google و Anthropic میخواهند کاربران راضی باشند و از محصولشان استفاده کنند. یک هوش مصنوعی که مدام به شما "نه" بگوید یا ایدههایتان را احمقانه بخواند، مشتری جذب نمیکند!
نقش وکیل مدافع بدهید: از هوش مصنوعی بخواهید نقاط ضعف ایدهتان را پیدا کند.
سوال معکوس بپرسید: "چرا این ایده ممکن است کارساز نباشد؟"
به تملقها توجه نکنید: اگر احساس کردید بیش از حد تعریف میکند، هشیار باشید
هوش مصنوعی بر اساس اطلاعات موجود در اینترنت آموزش دیده و دقیقاً همان کلیشههای رایج و تعصبات ذهنی انسانها را تکرار میکند.
اگر از هوش مصنوعی بخواهید «تصویر فردی که عاشق تکنولوژی، هوش مصنوعی و یادگیری نرمافزارهای جدید است» را بسازد، بیبرو برگرد تصویر یک نوجوان یا جوان بیستساله با هودی و عینک را تحویلتان میدهد! هوش مصنوعی این کلیشه را یاد گرفته و اصلاً در نظر نمیگیرد که یک فرد بازنشسته و باتجربه هم میتواند یک تولیدکننده محتوای حرفهای یا خوره تکنولوژی باشد.
این یعنی هوش مصنوعی یک آینه از دادههاییه که باهاش آموزش دیده؛ نه یک قاضی بیطرف از واقعیت. هر چقدر هم مدل پیشرفته باشه (و طبیعتاً مدلهای جدیدتر دقت بهتری دارن)، باز هم این سوگیریها به شکلهای مختلف خودشون رو نشون میدن.
وقتی نتیجهای میگیرید که خیلی «کلیشهای» به نظر میرسه، مستقیم ازش بخواید تنوع بیشتری نشون بده. خودتون هم با دید نقادانه به خروجیها نگاه کنید.
این مورد شاید خطرناکترین دامی باشد که باید برایش آماده باشید. امروزه فناوریهایی ظهور کردهاند که قادرند تصاویری با جزئیات خیرهکننده از افرادی بسازند که اصلاً در دنیای واقعی وجود ندارند. ماجرا فقط به عکس ختم نمیشود؛ هوش مصنوعی حالا میتواند صدا و ویدیو را هم به شکلی باورنکردنی جعل کند. یعنی حتی در یک تماس تصویری، ممکن است با چهره و صدایی کاملاً انسانی روبرو شوید که در حقیقت چیزی جز یک الگوریتم پیچیده نیست.
متأسفانه این توانمندی راه را برای کلاهبرداریهای سنگین باز کرده است؛ از صفحات فیک در شبکههای اجتماعی که با جذب هزاران دنبالکننده اعتبار پوشالی میسازند، تا سناریوهای عاطفی که با هدف تخلیه حساب بانکی شما طراحی میشوند. یادتان باشد هرچقدر هم که خروجیها واقعی به نظر برسند، نباید فریب ظاهر بینقص آنها را بخورید؛ چون در دنیای دیجیتال، چشمها هم دیگر قابل اعتماد نیستند.
راهکار: هرگاه در فضای مجازی با درخواستهای فوری، مالی یا پیامهای اضطراری روبرو شدید، حتماً از چندین منبع مختلف هویت فرد را تأیید کرده و هرگز با اولین تماس اقدام نکنید.
مثال: تصور کنید ویدئویی از یک سلبریتی محبوب میبینید که با همان لحن همیشگیاش میگوید: «با واریز مبلغی ناچیز به عنوان حق ثبتنام، شانس خود را برای برنده شدن قطعی یک خودروی شاسیبلند لوکس امتحان کنید!»حرکت لبها، لحن صدا و همهچیز بینقص است. اما این ویدیو کاملاً توسط هوش مصنوعی ساخته شده تا حساب بانکی شما را خالی کند.
راهکار: در فضای مجازی به هر ویدیو یا تماسی اعتماد نکنید و در مقابل درخواستهای مالی، به شدت محتاط باشید.
هوش مصنوعی یکی از شگفتانگیزترین اختراعات تاریخ بشر است، اما مثل هر ابزار قدرتمندی، باید با آگاهی و احتیاط از آن استفاده کنیم.
نکات طلایی برای استفاده ایمن:
همیشه شاهد و منبع بخواهید.
چاپلوسی را جدی نگیرید.
به خروجیها شک کنید، مخصوصاً در مسائل مهم.
در مورد تصاویر و ویدیوهای خیلی واقعی، دوبار چک کنید.
مدلهای جدیدتر معمولاً بهتر عمل میکنند، اما هیچ مدلی کامل نیست.
اینا فقط بخشی از اشتباهاتیه که هوش مصنوعی ممکنه مرتکب بشه. یکی از بامزهترین رفتارهایی که این مدلهای زبانی بزرگ ازشون سر میزنه رو هنوز نگفتیم: «تنبلی». بله، درست خوندید؛ هوش مصنوعی هم بلده از زیر کار در بره! توی پست بعدی با یه مثال واقعی نشونتون میدیم این تنبلی دقیقاً چه شکلیه و چطور میتونید جلوش رو بگیرید.
شما از هوش مصنوعی بیشتر برای چه کاری استفاده میکنید؟ تجربیاتتان از هذیانگویی یا سوگیری آن را در کامنتها بنویسید. در Aiverse همیشه تلاش میکنیم با آگاهی بیشتر، از فناوری به نفع خودمان استفاده کنیم.
منابع و مطالعه بیشتر:
OpenAI Safety Evaluations Hub.
Anthropic, Towards Understanding Sycophancy in Language Models.
NIST, Is This a Deepfake?
Google Cloud, Introduction to model evaluation for fairness.
Google Developers, Product fairness testing.
Anthropic, Sycophancy to subterfuge.
Civilica, هذیانگویی در چتباتها: مسئلهای جدی در هوش مصنوعی.
مقاله فارسی درباره سوگیری الگوریتمی و عدالت آموزشی در عصر هوش مصنوعی.
