خب، الان که بحث این هوش مصنوعی ها داغه خیلی خوبه که ببینیم آیا می شه به این هوش مصنوعی ها اعتماد کرد یا نه؟ آیا می تونن اطلاعات رو درست بگن؟ آیا کار ما راحت شده؟
در نهایت، من تصمیم گرفتم که که اینا رو وارد آزمایش های سختی بکنم. انواع چیز ها رو روی اینا امتحان کردم. وقتمو گذاشتم. ببینم واقعا این هوش مصنوعی چی کار می تونه بکنه؛ چند مرده حلاجه؟ آیا می تونه از دست من فرار کنه یا نه؟?
میبینین؟! خیلی هم مطمئنه! کاملا با لحن متقاعد کننده صحبت می کنه و از رو هم نمیره متاسفانه! حتی از خودش هم شعر میسازه و به فردوسی نسبت میده! در واقع به شدت درگیر جهل مرکبه، نمی دونه که نمیدونه!
یعنی اصلا خودتون ببینین! خنده داره? جالبه که بهش گفتم این شعر فردوسی نیست؛ گفته آره درسته، مال سعدیه! بعدش تازه یک بیت شعر از خودش هم میگه! من سرچ کردم؛ اصلا چنین شعری وجود نداره. بعد که بهش میگم نیست؛ همون شعرشو تغییر میده به حافظ! باز هم میگه من منابع قابل اعتماد دارم. بخوره تو سرت اون منابع قابل اعتمادت!
بعد که بهش میگم اسمش علی هست؛ یک اسم بلند طولانی رو از خودش در آورده و میگه اسم اونه! اسمی که اصلا وجود نداره. بقیه شم که خودتون میبینین. گفته اصلا شاعرش گم نامه. بله دیگه!
آهان! این رو خود شرکت OpenAI و کلا شرکت های هوش مصنوعی ازش خبر دارن، اسم هم براش گذاشتن که الان یادم رفته. یعنی به واسطه ی اطلاعات غلطی که تو پاسخ های قبلی دادن؛ پاسخ های بعدی هم به هم میریزه. کلا یک چت جدید باز کردم و ازش پرسیدم اسم کوچک فردوسی چیه و اون موقع کامل و درست جواب داد.
هوش مصنوعی بعضی وقت ها میگه نمی دونم، ولی بعضی وقت ها نمیگه نمی دونم! بعضی وقت ها هم نمیدونه که نمیدونه. حالا چرا دیگه معلوم نیست. این هوش مصنوعی هایی که الان داریم، فقط generate می کنن، یعنی فقط سعی می کنن یک پاسخی بسازن با کنار هم گذاشتن کلماتی که به هم ربط داشته باشن.
در نهایت، هوش مصنوعی از مرحله شعر هم نتونست به درستی عبور کنه. کلا توی شعر های ایرانی به شدت ضعیفه. مثلا بهش میگی مصرع های بعدی یک شعر از سعدی رو بگو و برات شعر سرهم میکنه. یعنی نمی تونه اون شعر رو برامون پیدا کنه. ولی بینگ چون سرچ می کنه بهتر می تونه پیدا کنه و حتی می تونی بهش بگی از سایت گنجور برام پیدا کن. البته کلا این کارا رو با همون جستجوگر های قدیمی خودمون انجام بدیم بهتره؛ حالا چه گوگل چه بینگ چه اصلا یاهو! هوش مصنوعی برای این کار لازم نیست!
دیگه خودمم دارم شک می کنم به اینکه این شخصیت ها رو از خودم در آوردم! جالبه که حتی بینگ منبع هم برامون ذکر می کنه! بینگ میگه که منبعم ویکی پدیا و چند سایت دیگس! منابعش درباره شاهان قاجاره و ناصرالدین شاه. در واقع، به خاطر اسم میرزا که اون موقع بیشتر استفاده شده. هر کدوم از این ماجرا ها می تونن مال یک نفر باشن که کنار هم گذاشته شدن و یک داستان رو ساختن. منبع هاش هیچ ربطی به سوالی که من پرسیدم ندارن.
من بعد از دیدن شاهکار های اونا، شک کردم که شاید حالت دقیق بینگ بتونه درست جواب بده!
بینگ 3 تا حالت داره:
در واقع، این یک درجه ی اطمینان بین 0 تا 100 هست. که هوش مصنوعی به حرف خودش اختصاصش میده، یعنی چقدر به حرفت اعتماد داری و فکر می کنی درسته؟ هر چقدر مرز این درجه بالاتر باشه، حرف قابل اطمینان تره. هر حالتی یک عدد داره. یعنی یک حرف ممکنه توی حالت خلاق زده بشه ولی توی حالت دقیق نه یا بالعکس...
شروع کردم یک سری چیستان های گمراه کننده پرسیدن. در کل عملکردش نسبت به ChatGPT خیلی بهتر بود:
ولی نامرد تقلب می کنه ها، سرچ می کنه تو گوگل ( در واقع توی بینگ ولی اصطلاح ما اینطوری شده?) و جوابشو پیدا می کنه?
این داستان: بینگ عصبی? گفتم بازماندگان زندن بعد گفته باشه و بعد منو از چت پرت کرد بیرون! کلا این بینگ رو کاری کردن که هر چیز کوچیکی که بهش بگی یکم بهش بربخوره سریع وارد عمل میشه! حتی یک بار خود ادج رو هم بست و مجبور شدم مرورگرو دوباره باز کنم :)
سه تا چیستان پرسیدم و به دو تاش درست جواب داد.
و ChatGPT خیلی خوب عمل نکرد:
البته دفعه های قبلی که اینو پرسیده بودم بهم گفته بود اسمش شماله ولی الان میگه توی مسئله ذکر نشده.
خب، این هم اشتباه جواب داد. از سه تا چیستان به هیچ کدوم درست جواب نداد.
جمع بندی کل این مقاله: چرا هوش مصنوعی کاملا قابل اعتماد نیست و چرا نباید چشم و گوش بسته به هوش مصنوعی گوش کنیم.
لیست ( تقریبا ناکاملی ) از مشکلات هوش مصنوعی:
فقط اینا هم نیست، ممکنه چیز های دیگه ای هم باشن که من جا انداختم. ولی همه اینا ( مخصوصا آخری! ) خیلی مهمن.
ریزه کاری های دیگه هم داره که من نتونستم همه شون رو بنویسم. مثلا به سختی کد می نویسه! من اولش واقعا برای این هیجان زده شده بودم؛ ولی بخاری ازش بلند نمیشه. مثلا خیلی ها میگن چرا برنامه نویس ها باید محصولی درست کنن که کار خودشونو از بین ببره؟ در حالی که اصلا یک کم هم نمی تونه با یک برنامه نویس رقابت کنه! فقط در صورتی که تو مثلا تابع های مورد نیازت رو یکی یکی ازش بخوای.
عکس ها رو به سختی درست می کنه. مثلا من یک عکس ساعت باهاش درست کردم. هرچی سعی کردم بهش بگم که ساعت روی زمین خوابیدست؛ نفهمید و در آخر باز هم یک عکس از ساعت صاف دارم :|
بینگ جدیدا یکم گنگ صحبت میکنه. یعنی درست عین آدم ( طبیعیه، چون آدم نیست?) یک مسئله رو برات توضیح نمیده. مثلا من دستور العمل یک کار فنی می خواستم و تا وقتی که بهش نگفته بودم واضح توضیح بده درست حرف نمیزد! بعدش هم به روش آوردم که تا وقتی که من بهت نگفته بودم واضح حرف نمی زدی?
شرور شدن هوش مصنوعی؟! با این چیزهایی که الان با هم دیدیم؛ چقدر درباره شرور شدن هوش مصنوعی مطمئن موندین؟ این هنوز مونده تا خودشو جمع کنه بعد بخواد نسل ما رو منقرض کنه؟! ایشالا یک مقاله کامل هم درباره شرور شدنش می نویسم؛ ولی تا الان میشه گفت که شرور نمیشن. هنوز باید خودآگاهی داشته باشن؛ احساسات داشته باشن و... تا بتونن شرور بشن و اون موقع واقعا ممکنه!
ولی در واقع تنها خطر الان هوش مصنوعی اینه که آدم ها ازش سوء استفاده بکنن یا حرفی بزنه که باعث بشه یک آدم کار اشتباهی انجام بده! درواقع فقط با واسطه گری انسان و اطلاعات نادرست بده. ولی یک راه هایی اندیشه کردن که جلوی این ها رو هم بگیره. مثلا با بینگ نمی تونی بیشتر از 30 تا سوال حرف بزنی.
خوب دیگه، به آخر مقاله رسیدیم. اگر کیفیت عکس ها کم بود منو ببخشین. در ضمن، یک درخواست هم از ویرگول دارم؛ لطفا پسوند فایل هایی رو که بینگ درست میکنه ( jfif ) رو هم توی پسوند های ویرگول بذارین چرا که الان با بحث هوش مصنوعی احتمالا خیلی لازم میشه.
در آخر شما رو با این عکس زیبای مرتبط با هوش مصنوعی تنها می ذارم :))
اگر به خریدن نیویورک علاقه دارین این رو بخونین:
اگر کلا به بحث علاقه دارین مخصوصا درباره موفقیت با تحصیل، این رو بخونین:
امیدوارم که براتون مفید بوده باشه :))
