هفته گذشته، گوگل بزرگترین تغییر خود در زمینه جستجو را طی سالیان اخیر معرفی کرد و آخرین دستاوردهای خود در زمینه هوش مصنوعی را به نمایش گذاشت که قادر به پاسخگویی به سوالات کاربران است. این تلاش گوگل برای رقابت با رقبایی همچون مایکروسافت و اوپن‌آی‌آی صورت می‌گیرد.
این فناوری جدید با ارائه اطلاعات غلط و اشتباهاتی مانند توصیه چسباندن پنیر روی خمیر پیتزا و یا خوردن سنگ برای دریافت مواد مغذی، اعتبار گوگل را زیر سوال برده و جنجال آنلاین به پا کرده است.
پاسخ‌های نادرست در این ویژگی جدید که "AI Overview" نامیده می‌شود، اعتماد به موتور جستجویی را که بیش از دو میلیارد نفر برای دریافت اطلاعات معتبر به آن مراجعه می‌کنند، تضعیف کرده است. اگرچه سایر چت‌بات‌های هوش مصنوعی نیز دروغ می‌گویند و رفتار عجیب دارند، اما این پس‌زدگی نشان داد که گوگل تحت فشار بیشتری برای ادغام ایمن هوش مصنوعی در موتور جستجوی خود قرار دارد.
این رونمایی همچنین الگوی مداومی را که گوگل در مواجهه با مشکلات مربوط به جدیدترین ویژگی‌های هوش مصنوعی خود بلافاصله پس از راه‌اندازی آنها تجربه می‌کند، ادامه می‌دهد. در فوریه 2023، زمانی که گوگل "بارد" را به عنوان چت‌باتی برای رقابت با ChatGPT معرفی کرد، اطلاعات نادرستی درباره فضا ارائه داد. در پی آن، ارزش بازار شرکت با کاهش 100 میلیارد دلاری مواجه شد.
در فوریه امسال، گوگل جانشین بارد، "جمینی" را معرفی کرد، یک چت‌بات که قادر به تولید تصاویر و عمل به عنوان یک دستیار دیجیتال صوتی بود. اما کاربران به سرعت متوجه شدند که سیستم از ایجاد تصاویر افراد سفیدپوست در اکثر موارد خودداری می‌کند و تصاویری نامناسب از شخصیت‌های تاریخی ارائه می‌دهد.
با هر شکست، کارشناسان صنعت فناوری از کوتاهی گوگل انتقاد کرده‌اند. اما تحلیلگران مالی در مصاحبه‌ها اظهار داشتند که گوگل برای رقابت با رقبای خود باید سریع حرکت کند، حتی اگر این امر منجر به دردسرهای موقتی شود.
"توماس مونته‌یرو"، تحلیلگر گوگل در Investing.com، در مصاحبه‌ای اظهار داشت: «در حال حاضر گوگل چاره‌ای ندارد. شرکت‌ها باید بسیار سریع حرکت کنند، حتی اگر این کار شامل صرف‌نظر کردن از برخی مراحل شود. تجربه کاربران به مرور زمان خود را وفق خواهد داد.»
"لارا لوین"، سخنگوی گوگل، در بیانیه‌ای اظهار داشت که اکثریت قریب به اتفاق جستجوهای AI Overview منجر به دریافت «اطلاعات با کیفیت بالا، به همراه لینک‌هایی برای کاوش بیشتر در وب» شده است. نتایج تولیدشده توسط هوش مصنوعی این ابزار معمولا در بالای صفحه نتایج نمایش داده می‌شود.
وی افزود: «بسیاری از مثال‌هایی که دیده‌ایم، سوالات غیرمعمولی بوده‌اند و ما همچنین مثال‌هایی دیده‌ایم که دستکاری شده یا نتایجی بوده‌اند که نتوانسته‌ایم آنها را بازتولید کنیم. ما از مثال‌های منفرد مشکل‌دار برای بهبود سیستم خود استفاده خواهیم کرد.»
از زمانی که OpenAI چت‌بات ChatGPT خود را در اواخر سال 2022 منتشر کرد و به یک پدیده تبدیل شد، گوگل تحت فشار بوده است تا هوش مصنوعی را در اپلیکیشن‌های محبوب خود ادغام کند. اما چالش‌هایی در رام کردن مدل‌های زبان بزرگ وجود دارد که از حجم عظیمی از داده‌ها که از وب باز گرفته می‌شوند، یاد می‌گیرند - از جمله اطلاعات غلط و پست‌های طنز - در حالی که نرم‌افزارهای سنتی به صورت دستی برنامه‌نویسی می‌شوند.
(در دسامبر، نیویورک تایمز علیه OpenAI و شریک آن، مایکروسافت، به دلیل نقض حق تکثیر محتوا در ارتباط با سیستم‌های هوش مصنوعی، شکایت کرد.)
گوگل AI Overview را در کنفرانس سالانه توسعه‌دهندگان خود، I/O، با تبلیغات زیاد معرفی کرد. برای اولین بار، شرکت جمینی، آخرین مدل زبان هوش مصنوعی خود را به مهم‌ترین محصول خود، یعنی موتور جستجوی خود، متصل کرده بود.
AI Overview اظهار نظرات تولیدشده توسط مدل‌های زبان خود را با قطعه‌هایی از لینک‌های زنده در سراسر وب ترکیب می‌کند. این سیستم می‌تواند منابع خود را ذکر کند، اما نمی‌داند که منبع ذکرشده درست است یا خیر.
این سیستم برای پاسخگویی به سوالات پیچیده و خاص‌تر از جستجوی معمولی طراحی شده است. گوگل اظهار داشت که نتیجه این خواهد بود که عموم مردم قادر خواهند بود از همه قابلیت‌های جمینی بهره‌مند شوند و بخشی از کار جستجو برای اطلاعات حذف خواهد شد.
اما اوضاع به سرعت آشفته شد و کاربران اسکرین‌شات‌هایی از مثال‌های مشکل‌دار را در پلتفرم‌های رسانه‌های اجتماعی مانند X به اشتراک گذاشتند.
AI Overview به برخی کاربران توصیه کرد که چسب غیرسمی را با سس پیتزا مخلوط کنند تا از لیز خوردن پنیر جلوگیری شود، که ظاهرا این دستورالعمل از یک پست 11 ساله در Reddit گرفته شده بود که به عنوان یک شوخی منتشر شده بود. هوش مصنوعی به کاربران دیگر توصیه کرد که برای دریافت ویتامین و مواد معدنی، هر روز حداقل یک سنگ بخورند - توصیه‌ای که از یک پست طنزآمیز در The Onion گرفته شده بود.
"گرگلی اوروش"، مهندس نرم‌افزاری که خبرنامه‌ای درباره فناوری به نام "پراگمتیک انجینیر" دارد، در X نوشت: «موتور جستجوی گوگل به عنوان گاو پول‌ساز گوگل، "تنها دارایی است که گوگل باید آن را حفظ کند و قابل اعتماد و مفید نگه دارد". و با این حال، مثال‌هایی درباره اینکه چگونه AI Overview موتور جستجوی گوگل را به آشغال تبدیل می‌کند، در تایم‌لاین من همه‌جا دیده می‌شوند.»
افراد همچنین مثال‌هایی از توصیه گوگل به کاربران به صورت فونت درشت برای تمیز کردن ماشین لباسشویی با «ماده سفیدکننده و سرکه سفید» به اشتراک گذاشتند، که ترکیب آنها می‌تواند گاز کلرین خطرناک ایجاد کند. در فونت کوچکتر، کاربران را راهنمایی می‌کرد که با یکی و سپس دیگری تمیز کنند.
کاربران رسانه‌های اجتماعی تلاش کرده‌اند تا با به اشتراک گذاشتن عجیب‌ترین پاسخ‌های گوگل، یکدیگر را تحت تأثیر قرار دهند. در برخی موارد، آنها نتایج را دستکاری کرده بودند. یکی از اسکرین‌شات‌های دستکاری‌شده ظاهرا نشان می‌داد که گوگل پریدن از روی پل گلدن گیت را به عنوان یک درمان برای افسردگی پیشنهاد می‌کند و به یک کاربر Reddit استناد می‌کرد. خانم لوین، سخنگوی گوگل، گفت که سیستم‌های آنها هرگز چنین نتیجه‌ای را ارائه نکرده‌اند.
با این حال، AI Overview در ارائه اطلاعات مربوط به تاریخ ریاست جمهوری آمریکا با مشکل مواجه شد و در اسکرین‌شات‌های منتشرشده در X، اظهار داشت که 17 رئیس‌جمهور سفیدپوست بوده‌اند و باراک اوباما اولین رئیس‌جمهور مسلمان بوده است.
همچنین در یکی دیگر از اسکرین‌شات‌ها، این سیستم اظهار داشت که اندرو جکسون در سال 2005 از کالج فارغ‌التحصیل شده است.
در نسخه قبلی این مقاله، به نتیجه‌ای از ابزار جدید هوش مصنوعی گوگل با نام AI Overview اشاره شده بود که صحیح نبود. یک کاربر رسانه‌های اجتماعی ادعا کرده بود که در نتیجه جستجوی کلمه افسردگی، پریدن از روی پل گلدن گیت به عنوان یک درمان پیشنهاد شده است. اما طبق گفته سخنگوی گوگل، این نتیجه دستکاری شده بود و در نتایج واقعی ظاهر نشده است.
🔹این مقاله به صورت ماشینی، توسط Aiticle ترجمه شده و ممکنه ایراداتی داشته باشه، فیدبک‌های شما به ما در جهت بهبود سیستممون خیلی کمک میکنه :) لطفا نظراتتون رو باهامون به اشتراک بگذارین.
