گوگل به سرعت برای حذف پاسخ‌های عجیب و غریب هوش مصنوعی در جستجو تلاش می‌کند

شبکه‌های اجتماعی پر از مثال‌هایی از محصول جدید هوش مصنوعی گوگل به نام AI Overview است که چیزهای عجیبی می‌گوید، از گفتن به کاربران که چسب روی پیتزای خود بزنند تا پیشنهاد خوردن سنگ به آنها. راه‌اندازی آشفته به این معنی است که گوگل در حال تلاش برای غیرفعال کردن دستی AI Overviews برای جستجوهای خاص به عنوان پست‌های مختلف مèmes است، که دلیل آن است که کاربران بسیاری از آنها را پس از انتشار در شبکه‌های اجتماعی می‌بینند.

این یک وضعیت عجیب است، زیرا گوگل یک سال است که AI Overviews را آزمایش می‌کند - این ویژگی در مه 2023 به عنوان تجربه تولیدی جستجو راه‌اندازی شد - و مدیرعامل ساندار پیچای گفته است که شرکت بیش از یک میلیارد پرس‌وجو را در آن زمان انجام داده است.

اما پیچای همچنین گفته است که گوگل هزینه ارائه پاسخ‌های هوش مصنوعی را در همان دوره زمانی 80 درصد کاهش داده است، "به دلیل پیشرفت‌های سخت‌افزاری، مهندسی و فنی". به نظر می‌رسد که این بهینه‌سازی ممکن است خیلی زود اتفاق افتاده باشد، قبل از اینکه فناوری آماده شود.

"شرکت‌هایی که قبلاً به عنوان شرکت‌های پیشرو در زمینه فناوری و ارائه محصولات با کیفیت بالا شناخته می‌شدند، اکنون به دلیل خروجی با کیفیت پایین که به مèmes تبدیل می‌شوند، شناخته می‌شوند"، یک بنیانگذار هوش مصنوعی که خواست نامش فاش نشود، به ورج گفت.

گوگل همچنان بر این باور است که محصول AI Overview آن بیشتر اوقات "اطلاعات با کیفیت بالا" را به کاربران ارائه می‌دهد. "بسیاری از مثال‌هایی که دیده‌ایم پرس‌وجوهای غیرمعمول بوده‌اند، و ما همچنین مثال‌هایی را دیده‌ایم که دستکاری شده‌اند یا نمی‌توانیم آنها را تکرار کنیم"، مگهان فارنزوورث، سخنگوی گوگل در ایمیلی به ورج گفت. فارنزوورث همچنین تأیید کرد که شرکت "اقدامات سریعی" را برای حذف AI Overviews در برخی از پرس‌وجوها "در صورت مناسب بودن طبق سیاست‌های محتوایی ما" انجام می‌دهد و از این مثال‌ها برای "توسعه بهبودهای گسترده‌تر در سیستم‌های خود" استفاده می‌کند، که برخی از آنها "به مرحله اجرا رسیده‌اند".

گری مارکوس، متخصص هوش مصنوعی و استاد بازنشسته علوم عصبی در دانشگاه نیویورک، به ورج گفت که بسیاری از شرکت‌های هوش مصنوعی "رویاهای" فروش این فناوری را دارند که از 80 درصد صحیح به 100 درصد برسد. رسیدن به 80 درصد اولیه نسبتاً ساده است زیرا شامل تقریب مقدار زیادی از داده‌های انسانی است، اما آخرین 20 درصد بسیار چالش‌برانگیز است. در واقع، مارکوس معتقد است که 20 درصد آخر ممکن است سخت‌ترین بخش باشد.

"شما باید استدلال کنید تا تصمیم بگیرید که آیا این چیز معقول است یا خیر. آیا این منبع معتبر است؟ شما باید کاری شبیه به کاری که یک بازرس حقایق انسانی انجام می‌دهد انجام دهید، که ممکن است نیاز به هوش عمومی مصنوعی داشته باشد"، مارکوس گفت. و مارکوس و یان لکون، رئیس هوش مصنوعی فیس‌بوک، هر دو موافقند که مدل‌های زبان بزرگ که موتورهای فعلی هوش مصنوعی مانند Gemini گوگل و GPT-4 OpenAI را قدرت می‌دهند، ایجاد کننده هوش عمومی مصنوعی (AGI) نخواهند بود.

این یک موقعیت دشوار برای گوگل است. بینگ قبل از گوگل با AI بزرگ شد، به نقل ازساتیا نادلا "ما آنها را مجبور به رقص کردیم"، OpenAI روی موتور جستجوی خود کار می‌کند، یک استارتاپ جستجوی AI تازه یک میلیارد دلار ارزش دارد و نسل جوان‌تر کاربران که فقط بهترین تجربه را می‌خواهند به تیک‌تاک می‌روند. شرکت به وضوح احساس فشار می‌کند تا با رقبای خود رقابت کند، و فشار باعث انتشار آشفته AI می‌شود. مارکوس اشاره می‌کند که در سال 2022، فیس‌بوک یک سیستم AI به نام Galactica را منتشر کرد که باید بلافاصله پس از انتشار حذف می‌شد زیرا، در میان سایر موارد، به مردم پیشنهاد می‌کرد که شیشه بخورند. آشنا به نظر می‌رسد.

شرکت تأیید کرد که «اقدامات سریعی» را برای حذف برخی از پاسخ‌های عجیب و غریب ابزار AI انجام می‌دهدشرکت تأیید کرد که «اقدامات سریعی» را برای حذف برخی از پاسخ‌های عجیب و غریب ابزار AI انجام می‌دهدگوگل برنامه‌های بزرگی برای AI Overviews دارد - ویژگی فعلی آن فقط یک برش کوچک از آنچه شرکت هفته گذشته اعلام کرد است. استدلال چند مرحله‌ای برای پرس‌وجوهای پیچیده، توانایی تولید یک صفحه نتایج سازماندهی شده توسط AI، جستجوی ویدیویی در Google Lens - اینجا اهداف زیادی وجود دارد. اما در حال حاضر، شهرت شرکت به سادگی به انجام درست کارها بستگی دارد، و اوضاع خوب به نظر نمی‌رسد.

"این مدل‌ها از نظر ذاتی قادر به انجام بررسی‌های منطقی در مورد کار خود نیستند، و این چیزی است که صنعت را به دردسر انداخته است"، مارکوس گفت.

منبع : The Verge

🔹این مقاله به صورت ماشینی، توسط Aiticle ترجمه شده و ممکنه ایراداتی داشته باشه، فیدبک‌های شما به ما در جهت بهبود سیستممون خیلی کمک میکنه :) لطفا نظراتتون رو باهامون به اشتراک بگذارین.