ما باید از نادیده گرفتن مشکل توهم (Hallucination) هوش مصنوعی دست برداریم

رویداد Google I/O یک دستیار هوش مصنوعی را معرفی کرد که می تواند دنیا را ببیند و بشنود، در حالی که OpenAI نسخه خود را از یک چت ربات مشابه فیلم Her را در آیفون قرار داد. هفته آینده، مایکروسافت میزبان بیلد خواهد بود، جایی که مطمئناً نسخه‌ای از Copilot یا Cortana دارد که جداول محوری را درک می‌کند. سپس، چند هفته پس از آن، اپل کنفرانس توسعه دهندگان خود را میزبانی خواهد کرد، و اگر سر و صدای زیادی وجود داشته باشد، در مورد هوش مصنوعی نیز صحبت خواهد کرد. (مشخص نیست که سیری ذکر شود یا خیر.)

هوش مصنوعی اینجاست! دیگر مفهومی نیست. گرفتن شغل، ایجاد چند شغل جدید، و کمک به میلیون ها دانش آموز از انجام تکالیف خود اجتناب کنند. به گفته بسیاری از شرکت‌های بزرگ فناوری که روی هوش مصنوعی سرمایه‌گذاری می‌کنند، به نظر می‌رسد که ما در آغاز تجربه یکی از آن تغییرات به یاد ماندنی نادر در فناوری هستیم. به انقلاب صنعتی یا ایجاد اینترنت یا رایانه شخصی فکر کنید. تمام دره سیلیکون - از فناوری بزرگ - بر روی استفاده از مدل‌های زبان بزرگ و سایر اشکال هوش مصنوعی و انتقال آنها از لپ‌تاپ‌های محققان به تلفن‌ها و رایانه‌های افراد عادی متمرکز شده است. در حالت ایده آل، آنها در این فرآیند پول زیادی به دست خواهند آورد.

اما من واقعاً نمی توانم به این موضوع اهمیت بدهم زیرا هوش مصنوعی متا فکر می کند من ریش دارم.

من می خواهم خیلی واضح بگویم: من یک زن هستم و ریش ندارم. اما اگر در پنجره اعلان تایپ کنم «عکسی از الکس کرانز به من نشان بده»، هوش مصنوعی متا ناگزیر تصاویر مردان سیاه‌موی بسیار زیبا با ریش را برمی‌گرداند. من فقط برخی از آن چیزها هستم!

هوش مصنوعی مدام خراب می شود زیرا این کامپیوترها احق هستند. فوق العاده در توانایی های خود و شگفت انگیز در کم هوشی خود. من نمی توانم در مورد چرخش بعدی در انقلاب هوش مصنوعی هیجان زده باشم زیرا این چرخش به مکانی است که رایانه ها نمی توانند به طور مداوم در مورد چیزهای جزئی دقت کنند.

منظورم این است که آنها حتی در جریان سخنرانی بزرگ هوش مصنوعی گوگل در I/O هم خراب شدند. در یک آگهی تبلیغاتی برای موتور جستجوی جدید گوگل با هوش مصنوعی، شخصی از او پرسید که چگونه یک دوربین فیلم گیر کرده را تعمیر کند، و پیشنهاد کرد که "در پشتی را باز کنند و به آرامی فیلم را بردارید." این ساده ترین راه برای از بین بردن هر عکسی است که قبلاً گرفته اید.

رابطه دشوار هوش مصنوعی با حقیقت "توهم" نامیده می شود. به عبارت بسیار ساده: این ماشین‌ها در کشف الگوهای اطلاعات عالی هستند، اما در تلاش برای برون‌یابی و ایجاد، گاهی اوقات اشتباه می‌کنند. آنها به طور مؤثر یک واقعیت جدید را "توهم" می کنند، و این واقعیت جدید اغلب اشتباه است. این یک مشکل پیچیده است و هر فردی که در حال حاضر روی هوش مصنوعی کار می کند از آن آگاه است.

اما توجه کنید که چگونه رید گفت که تعادل وجود دارد؟ این به این دلیل است که بسیاری از محققان هوش مصنوعی در واقع فکر نمی کنند که توهمات قابل حل باشد. مطالعه ای در دانشگاه ملی سنگاپور نشان داد که توهمات نتیجه اجتناب ناپذیر همه مدل های زبانی بزرگ است. همانطور که هیچ شخصی همیشه صد در صد درست نمی گوید، این رایانه ها نیز چنین نیستند.

و احتمالاً به همین دلیل است که اکثر بازیگران اصلی در این زمینه - آنهایی که منابع واقعی و انگیزه مالی دارند تا همه ما را وادار به پذیرش هوش مصنوعی کنند - فکر می کنند که نباید نگران آن باشید. در طول سخنرانی اصلی IO گوگل، با فونت خاکستری ریز، عبارت «پاسخ‌ها را برای دقت بررسی کنید» به صفحه زیر تقریباً هر ابزار هوش مصنوعی جدیدی که نشان داد اضافه کرد - یادآوری مفیدی که نمی‌توان به ابزارهای آن اعتماد کرد، اما این کار را نیز انجام می‌دهد. فکر نکن مشکلی باشه ChatGPT به طور مشابه عمل می کند. با فونت کوچک درست در زیر پنجره فرمان، می‌گوید: «ChatGPT ممکن است اشتباه کند. اطلاعات مهم را بررسی کنید."

این یک سلب مسئولیت نیست که بخواهید از ابزارهایی که قرار است کل زندگی ما را در آینده نزدیک تغییر دهند، ببینید! و افرادی که این ابزارها را می سازند به نظر نمی رسد که بیش از یک هشدار کوچک به رفع مشکل اهمیت زیادی بدهند.

سام آلتمن، مدیرعامل OpenAI که برای مدت کوتاهی به دلیل اولویت دادن به سود بر ایمنی برکنار شد، یک گام فراتر رفت و گفت هرکسی که با دقت هوش مصنوعی مشکل داشته باشد، ساده لوح است. اگر ساده لوحانه را انجام دهید و بگویید: «هرگز چیزی نگویید که 100 درصد درباره آن مطمئن نیستید»، می توانید همه آنها را مجبور به انجام این کار کنید. اما جادویی که مردم آنقدر دوست دارند را نخواهد داشت.

این ایده که نوعی سس جادویی غیرقابل اندازه‌گیری در هوش مصنوعی وجود دارد که به ما امکان می‌دهد رابطه ضعیف آن با واقعیت را ببخشیم، توسط افرادی که مشتاق هستند نگرانی‌های مربوط به دقت را از بین ببرند، بسیار مطرح شده است. گوگل، OpenAI، مایکروسافت و بسیاری دیگر از توسعه دهندگان و محققان هوش مصنوعی توهم را به عنوان یک مزاحمت کوچک که باید بخشیده شود رد کرده اند زیرا آنها در مسیر ساخت موجودات دیجیتالی هستند که ممکن است زندگی ما را آسان تر کنند.

اما از سام و هر کس دیگری که انگیزه مالی برای هیجان زده کردن من در مورد هوش مصنوعی داشت عذرخواهی می کنم. من به خاطر جادوی نادرست آگاهی انسان به رایانه نمی‌آیم. من به آنها مراجعه می کنم زیرا آنها بسیار دقیق هستند در حالی که انسان ها دقیق نیستند. من نیازی به کامپیوترم ندارم که دوست من باشد. من به آن نیاز دارم تا وقتی می‌پرسم جنسیت خود را درست تشخیص دهم و به من کمک کند هنگام تعمیر دوربین شکسته، فیلم را به‌طور تصادفی در معرض دید قرار ندهم. فکر می‌کنم وکلا دوست دارند که رویه قضایی درستی داشته باشد.

من درک می کنم که سم آلتمن و سایر مبشران هوش مصنوعی از کجا آمده اند. در آینده ای دور امکان ایجاد یک آگاهی دیجیتال واقعی از یک ها و صفرها وجود دارد. در حال حاضر، توسعه هوش مصنوعی با سرعت خیره کننده ای در حال حرکت است که بسیاری از انقلاب های تکنولوژیکی قبلی را شرمنده می کند. در حال حاضر جادوی واقعی در سیلیکون ولی در کار است.

منبع : The Verge

🔹این مقاله به صورت ماشینی، توسط Aiticle ترجمه شده و ممکنه ایراداتی داشته باشه، فیدبک‌های شما به ما در جهت بهبود سیستممون خیلی کمک میکنه :) لطفا نظراتتون رو باهامون به اشتراک بگذارین.