hojjatjafary
hojjatjafary
خواندن ۴ دقیقه·۸ روز پیش

هوش‌مصنوعی خودش را تخریب می‌کند!

Model Collapse
Model Collapse

وقتی پیشرفت‌های بشر بیشتر و مسایل سخت و بزرگ حل می‌شوند چالش‌های بعدی هم سختر و بزرگتر می‌شود. نظریه نسبیت عام در قرن بیستم نگاه ما را به عالم دگرگون کرد و باعث پیشرفت شگرفی شد اما به مرور سوالهای بزرگتری با خود آورد که هنوز برای آنها پاسخی پیدا نشده است، مثل ناسازگاری آن با مکانیک کوانتوم، علت شتابدار بودن انبساط جهان، ماده تاریک و گراویتون و غیره.

این روزها همه با پیشرفت‌های هوش مصنوعی آشنا شده‌اند یا حداقل در مورد آن حرفهای زیادی شنیده‌اند. این پیشرفت‌ها زندگی ما را تحت تاثیر قرار داده و خواهد داد و بیم‌ها و امیدهای زیادی ایجاد کرده است.

در کنار این پیشرفت‌ها در هوش مصنوعی مشکلی در افق دیده می‌شود که می‌تواند تمام دستاوردهای هوش مصنوعی را تحت تاثیر قرار می‌دهد و آنها را تضعیف می‌کند، پدیده‌ای که به عنوان "فروپاشی مدل" (model collapse) شناخته می‌شود.

فروپاشی مدل

محققان دانشگاه آکسفورد به تازگی مقاله‌ای را نشریه ‌‌Nature منتشر کرده‌اند و در آن به تفصیل شرح داده‌اند که فروپاشی مدل زمانی اتفاق می‌افتد که مدل‌های هوش مصنوعی بر روی داده‌هایی که شامل محتوای تولید شده توسط نسخه‌های قبلی خودشان است، آموزش ببینند. با گذشت زمان، این فرآیند بازگشتی (recursive) باعث می‌شود که مدل‌ها از توزیع داده‌های اصلی دورتر شوند و توانایی نمایش دقیق جهان را آنطور که هست از دست بدهند. به جای بهبود، هوش مصنوعی شروع به اشتباهاتی می‌کند که در طول نسل‌ها ترکیب می‌شوند و منجر به خروجی‌هایی می‌شود که به طور فزاینده‌ای تحریف شده و غیرقابل اعتماد می‌شوند.

فرآیند فروپاشی مدل
فرآیند فروپاشی مدل

اجازه بدهید مساله را کمی تجزیه کنیم. بیشتر مدل‌های هوش مصنوعی، مانند GPT-4، بر روی حجم وسیعی از داده‌ها آموزش می‌بینند که بیشترشان از اینترنت استخراج شده‌اند. در ابتدا، این داده‌ها توسط انسان‌ها تولید می‌شود که منعکس کننده تنوع و پیچیدگی زبان، رفتار و فرهنگ انسان است. هوش مصنوعی الگوهایی را از این داده‌ها می آموزد و از آن برای تولید محتوای جدید، خواه نوشتن مقاله، ایجاد یک تصویر یا حتی تولید کد، استفاده می‌کند.

اینترنت

بر اساس مطالعهٔ تیمی از محققان خدمات وب آمازون، ۵۷٪ از کل متن‌های مبتنی بر وب توسط هوش مصنوعی تولید شده یا از طریق یک الگوریتم هوش مصنوعی ترجمه شده است.
این خیلی محتمل است که در سال ۲۰۲۵ حدود ۹۰ درصد از کل محتوای اینترنتی توسط هوش مصنوعی تولید شود.

یعنی: نیمی از چیزهایی که آنلاین می خوانید با هوش مصنوعی تولید شده اند.

اتکا به هوش مصنوعی در حال غلبه است، اما در نهایت این منجر به سقوطش خواهد شد.
بیایید یک چیز را در اینجا روشن کنیم، هوش مصنوعی محتوای خود را با برداشتن همه چیزهایی که افراد واقعی در مورد یک موضوع خاص گفته‌اند (معمولاً از Reddit، Quora، X و دیگر پلتفرم های بزرگ) تولید می‌کند و سپس آن را با پاسخ های کلی و عمومی ترکیب می‌کند. به عبارت دیگر، هوش مصنوعی از محتوای تولید شده توسط انسان برای پاسخ به سوالات استفاده می‌کند.

اینترنت پر شده است از محتوایی که توسط هوش مصنوعی تولید شده و اوضاع همچنان درحال بدتر شدن است.

هوش مصنوعی در توهم

اما چه اتفاقی می‌افتد وقتی نسل بعدی مدل‌های هوش مصنوعی به جای داده‌های تولید شده توسط انسان، روی داده‌های تولید شده توسط مدل‌های قبلی هوش مصنوعی آموزش ببینند؟ نتیجه نوعی اثر اتاقک پژواک خواهد بود. هوش مصنوعی از خروجی‌های خود شروع به «یادگیری» می‌کند، و چون این خروجی‌ها هرگز کامل نیستند، درک مدل از جهان شروع به تنزل می‌کند. این مانند فشرده سازی تصویر به صورت JPEG یا کپی کردن کپیِ یک کپیِ است که در هر نسخه کمی از جزئیات اصلی را از دست می‌دهد و نتیجه نهایی نمایشی مبهم و کم دقتی از جهان است.
این تخریب به تدریج اتفاق می افتد و اجتناب ناپذیر است. هوش مصنوعی توانایی تولید محتوایی را که منعکس کننده تنوع واقعی تجربیات انسانی است از دست می‌دهد. در عوض، شروع به تولید محتوایی می‌کند که یکنواخت تر، غیر خلاقانه‌تر و در نهایت کم فایده‌تر خواهد بود.

این مساله حتی می‌تواند به نظریه آشوب و سیستم‌های بازخورد بازگشتی مرتبط شود، آنجا که یک تغییر جزئی در حالت اولیه باعث به وجود آمدن تغییرات وسیعی در مقدارهای بعدی شود.

مسیر پیش رو

هوش مصنوعی این ظرفیت را دارد که دنیای ما را به گونه‌ای که به سختی بتوانیم تصور کنیم دگرگون کند، اما این مسیر بدون چالش نخواهد بود. "فروپاشی مدل" به وضوح یادآوری می‌کند که به همان اندازه که این فناوری‌ها قدرتمند هستند، همچنان به کیفیت داده‌هایی که با آنها آموزش دیده‌اند وابسته هستند.
همانطور که ما به یکپارچه کردن هوش مصنوعی در تمام جنبه های زندگی خود ادامه می‌دهیم، باید مراقب نحوه آموزش و نگهداری این سیستم ها هم باشیم. با اولویت دادن به داده‌های با کیفیت بالا و تولید شده توسط انسان، تقویت شفافیت، و فعال بودن در رویکردمان، می‌توانیم از بی‌ربط شدن هوش مصنوعی جلوگیری کنیم و اطمینان حاصل کنیم که ابزاری ارزشمند برای آینده باقی می‌ماند.
فروپاشی مدل یک چالش است، اما چالشی است که می‌توانیم با راهبردهای درست و تعهد به حفظ هوش مصنوعی در واقعیت بر آن غلبه کنیم.


منابع

https://www.forbes.com/sites/torconstantino/2024/08/26/is-ai-quietly-killing-itself-and-the-internet/
https://www.nature.com/articles/s41586-024-07566-y
https://www.forbes.com/sites/bernardmarr/2024/08/19/why-ai-models-are-collapsing-and-what-it-means-for-the-future-of-technology/
https://midojouay.medium.com/ais-looming-collapse-how-it-s-slowly-destroying-itself-31e4ca9735f6

هوش مصنوعیبرنامه نویسییادگیری ماشینکامپیوتراینترنت
کسی که می خواهد برنامه نویس بماند، برنامه نویس شرکت فن افزار، بازی ساز، گرشاسپ راز اژدها، شمشیر تاریکی...
شاید از این پست‌ها خوشتان بیاید