هوش مصنوعی در حال یادگیری نحوه خلق خود است

منتشر شده در: technologyreview.com به تاریخ ۲۷ می ۲۰۲۱
لینک منبع AI is learning how to create itself

یک شکل کوچک چوبی با سر و شکل گوه‌ای در سراسر صفحه تغییر شکل می‌دهد. به حالت نیمه خمیده حرکت می‌کند و یک زانو را در امتداد زمین می‌کشد. راه می رود! اره ، یک جورایی.

با این حال «روی وانگ» خوشحال است. او می‌گوید: « هر روز وارد دفترم می‌شوم و کامپیوترم را باز می‌کنم، و نمی‌دانم چه انتظاری داشته باشم.»

یک محقق هوش مصنوعی در اوبر، وانگ دوست دارد Paired Open-Ended Trailblazer را ترک کند، قطعه‌ای از نرم‌افزاری که او به توسعه آن کمک کرد و یک شبه بر روی لپ‌تاپ خود کار کرد. POET نوعی آموزش دوجو برای ربات‌های مجازی است. تا کنون، آن‌ها اصلا کار زیادی یاد نگرفته‌اند. این عوامل هوش مصنوعی Go، دیدن علائم سرطان، یا پروتئین‌های تاشو را اجرا نمی‌کنند-آن‌ها تلاش می‌کنند تا منظره کارتونی پرچین‌ها و خرابه‌ها را بدون افتادن مرور کنند.

اما این که ربات‌ها یاد می‌گیرند هیجان‌انگیز نیست-این روشیکه آن‌ها یاد می‌گیرند هیجان‌انگیز است. POET دوره‌های مانع را ایجاد می‌کند، توانایی‌های ربات‌ها را ارزیابی می‌کند، و چالش بعدی آن‌ها را، همه بدون دخالت انسان، تعیین می‌کند. قدم به قدم با لغزش، ربات‌ها از طریق آزمون و خطا بهبود می‌یابند. وانگ می‌گوید: « در برخی موارد ممکن است از روی یک صخره مانند استاد کونگ‌فو بپرد.»

در حال حاضر ممکن است اساسی به نظر برسد، اما برای وانگ و تعداد انگشت شماری از محققان، POET به روش جدید انقلابی برای ایجاد ماشین‌های فوق هوشمند اشاره می کند: با ساختن هوش مصنوعی.

همکار سابق وانگ، جف لون، یکی از بزرگ‌ترین حامیان این ایده است. کلون سال‌ها بر روی آن کار کرده‌است، ابتدا در دانشگاه وایومینگ و سپس در آزمایشگاه Uber هوش مصنوعی، جایی که او با وانگ و دیگران کار می‌کرد. او اکنون با تقسیم زمان خود بین دانشگاه بریتیش کلمبیا و OpenAI، از یکی از بهترین آزمایشگاه‌های هوش مصنوعی جهان پشتیبانی می‌کند.

کلون تلاش برای ساخت هوش مصنوعی واقعا باهوش را بلند پروازانه‌ترین تلاش علمی در تاریخ بشر می‌نامد. امروزه، هفت دهه پس از تلاش‌های جدی برای ساخت هوش مصنوعی، ما هنوز راه درازی تا ساخت ماشین‌هایی داریم که در هر جایی به هوشمندی انسان هستند، چه برسد به هوشمندتر. کلون فکر می‌کند که POET ممکن است به یک میان‌بر اشاره کند.

او می‌گوید: «ما باید زنجیرها را کنار بگذاریم و از مسیر خودمان خارج شویم.»

اگر حق با کلون باشد، استفاده از هوش مصنوعی برای ساخت هوش مصنوعی می‌تواند گام مهمی در مسیری باشد که یک روز منجر به هوش عمومی مصنوعی (AGI) می‌شود -ماشین‌هایی که می‌توانند فکر انسان را بیرون کنند. در عبارت نزدیک‌تر، این تکنیک ممکن است به ما کمک کند تا انواع مختلف هوش را کشف کنیم: هوش غیر انسانی که می‌تواند راه حلی به روش‌های غیر منتظره پیدا کند و شاید به جای جایگزین کردن هوش ما، هوش ما را تکمیل کند.

تکامل ساختگی

من برای اولین بار در اوایل سال گذشته، تنها چند هفته پس از حرکت او به سمت OpenAI، با کلون در مورد این ایده صحبت کردم. او خوشحال بود که در مورد کارهای گذشته صحبت می‌کند، اما همچنان به کاری که با تیم جدیدش انجام می‌داد، گوش می‌داد. به جای اینکه به داخل خانه زنگ بزند، ترجیح می‌داد همان طور که صحبت می‌کردیم در خیابان‌های بیرون ادارات قدم بزند.

تنها چیزی که کلون می‌توانست بگوید این بود که OpenAI مناسب بود. او می‌گوید: « ایده من در راستای بسیاری از چیزهایی است که آن‌ها باور دارند.» این نوعی ازدواج در بهشت بود. آن‌ها این چشم‌انداز را دوست داشتند و می‌خواستند که من به اینجا بیایم و آن را دنبال کنم. چند ماه پس از پیوستن کلون، OpenAI بیشتر تیم قدیمی Uber خود را نیز استخدام کرد.

دیدگاه بلندپروازانه کلون مبتنی بر بیش از سرمایه‌گذاری OpenAI است. تاریخچه هوش مصنوعی با مثال‌هایی پر شده‌است که در آن راه‌حل‌های طراحی‌شده توسط انسان، جای خود را به راه‌حل‌های یاد گرفته از ماشین می‌دهند. چشم‌انداز کامپیوتری را در نظر بگیرید: یک دهه پیش، موفقیت بزرگ در تشخیص تصویر زمانی حاصل شد که سیستم‌های دستی موجود با سیستم‌هایی جایگزین شدند که خودشان را از ابتدا آموزش می‌دادند. برای بسیاری از موفقیت‌های هوش مصنوعی هم همین طور است.

یکی از چیزهای جالب در مورد هوش مصنوعی، و به طور خاص یادگیری ماشینی، توانایی آن برای پیدا کردن راه‌حل‌هایی است که انسان‌ها نیافته اند -برای شگفت‌زده کردن ما. مثالی که اغلب به آن اشاره می‌شود آلفاگو (و جانشین آن آلفازیرو) است که بهترین بشریت را شکست می‌دهد و باید در بازی قدیمی و گمراه‌کننده رفتن با استفاده از استراتژی‌های به ظاهر بیگانه ارائه دهد. پس از صدها سال مطالعه توسط اربابان انسان، هوش مصنوعی راه‌حل‌هایی پیدا کرد که هیچ‌کس تا به حال به آن‌ها فکر نکرده بود.

حالا کلون با تیمی در OpenAI کار می‌کند که روبات‌هایی را توسعه داده‌است که یاد گرفته‌اند در سال ۲۰۱۸ در یک محیط مجازی پنهان شوند و به دنبال آن باشند. این AIS ها با اهداف ساده و ابزارهای ساده برای رسیدن به آن‌ها آغاز شدند: یک جفت باید دیگری را پیدا می‌کردند که می‌توانست پشت موانع متحرک پنهان شود. با این حال، وقتی این ربات‌ها رها شدند تا یاد بگیرند، خیلی زود راه‌هایی یافتند تا از محیط خود به روش‌هایی استفاده کنند که محققان آن‌ها را پیش‌بینی نکرده بودند. آن‌ها از زرق و برق در فیزیک شبیه‌سازی شده دنیای مجازی خود برای پریدن و حتی عبور از دیوارها استفاده کردند.

این نوع رفتارهای غیرمنتظره اشاره به این دارد که هوش مصنوعی ممکن است به راه‌حل‌های فنی دست پیدا کند، انسان‌ها به تنهایی به آن فکر نکنند، انواع جدید و کارآمدتر از الگوریتم‌ها یا شبکه‌های عصبی را ابداع کنند-یا حتی شبکه‌های عصبی را رها کنند، که سنگ بنای هوش مصنوعی مدرن است.

کلون دوست دارد به مردم یادآوری کند که اطلاعات در حال حاضر از آغازهای ساده پدیدار شده‌است. او می‌گوید: « چیزی که در مورد این رویکرد جالب است این است که ما می‌دانیم این رویکرد می‌تواند موثر واقع شود.» « الگوریتم بسیار ساده تکامل داروینی مغز شما را تولید کرد، و مغز شما باهوش‌ترین الگوریتم یادگیری در جهان است که ما تا کنون می‌شناسیم.» حرف او این است که اگر هوشمندی همانطور که می‌دانیم ناشی از جهش بی‌خرد ژن‌ها در طی نسل‌های بی‌شماری است، چرا به دنبال تکرار فرایند تولید هوش -که می‌توان گفت ساده‌تر است- به جای خود هوش نیست؟

اما نکته مهم دیگری هم در اینجا وجود دارد. هوش هرگز نقطه پایانی برای تکامل و هدفی برای آن نبود. در عوض، در اشکال مختلفی از راه‌حل‌های بسیار کوچک برای چالش‌ها ظاهر شد که به موجودات زنده اجازه بقا و چالش‌های آینده را می‌داد. هوش نقطه اوج فعلی در یک فرآیند مداوم و باز است. در این مفهوم، تکامل کاملا متفاوت از الگوریتم‌هایی است که مردم معمولا به آن‌ها فکر می‌کنند-به عنوان وسیله‌ای برای رسیدن به یک هدف.

این یک لطف آشکار است که در زنجیره ظاهرا بدون هدف چالش‌های ایجاد شده توسط POET دیده می‌شود، که کلون و دیگران بر این باورند که می‌تواند منجر به انواع جدیدی از هوش مصنوعی شود. برای دهه‌ها محققان هوش مصنوعی تلاش کرده‌اند تا الگوریتم هایی برای تقلید از هوش انسانی بسازند، اما موفقیت واقعی ممکن است ناشی از ساختن الگوریتم‌هایی باشد که تلاش می‌کنند تا حل مساله باز تکامل را تقلید کنند -و منتظر بمانند تا آنچه که پدیدار می‌شود را تماشا کنند.

محققان در حال حاضر از یادگیری ماشینی به خودی خود استفاده می‌کنند، و آن را آموزش می‌دهند تا راه‌حل‌هایی برای برخی از سخت‌ترین مشکلات میدان پیدا کنند، مانند چگونگی ساختن ماشین‌هایی که بتوانند بیش از یک کار را در یک زمان یاد بگیرند یا با شرایطی که قبلا با آن مواجه نشده‌اند کنار بیایند. برخی اکنون فکر می‌کنند که اتخاذ این رویکرد و اجرای آن ممکن است بهترین راه برای هوش عمومی مصنوعی باشد. کلون می‌گوید: « ما می‌توانیم الگوریتمی را شروع کنیم که در ابتدا اطلاعات زیادی در داخل آن ندارد، و خود راه اندازی آن را به طور بالقوه تا AGI تماشا کنیم.»

حقیقت این است که در حال حاضر، AGI یک رویا باقی می‌ماند. اما این عمدتا به این دلیل است که هیچ‌کس نمی‌داند چطور آن را بسازد. پیشرفت‌ها در هوش مصنوعی تکه‌تکه شده و توسط انسان‌ها انجام می‌شود، با پیشرفتی که معمولا شامل بهبود تکنیک‌ها یا الگوریتم‌های موجود است، و جهش‌های افزایشی در عملکرد یا دقت ایجاد می‌کند. کلون این تلاش‌ها را به عنوان تلاش برای کشف بلوک‌های سازنده برای هوش مصنوعی بدون دانستن این که به دنبال چه چیزی هستید و یا چه تعداد بلوک نیاز دارید، توصیف می‌کند. و این تازه شروع کار است. او می‌گوید: « در برخی موارد، ما باید وظیفه دشوار کنار هم قرار دادن همه آن‌ها را انجام دهیم.»

درخواست هوش مصنوعی برای یافتن و مونتاژ این بلوک‌های سازنده برای ما یک تغییر الگو است. گفته می‌شود که ما می‌خواهیم یک ماشین هوشمند ایجاد کنیم، اما مهم نیست چه شکلی باشد-فقط هر چیزی که جواب می‌دهد را به ما بدهید.

حتی اگر AGI هرگز به دست نیاید، رویکرد خودآموزی ممکن است انواع هوش مصنوعی را تغییر دهد. کلون می‌گوید: دنیا به بیش از یک بازیکن بسیار خوب نیاز دارد. برای او، ایجاد یک ماشین سوپراسمارت به معنای ساخت سیستمی است که چالش‌های خود را ابداع کرده، آن‌ها را حل کرده، و سپس آن‌ها را ابداع می‌کند. POET یک نگاه اجمالی به این موضوع در عمل است. یک ماشین را به تصویر می‌کشد که به یک ربات یاد می‌دهد راه برود، سپس با هوپ‌اسکاچ بازی کند، و بعد شاید بتواند با گو بازی کند. او می‌گوید: «سپس شاید آن معماهای ریاضی را یاد بگیرد و شروع به اختراع چالش‌های خود کند.» «این سیستم به طور مداوم نوآوری می‌کند، و آسمان از نظر جایی که ممکن است برود محدود است.»

شاید این گمانه‌زنی‌ها غیر واقع‌بینانه باشد، اما یک امید این است که ماشین‌هایی مانند این بتوانند از دست اهداف مرده مفهومی ما فرار کنند، و به ما کمک کنند بحران‌های بسیار پیچیده‌ای مانند تغییر آب و هوا یا سلامت جهانی را انتخاب کنیم.

اما اول باید یکی درست کنیم.

چگونه یک مغز خلق کنیم؟

راه‌های مختلفی برای سیم کردن یک مغز مصنوعی وجود دارد.

شبکه‌های عصبی از لایه‌های چندگانه نورون‌های مصنوعی رمزگذاری شده در نرم‌افزار ساخته شده‌اند. هر نورون می‌تواند در لایه‌های بالا به دیگران متصل شود. روشی که یک شبکه عصبی سیمی است تفاوت زیادی ایجاد می‌کند و معماری‌های جدید اغلب منجر به پیشرفت‌های جدید می‌شوند.

شبکه‌های عصبی کدگذاری شده توسط دانشمندان انسانی اغلب نتیجه آزمون و خطا هستند. تئوری کمی در مورد این که چه کاری انجام می‌دهد و چه کاری انجام نمی‌دهد وجود دارد، و هیچ تضمینی وجود ندارد که بهترین طرح‌ها پیدا شده‌اند. به همین دلیل است که خودکارسازی جستجو برای طرح‌های شبکه عصبی-عصبی بهتر، یکی از داغ‌ترین موضوعات در هوش مصنوعی، حداقل از دهه ۱۹۸۰ بوده‌است. رایج‌ترین روش برای خودکار کردن این فرآیند این است که اجازه دهیم هوش مصنوعی طرح‌های شبکه‌ای ممکن زیادی را ایجاد کند و اجازه دهد شبکه به طور خودکار هر یک از آن‌ها را امتحان کند و بهترین آن‌ها را انتخاب کند. این معمولا با عنوان تکامل عصبی یا جستجوی معماری عصبی (NAS) شناخته می‌شود.

در چند سال گذشته، این طرح‌های ماشینی شروع به از بین بردن طرح‌های انسانی کرده‌اند. در سال ۲۰۱۸، استبان رئال و همکارانش در گوگل از NAS برای تولید یک شبکه عصبی برای تشخیص تصویر استفاده کردند که بهترین شبکه‌های طراحی‌شده توسط انسان را در آن زمان شکست داد. این یک هشدار بود.

سیستم ۲۰۱۸ بخشی از یک پروژه در حال پیشرفت گوگل به نام اتوML است، که همچنین از NAS برای تولید تصفیه‌خانه استفاده کرده‌است، یک خانواده از مدل‌های یادگیری عمیق که کارآمدتر از مدل‌های طراحی‌شده توسط انسان هستند، و به سطوح بالایی از دقت در وظایف تشخیص تصویر با مدل‌های کوچک‌تر و سریع‌تر دست یافته‌اند.

سه سال بعد، Real مرزهای آنچه را که می‌تواند از ابتدا تولید شود را به جلو می‌راند. سیستم‌های قبلی فقط قطعات شبکه عصبی امتحان شده و تست شده را دوباره مرتب کردند، مانند انواع موجود لایه‌ها یا اجزا. او می‌گوید: «ما می‌توانیم انتظار یک پاسخ خوب را داشته باشیم.»

سال گذشته رئال و تیمش چرخ‌های تمرینی را از زمین برداشتند. سیستم جدید، به نام AutoML Zero، تلاش می‌کند تا هوش مصنوعی را از زمین بسازد و فقط از اساسی‌ترین مفاهیم ریاضی حاکم بر یادگیری ماشین استفاده کند.

جالب توجه است که نه تنها AutoML Zero خود به خود یک شبکه عصبی ساخت، بلکه با کاهش گرادیان، رایج‌ترین تکنیک ریاضی که طراحان انسانی برای آموزش یک شبکه از آن استفاده می‌کنند، به وجود آمد. رئال می‌گوید: « من کاملا شگفت‌زده شدم.» «این یک الگوریتم بسیار ساده است -مانند شش خط کد طول می‌کشد- اما شش خط دقیق را نوشت.»

در حقیقت AutoML Zero هنوز معماری‌هایی تولید نمی‌کند که با عملکرد سیستم‌های طراحی‌شده توسط انسان رقابت کنند-یا در واقع کاری کنند که یک طراح انسانی نتواند انجام دهد. اما رئال معتقد است که یک روز می‌تواند.

وقت آن رسیده که معلم جدیدی تربیت کنیم.

اول شما یک مغز می‌سازید؛ سپس شما باید آن را آموزش دهید. اما مغز ماشین روش کار ما را یاد نمی‌گیرد. مغز ما در سازگاری با محیط‌های جدید و وظایف جدید فوق‌العاده است. AI های امروزی می‌توانند چالش‌ها را تحت شرایط خاصی حل کنند اما زمانی که آن شرایط حتی کمی تغییر کنند، شکست می‌خورند. این انعطاف‌ناپذیری مانع از تلاش برای ایجاد هوش مصنوعی تعمیم‌پذیرتر می‌شود که می‌تواند در محدوده وسیعی از سناریوها مفید باشد، که گامی بزرگ به سمت هوشمند کردن آن‌ها خواهد بود.

برای جین وانگ، محقق در مرکز ذهن در لندن، بهترین راه برای انعطاف‌پذیرتر کردن هوش مصنوعی این است که یاد بگیرد این ویژگی خودش است. به عبارت دیگر، او می‌خواهد هوش مصنوعی را بسازد که نه تنها وظایف خاص را یاد می‌گیرد بلکه یاد می‌گیرد که آن وظایف را به روش‌هایی یاد بگیرد که بتواند با موقعیت‌های تازه سازگار شود.

محققان سال‌ها تلاش کرده‌اند تا هوش مصنوعی را سازگارتر کنند. وانگ بر این باور است که وادار کردن هوش مصنوعی به کار بر روی این مشکل به خودی خود از برخی از آزمون و خطای یک رویکرد دستی طراحی‌شده جلوگیری می‌کند: «ما نمی‌توانیم انتظار داشته باشیم که فورا به جواب درست برسیم.» او امیدوار است که در این روند، ما بیشتر در مورد نحوه کار مغز یاد بگیریم. او می‌گوید: «هنوز چیزهای زیادی وجود دارد که ما در مورد نحوه یادگیری انسان‌ها و حیوانات نمی‌دانیم.»

دو رویکرد اصلی برای تولید خودکار الگوریتم های یادگیری وجود دارد، اما هر دو با یک شبکه عصبی موجود شروع می‌شوند و از هوش مصنوعی برای آموزش آن استفاده می‌کنند.

رویکرد اول، که به طور جداگانه توسط وانگ و همکارانش در ذهن و توسط تیمی در OpenAI در همان زمان اختراع شد، از شبکه‌های عصبی تکرار شونده استفاده می‌کند. این نوع شبکه می‌تواند به گونه‌ای آموزش داده شود که فعالیت‌های نورون‌های آن‌ها -تقریبا شبیه به شلیک نورون‌ها در مغز بیولوژیکی- هر نوع الگوریتمی را رمزگذاری کند. DeepMind و OpenAI از این امر برای آموزش یک شبکه عصبی بازگشتی برای تولید الگوریتم‌های یادگیری تقویتی استفاده کردند، که به هوش مصنوعی می‌گوید چگونه رفتار کند تا به اهداف مورد نظر دست یابد.

نتیجه این است که سیستم‌های DeepMind و OpenAI الگوریتمی را که یک چالش خاص را حل می‌کند، مانند تشخیص تصاویر، یاد نمی‌گیرند، بلکه یک الگوریتم یادگیری را یاد می‌گیرند که می‌تواند برای چندین وظیفه به کار برده شود و با آن سازگار شود. مانند ضرب‌المثل قدیمی در مورد آموزش به کسی برای ماهی گیری است: در حالی که یک الگوریتم طراحی‌شده با دست می‌تواند یک کار خاص را یاد بگیرد، این AIS ها ساخته می‌شوند تا یاد بگیرند چگونه خودشان یاد بگیرند. و برخی از آن‌ها عملکرد بهتری نسبت به آن‌هایی دارند که توسط انسان طراحی شده‌اند.

رویکرد دوم از چلسی فین در دانشگاه کالیفرنیا، برکلی و همکارانش گرفته شده‌است. مدل فراخوانی شده -فرا یادگیری ندانم‌گرا، یا MAML، مدلی را با استفاده از دو فرآیند یادگیری ماشین آموزش می‌دهد، یکی در داخل دیگری لانه دارد.

به طور کلی، نحوه کار آن به این شکل است. فرآیند داخلی در MAML بر روی داده‌ها آموزش داده می‌شود و سپس تست می‌شود-به طور معمول. اما پس از آن مدل بیرونی عملکرد مدل درونی را در نظر می‌گیرد-تصاویر را به خوبی شناسایی می‌کند، می‌گوید-و از آن برای یادگیری نحوه تنظیم الگوریتم یادگیری آن مدل برای افزایش عملکرد استفاده می‌کند. مثل این است که شما یک بازرس مدرسه در حال تماشای گروهی از معلمان هستید، که هر کدام تکنیک‌های یادگیری متفاوتی ارائه می‌دهند. بازرس بررسی می‌کند که کدام تکنیک‌ها به دانش آموزان کمک می‌کند تا بهترین امتیازات را بگیرند و آن‌ها را براساس آن اصلاح می‌کند.

از طریق این روش‌ها، محققان هوش مصنوعی را می‌سازند که قوی‌تر، عمومی‌تر و قادر به یادگیری سریع‌تر با داده‌های کم‌تر است. برای مثال، Finn می‌خواهد رباتی که یاد گرفته روی زمین صاف راه برود تا بتواند با حداقل آموزش اضافی، به راه رفتن روی یک شیب یا روی چمن یا هنگام حمل بار منتقل شود.

سال گذشته، لون و همکارانش، تکنیک Finn را برای طراحی الگوریتمی که با استفاده از نورون‌های کم‌تر یاد می‌گیرد گسترش دادند، به طوری که هر چیزی را که قبلا آموخته‌است، رونویسی نکند، یک مشکل بزرگ حل‌نشده در یادگیری ماشینی که به فراموشی فاجعه‌بار مشهور است. یک مدل آموزش‌دیده که از نورون‌های کمتری استفاده می‌کند، که به عنوان یک مدل «پراکنده» شناخته می‌شود، نورون‌های استفاده‌نشده بیشتری برای اختصاص دادن به وظایف جدید در زمان آموزش مجدد باقی خواهد ماند، که به این معنی است که تعداد کمتری از نورون‌های «استفاده‌شده» رونویسی خواهند شد. کلون دریافت که تنظیم چالش یادگیری بیش از یک وظیفه هوش مصنوعی او را به سمت نسخه خود از یک مدل پراکنده سوق می‌دهد که عملکرد بهتری نسبت به مدل طراحی‌شده توسط انسان دارد.

اگر همه ما اجازه دهیم هوش مصنوعی خودش را بسازد و تدریس کند، آنگاه AIs باید محیط‌های آموزشی خودش را نیز ایجاد کند-مدارس و کتب درسی، و همچنین برنامه‌های درسی.

و سال گذشته شاهد مجموعه‌ای از پروژه‌ها بوده‌است که در آن‌ها هوش مصنوعی بر روی داده‌های خودکار تولید شده آموزش داده شده‌است. برای مثال، سیستم‌های تشخیص چهره با چهره‌های تولید شده توسط هوش مصنوعی آموزش داده می‌شوند. همچنین AI ها یاد می‌گیرند که چگونه یکدیگر را آموزش دهند. در یک مثال اخیر، دو بازوی ربات با یکدیگر کار کردند، با یک دست یادگیری برای تنظیم چالش‌های سخت‌تر و سخت تری که دیگری را برای گرفتن و گرفتن اشیا آموزش می‌دادند.

در واقع، کلون تعجب می‌کند اگر بینش انسانی در مورد این که یک هوش مصنوعی به چه نوع داده‌ای نیاز دارد تا یاد بگیرد ممکن است از بین برود. به عنوان مثال، او و همکارانش چیزی را توسعه داده‌اند که آن را شبکه‌های آموزشی مولد می‌نامد، که یاد می‌گیرند چه داده‌هایی باید تولید کنند تا بهترین نتایج را در زمان آموزش یک مدل به دست آورند. در یک آزمایش، او از یکی از این شبکه‌ها برای انطباق یک مجموعه داده از اعداد دست‌نویس استفاده کرد که اغلب برای آموزش الگوریتم‌های تشخیص تصویر مورد استفاده قرار می‌گیرند. چیزی که به دست آمد بسیار متفاوت از مجموعه داده‌های انسانی اصلی بود: صدها رقم نه کاملا متفاوت، مانند نیمه بالایی رقم هفت یا چیزی که به نظر می‌رسید دو رقم با هم ادغام شده‌اند. برخی از نمونه‌های ایجاد شده توسط هوش مصنوعی به سختی قابل‌کشف بودند. با این وجود، داده‌های تولید شده توسط هوش مصنوعی هنوز هم در آموزش سیستم تشخیص خط به منظور شناسایی ارقام واقعی، نقش بسزایی دارند.

سعی نکنید موفق شوید

داده‌های تولید شده توسط هوش مصنوعی هنوز هم بخشی از این پازل هستند. چشم‌انداز بلند مدت این است که همه این تکنیک‌ها را در نظر بگیریم-و برخی دیگر هنوز اختراع نشده اند-و آن‌ها را به یک مربی هوش مصنوعی بدهیم که کنترل کند چگونه مغز مصنوعی سیم‌کشی شده‌است، چگونه آموزش می‌بیند، و بر روی چه چیزی آموزش می‌بینند. حتی کلون هم روشن نیست که این سیستم آینده چه شکلی خواهد بود. گاهی اوقات او در مورد یک نوع جعبه شنی شبیه‌سازی شده فوق واقع گرایانه صحبت می‌کند، که در آن AIs می‌تواند دندان‌های خود را ببرد و زانوهای مجازی خود را به پوست کشد. چیزی که پیچیده است هنوز سال‌ها از آن دور است. نزدیکترین چیز POET، سیستمی است که کلون با Uui’s Rui Wang و دیگران ایجاد کرده است.

وانگ می‌گوید، انگیزه POET یک پارادوکس بود. اگر سعی کنید مشکلی را حل کنید، با شکست مواجه خواهید شد؛ اگر سعی نکنید آن را حل کنید، به احتمال زیاد موفق خواهید شد. این یکی از بینش‌هایی است که کلون از قیاس خود با تکامل می‌گیرد-نتایج شگفت انگیزی که از یک فرآیند ظاهرا تصادفی ظاهر می‌شوند اغلب نمی‌توانند با برداشتن گام‌های عمدی به سمت همان هدف دوباره ایجاد شوند. شکی نیست که پروانه‌ها وجود دارند، اما به پیش سازه‌ای تک سل آن‌ها برمی گردند و سعی می‌کنند با انتخاب هر مرحله از باکتری به حشره، آن‌ها را از نو ایجاد کنند، و احتمالا شکست خواهید خورد.

در واقع POET عامل دو پای خود را در یک محیط ساده مانند یک مسیر صاف بدون مانع شروع می‌کند. در ابتدا نماینده نمی‌داند با پاهایش چه کار کند و نمی‌تواند راه برود. اما از طریق آزمون و خطا، الگوریتم یادگیری تقویتی که آن را کنترل می‌کند یاد می‌گیرد که چگونه در امتداد زمین صاف حرکت کند. سپس POET یک محیط تصادفی جدید ایجاد می‌کند که متفاوت است، اما لزوما حرکت در آن سخت‌تر نیست. نماینده سعی می‌کند آنجا راه برود. اگر موانعی در این محیط جدید وجود داشته باشد، نماینده یاد می‌گیرد که چگونه از آن‌ها عبور کند. هر بار که یک نماینده موفق می‌شود یا گیر می‌کند، به یک محیط جدید منتقل می‌شود. با گذشت زمان، نمایندگان طیف وسیعی از اقدامات پیاده‌روی و پرش را یاد می‌گیرند که به آن‌ها اجازه می‌دهد تا در دوره‌های موانع سخت‌تر و سخت‌تر حرکت کنند.

این تیم متوجه شد که تعویض تصادفی محیط‌ها ضروری است.

به عنوان مثال، گاهی اوقات نماینده‌ها یاد می‌گیرند که روی زمین مسطح با یک لخ لخ عجیب و نیمه زانو زده راه بروند، چون این به اندازه کافی خوب بود. وانگ می‌گوید: « آن‌ها هرگز یاد نمی‌گیرند که بلند شوند زیرا هرگز نیازی به بلند شدن ندارند.» اما بعد از اینکه مجبور به یادگیری استراتژی‌های جایگزین در زمین‌های پر از مانع شدند‌، می‌توانستند با یک راه بهتر راه رفتن به مرحله اولیه برگردند - مثلاً از هر دو پا استفاده کنند به جای اینکه یکی را عقب بکشند - و سپس نسخه پیشرفته خود را به جلو ببرند به چالش های سخت تر.

در اصل POET ربات‌های خود را طوری آموزش می‌دهد که هیچ انسانی نتواند آن‌ها را آموزش دهد-این کار مسیرهای نامنظم و غیر شهودی برای موفقیت را در بر می‌گیرد. در هر مرحله، ربات‌ها تلاش می‌کنند تا راه حلی برای هر چالشی که با آن مواجه می‌شوند پیدا کنند. با کنار آمدن با انتخاب تصادفی موانعی که سر راهشان قرار می‌گیرند، آن‌ها در کل بهتر می‌شوند. اما هیچ نقطه پایانی برای این فرآیند وجود ندارد، هیچ آزمون نهایی برای عبور یا امتیاز بالا برای شکست وجود ندارد.

کلون، وانگ، و تعدادی از همکاران آن‌ها بر این باورند که این یک بینش عمیق است. آن‌ها در حال حاضر در حال بررسی این موضوع هستند که این امر چه معنایی برای توسعه ماشین‌های فوق هوشمند دارد. آیا تلاش برای ترسیم یک مسیر خاص واقعا می‌تواند یک پیشرفت کلیدی در مسیر هوش عمومی مصنوعی باشد؟

در حال حاضر POET الهام‌بخش محققان دیگر، مانند ناتاشا جکس و مایکل دنیس در دانشگاه کالیفرنیا، برکلی است. آن‌ها سیستمی به نام PAIred را ایجاد کرده‌اند که از هوش مصنوعی برای تولید یک سری مازها استفاده می‌کند تا هوش مصنوعی دیگری را برای جهت‌یابی آن‌ها آموزش دهد.

«روی وانگ» فکر می‌کند چالش‌های طراحی‌شده توسط انسان به عنوان یک تنگنا در نظر گرفته می‌شوند و اینکه پیشرفت واقعی در هوش مصنوعی مستلزم آن است که هوش مصنوعی خودش به دست آید. او می‌گوید: «مهم نیست که الگوریتم های امروزی چقدر خوب هستند، آن‌ها همیشه بر روی برخی از بنچ‌مارک‌ها که به صورت دستی طراحی شده‌اند، آزمایش می‌شوند.» « تصور اینکه هوش عمومی مصنوعی از این مساله ناشی می‌شود بسیار دشوار است، زیرا با اهداف ثابت گره خورده‌است.»

نوع جدیدی از هوش

توسعه سریع هوش مصنوعی که می‌تواند خود را آموزش دهد، سوالاتی را در مورد چگونگی کنترل رشد آن به وجود می‌آورد. ایده هوش مصنوعی که هوش مصنوعی بهتری می‌سازد، بخش مهمی از افسانه سازی پشت «یکتایی» است، نقطه تصور شده در آینده که AIs شروع به بهبود با نرخ نمایی می‌کند و فراتر از کنترل ما می‌رود. در نهایت، برخی از طرفداران هشدار می‌دهند که هوش مصنوعی ممکن است تصمیم بگیرد که اصلا نیازی به انسان ندارد.

این چیزی نیست که هیچ کدام از این محققان در ذهن داشته باشند: کار آن‌ها تمرکز زیادی بر بهتر کردن هوش مصنوعی امروزی دارد. ماشین‌هایی که آمیب‌ها را اداره می‌کنند، ضد تخیل دور از دسترس باقی می‌مانند.

با این حال، جین وانگ از DeepMind شروطی دارد. بخش بزرگی از جذابیت استفاده از هوش مصنوعی برای ساخت هوش مصنوعی این است که می‌تواند به طرح‌ها و تکنیک‌هایی دست پیدا کند که مردم به آن‌ها فکر نکرده بودند. با این حال، وانگ اشاره می‌کند که همه سورپرایزها، سورپرایزهای خوبی نیستند: «آزاد بودن طبق تعریف چیزی غیرمنتظره است.» اگر کل ایده این باشد که هوش مصنوعی کاری را انجام دهد که انتظارش را ندارید، کنترل آن سخت‌تر می‌شود. او می‌گوید: « این هم هیجان‌انگیز و هم ترسناک است.»

کلون همچنین بر اهمیت تفکر در مورد اصول اخلاقی تکنولوژی جدید از ابتدا تاکید می‌کند. شانس خوبی وجود دارد که شبکه‌های عصبی و الگوریتم‌های طراحی‌شده هوش مصنوعی درک آن‌ها سخت‌تر از سیستم‌های جعبه سیاه مات امروزی باشد. آیا تولید AIS توسط الگوریتم‌ها برای بررسی جهت گیری سخت‌تر است؟ آیا تضمین این که آن‌ها به روش‌های نامطلوب رفتار نخواهند کرد سخت‌تر است؟

کلون امیدوار است وقتی افراد بیشتری از پتانسیل هوش مصنوعی خود تولید می‌کنند، چنین سوالاتی پرسیده و پاسخ داده شود. او می‌گوید: « بسیاری از افراد در جامعه یادگیری ماشینی واقعا در مورد مسیر کلی ما به هوش مصنوعی شدیدا قدرتمند صحبت نمی‌کنند.» در عوض، آن‌ها بر روی پیشرفت‌های کوچک و تدریجی تمرکز می‌کنند. کلون می‌خواهد دوباره گفتگویی را در مورد بزرگ‌ترین بلندپروازی‌های این حوزه آغاز کند.

بلندپروازی‌های او به علایق اولیه او در هوش انسانی و چگونگی تکامل آن مربوط می‌شود. چشم‌انداز بزرگ او این است که چیزها را طوری تنظیم کند که ماشین‌ها روزی بتوانند هوش خود را ببینند-یا هوش خود را-که از طریق نسل‌های بی‌شمار آزمون و خطا پدیدار می‌شود و بهبود می‌یابد، و توسط الگوریتم‌هایی هدایت می‌شود که هیچ طرح نهایی در ذهن ندارند.

اگر هوش مصنوعی خودش شروع به تولید اطلاعات کند، هیچ تضمینی وجود ندارد که شبیه انسان باشد. به جای اینکه انسان‌ها به ماشین‌ها یاد بدهند که مثل انسان‌ها فکر کنند، ماشین‌ها ممکن است روش‌های جدید تفکر را به انسان‌ها یاد بدهند.

کلون می‌گوید: «احتمالا راه‌های مختلفی برای باهوش بودن وجود دارد.» یکی از چیزهایی که من را در مورد هوش مصنوعی هیجان‌زده می‌کند این است که ما ممکن است با دیدن اینکه چه تغییری ممکن است، به طور کلی‌تر به اطلاعات دست یابیم.

او گفت: من فکر می‌کنم این جذاب است. منظورم این است که تقریباً مانند اختراع سفرهای بین ستاره‌ای و امکان بازدید از فرهنگ‌های بیگانه است. هیچ لحظه‌ای در تاریخ بشر به اندازه مواجهه با یک نژاد بیگانه و یادگیری درباره فرهنگ، علم و همه چیز وجود نخواهد داشت. سفر میان ستاره‌ای بسیار دشوار است، اما ما این توانایی را داریم که به طور بالقوه هوش‌های فضایی به صورت دیجیتالی ایجاد کنیم.

این متن با استفاده از ربات مترجم مقاله علم داده ترجمه شده و به صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد.

مقالات لینک‌شده در این متن می‌توانند به صورت رایگان با استفاده از مقاله‌خوان ترجمیار به فارسی مطالعه شوند.