دوره: مقدمه‌ای بر شبکه‌های عصبی بازگشتی (RNNs)


توضیحات

دوره‌ی پیشرفته آموزش یادگیری عمیق، دومین دوره‌ی آموزشی از سری دوره‌های یادگیری ماشین و یادگیری عمیق شناسا با موضوع «آشنایی و پیاده‌سازی شبکه‌های عصبی بازگشتی و سری‌های زمانی با تنسورفلو ۲» است که توسط مهندس علی‌رضا اخوان‌پور مدرس دانشگاه و محقق یادگیری عمیق تدریس می‌شود.

این دوره، پیش از این به‌صورت ویدئویی تدریس شده و قابل دسترس است، اما در نظر داریم مطالب دوره را به‌صورت متنی و رایگان، در قالب یک مجموعه پست با عنوان «مقدمه‌ای بر شبکه‌های عصبی بازگشتی (RNN)» منتشر کنیم.

جلسات دوره با فواصل حداکثر یک ماه منتشر شده و لیست آن‌ها در انتهای این پست در دسترس خواهد بود.



مطالب

در این دوره، مباحث پیشرفته‌ی یادگیری عمیق با تمرکز بر شبکه‌های عصبی بازگشتی، با رویکرد عملی و پیاده‌سازی سری‌های زمانی با زبان پایتون (Python)، کتاب‌خانه کراس (Keras) و فریم‌ورک Tensorflow 2 بررسی خواهند شد. در ابتدا پس از آشنایی با مباحث مقدماتی شبکه‌های بازگشتی، به بررسی انواع سلول‌ها در شبکه‌های بازگشتی می‌پردازیم و در ادامه با چالش‌های این شبکه‌ها مانند طول دنباله‌ی متغیر یا محوشدگی و انفجار گرادیان آشنا می‌شویم؛ در پایان انواع مختلف این شبکه‌ها مانند شبکه‌های بازگشتی دوطرفه یا مدل‌های توالی به توالی را بررسی خواهیم کرد.

همچنین در این دوره مثال‌هایی درباره تمامی مباحث مطرح شده تمرین خواهید کرد که شما را با چگونگی پیاده‌سازی آن‌ها با استفاده از Tensorflow 2 آشنا خواهد کرد. با توجه به این که این مثال‌ها در‌ حوزه‌ی پردازش زبان طبیعی مطرح می‌شوند، در پایان با مقدمات این حوزه از یادگیری عمیق و راه‌حل‌هایی برای مسائلی مانند طبقه‌بندی متن، تولید متن با استفاده از مدل‌های زبانی و ترجمه ماشینی نیز آشنایی پیدا خواهید کرد.


تهیه دورهٔ ویدئویی

برای تهیه‌ی این دوره به‌صورت ویدئویی می‌توانید از لینک زیر استفاده کنید. همچنین با استفاده از کد تخفیف shenasablog_intro می‌توانید از ۲۰ درصد تخفیف جهت خرید دوره بهره‌مند شوید:

http://class.vision/deep-rnn/
سرفصل‌های کلی دوره را می‌توانید در لینک بالا مشاهده کنید؛ در تولید دوره‌ی متنی تلاش خواهیم کرد به این سرفصل‌ها وفادار بمانیم.
پیش‌نمایش‌هایی از دوره در این کانال آپارات قابل مشاهده است.



پیش‌نیاز‌های دوره

دوره فوق، دوره‌ای پیشرفته حساب شده و در تولید محتوای آن تصور شده که خوانندگان آشنایی نسبتاً خوبی با موارد زیر دارند:

  • مقدمات شبکه‌های عصبی (NN) و شبکه‌های کانولوشنی (CNN)
  • زبان برنامه‌نویسی پایتون (Python)
  • کتابخانه‌/فریم‌ورک‌های Tensorflow و Keras
  • پیاده‌سازی اولیه‌ی شبکه‌های عصبی (ساخت شبکه‌ها به حالت‌های Sequential API یا Model Subclassing و یا Functional API در کتاب‌خانه کراس [Keras])


جلسات دوره

بررسی ماهیت این شبکه‌ها و سلول‌های تشکیل‌دهنده‌ آن‌ها

بررسی دقیق‌تر اجزای تشکیل دهنده این شبکه‌ها یعنی واحد‌های بازگشتی و معادلات آن‌ها

پیاده‌سازی یک شبکه‌ی RNN ساده با استفاده از کتاب‌خانه‌ی کراس (Keras)

بررسی روش‌های استفاده از یک شبکه‌ی عصبی بازگشتیِ آموزش داده‌شده برای پیش‌بینی داده‌هایی با طول دنباله‌های ورودی دیگری (گام‌های زمانی متفاوت)

بررسی محوشدگی و انفجار گرادیان دو مشکل اصلی شبکه‌‌های عصبی بازگشتی ساده (Simple RNN)



این دوره به کوشش علی‌رضا اخوان‌پور به‌صورت ویدئویی تهیه شده و به قلم محمدحسن ستاریان با نظارت ایشان به‌صورت متنی نگارش و توسط بهار برادران افتخاری ویرایش شده‌ست.