آشنایی با انواع الگوریتم بهینه سازی

بهینه سازی مشکل یافتن مجموعه ای آشنایی با انواع الگوریتم بهینه سازی از ورودی ها برای یک تابع هدف است که منجر به ارزیابی حداکثر یا حداقل تابع می شود.

این مشکل چالش برانگیز است که زیربنای بسیاری از الگوریتم‌های یادگیری ماشینی است، از برازش مدل‌های رگرسیون لجستیک تا آموزش شبکه‌های عصبی مصنوعی.

شاید صدها الگوریتم بهینه‌سازی محبوب، و شاید ده‌ها الگوریتم برای انتخاب در کتابخانه‌های کد علمی رایج وجود داشته باشد. این امر می‌تواند چالش‌برانگیز باشد که بدانیم کدام الگوریتم‌ها را برای یک مسئله بهینه‌سازی معین در نظر بگیریم.در این آموزش، یک تور راهنما از الگوریتم های مختلف بهینه سازی را کشف خواهید کرد.پس از تکمیل این آشنایی با انواع الگوریتم بهینه سازی آموزش، خواهید دانست:

الگوریتم‌های بهینه‌سازی ممکن است به دو دسته دسته‌بندی شوند که از مشتقات استفاده می‌کنند و آنهایی که از مشتقات استفاده نمی‌کنند.الگوریتم های کلاسیک از مشتق اول و گاهی دوم تابع هدف استفاده می کنند.الگوریتم‌های جستجوی مستقیم و تصادفی برای توابع هدف طراحی شده‌اند که مشتقات تابع در دسترس نیستند.

پروژه خود را با کتاب جدید من بهینه سازی برای یادگیری ماشین، شامل آموزش های گام به گام و فایل های کد منبع پایتون برای همه نمونه ها، شروع کنید.نحوه انتخاب الگوریتم بهینه سازی

عکس توسط Matthewjs007، برخی از حقوق محفوظ است.بررسی اجمالی آموزش این آموزش به سه بخش تقسیم می شود؛ آن ها هستند:الگوریتم های بهینه سازی تابع هدف آشنایی با انواع الگوریتم بهینه سازی متمایز تابع هدف غیر دیفرانسیل الگوریتم های بهینه سازی

بهینه سازی به روشی برای یافتن پارامترهای ورودی یا آرگومان های یک تابع اشاره دارد که منجر به حداقل یا حداکثر خروجی تابع می شود.

رایج‌ترین نوع مشکلات بهینه‌سازی که در یادگیری ماشین با آن مواجه می‌شوند، بهینه‌سازی تابع پیوسته هستند، که در آن آرگومان‌های ورودی تابع، مقادیر عددی با ارزش واقعی هستند، به عنوان مثال. مقادیر ممیز شناور خروجی تابع نیز یک ارزیابی با ارزش واقعی از مقادیر ورودی است.

ما ممکن است به مسائلی از این نوع به عنوان ایرانیان سایبر بهینه سازی تابع پیوسته اشاره کنیم تا از توابعی که متغیرهای گسسته را می گیرند و به عنوان مسائل بهینه سازی ترکیبی نامیده می شوند، متمایز شویم.

انواع مختلفی از الگوریتم‌های بهینه‌سازی وجود دارد که می‌توانند برای مسائل بهینه‌سازی تابع پیوسته و شاید به همان اندازه روش‌های گروه‌بندی و آشنایی با انواع الگوریتم بهینه سازی خلاصه‌سازی آنها مورد استفاده قرار گیرند.

یک رویکرد برای گروه بندی الگوریتم های بهینه سازی بر اساس مقدار اطلاعات موجود در مورد تابع هدف است که در حال بهینه سازی است که به نوبه خود می تواند توسط الگوریتم بهینه سازی استفاده و مهار شود.

به طور کلی، هرچه اطلاعات بیشتری در مورد تابع هدف در دسترس باشد، در صورتی که بتوان از اطلاعات به طور موثر در جستجو استفاده کرد، بهینه سازی تابع آسان تر است.

شاید تقسیم بندی اصلی در الگوریتم های بهینه سازی این باشد که آیا تابع هدف را می توان در یک نقطه متمایز کرد یا خیر. یعنی اینکه آیا اولین مشتق (شیب یا شیب) تابع را می توان برای یک راه حل کاندید معین محاسبه کرد یا خیر. این الگوریتم ها را به الگوریتم هایی تقسیم می کند که می توانند از اطلاعات گرادیان محاسبه شده استفاده کنند و الگوریتم هایی که این کار را نمی کنند.

تابع هدف قابل تمایز؟الگوریتم هایی که از اطلاعات مشتق استفاده می کنند.الگوریتم هایی که از اطلاعات مشتق استفاده نمی کنند.

ما از این به عنوان بخش اصلی برای گروه بندی الگوریتم های بهینه سازی در این آموزش استفاده خواهیم کرد و به الگوریتم های توابع هدف متمایز و غیرمتمایز نگاه خواهیم کرد.

توجه: این پوشش جامعی از الگوریتم‌ها برای بهینه‌سازی عملکرد پیوسته نیست، اگرچه روش‌های اصلی را پوشش می‌دهد که احتمالاً به عنوان یک متخصص معمولی با آن‌ها مواجه خواهید شد.

آیا می خواهید با الگوریتم های بهینه سازی شروع کنید؟اکنون آشنایی با الگوریتم بهینه سازی در دوره رایگان ۷ روزه خرابی ایمیل من (با نمونه کد) شرکت کنید.برای ثبت نام و همچنین دریافت نسخه کتاب الکترونیکی PDF رایگان دوره کلیک کنید.مینی دوره رایگان خود را همین حالا شروع کنید!