تنظیم در یادگیری ماشین به منظور جلوگیری از فرا برازش و بهبود تعمیم یافتگی مدلها در کارایی هست. در واقع تنظیم، جریمهها و محدودیتهایی را در نظر میگیرد که از پیچیده شدن مدلها جلوگیری میکنند. تنظیم، انواع مختلف دارد:
۱. تنظیم L1 ( لاسو): یک ضریب جریمه بر روی تابع فقدان مبتنی بر مقادیر مطلق ضرایب مدل، وضع میکند. این مدل را تشویق میکند که زیر مجموعهای از ویژگیهای پر اهمیت را انتخاب کند در صورتی که مابقی را صفر در نظر میگیرد.
۲. تنظیم L2 (ریج): یک ضریب جریمه برای تابع فقدان مبتنی بر مجذور ضرایب مدل، تعیین میکند. همین سبب میشود که ویژگیهایی دارای وزن غیر صفر کوچکی وجود داشته باشد و تاثیر ویژگیهای تکی و منفرد کاهش یابد.
۳. تنظیم شبکه Elastic: یک ترکیبی از تنظیمهای L1 و L2 ایجاد میکند که اجازه میدهد تا بین انتخاب ویژگی L1 و میزان آب رفتگی ضرایب مدل در L2 یک توازن برقرار شود.
۴. حذف تصادفی (شبکههای عصبی مصنوعی): یک تکنیک است که در شبکههای عصبی مصنوعی مورد استفاده قرار میگیرد. به صورت تصادفی، کسری از نورونهای شبکه را در حین آموزش غیر فعال میکند. همین امر سبب جلوگیری از فرا برازش مدل و بهبود تعمیم یافتگی آن در کارایی میشود.
۵. توقف زودرس: این روش شامل تحت نظارت گرفتن کارایی مدل بر روی مجموعه اعتبار سنجی در حین آموزش است. آموزش زمانی که کارایی اعتبار سنجی شروع به کاهش کند، توقف مییابد. همین امر از فرا برازش مدل جلوگیری میکند.