ویرگول
ورودثبت نام
مهدی محمدی
مهدی محمدی
مهدی محمدی
مهدی محمدی
خواندن ۲ دقیقه·۱۰ ماه پیش

یادگیری ماشین: رگرسیون لجستیک

اهداف این مقاله

  • شناسایی کاربردهای انجام رگرسیون لجستیک
  • توضیح اینکه چگونه مدل های رگرسیون لجستیک از تابع سیگموید استفاده میکنند تا احتمالات را محاسبه کنند
  • مقایسه رگرسیون خطی و رگرسیون لجستیک
  • توضیح اینکه چرا رگرسیون لجستیک از لگاریتم زیان به جای مربع زیان استفاده میکند
  • توضیح اهمیت منظم سازی موقع آموزش مدل های رگرسیون لجستیک


محاسبه یک احتمال با تابع سیگموید

مسائل زیادی نیاز دارند که احتمال یک خروجی را پیش بینی کنند. رگرسیون لجستیک یک مکانیزم بسیار بهینه برای محاسبه احتمالات است. در عمل، شما میتوانید از احتمال برگشت داده شده به دو طریق استفاده کنید:

  • مقدار را استفاده کنید. به عنوان مثال اگر یک مدل احتمال اسپم یک ایمیل را به عنوان ورودی بگیرد و خروجی مقدار ۰.۹۳۲ باشد این نشان میدهد که ۹۳.۲٪ احتمال وجود دارد که ایمیل اسپم باشد.
  • مقدار را به یک باینری تبدیل کنید مثلا صحیح یا غلط. اسپم یا غیر اسپم.

تابع سیگموید

ممکن است با خود فکر کنید که یک مدل رگرسیون لجستیک چطور میتواند مطمعن شود که خروجی اش یک احتمال را نشان میدهد و همیشه مقداری بین ۰ و ۱ باز میگرداند. یک سری توابع وجود دارند به نام توابع لجستیک که خروجیشان این قابلیت را دارد. یک تابع استاندارد لجستیک شناخته شده وجود دارد به نام تابع سیگموید (تابع S شکل) که این فرمول را دارد:

تبدیل خروجی خطی با استفاده از تابع سیگموئید

معادله زیر مؤلفه خطی یک مدل رگرسیون لجستیک را نشان می دهد:

  • مقدار z خروجی معادله خطی است که به log odds شناخته میشود
  • مقدار b تعصب معادله است
  • مقادیر w وزن های یادگیری مدل هستند
  • مقادیر x معادل مقادیر ویژگی های یک نمونه میباشد


برای به دست آورد پیشبینی رگرسیون لجستیک، مقدار z به تابع سیگموید داده میشود، این امر یک مقدار (یک احتمال) تولید میکند که بین صفر و یک خواهد بود.

  • مقدار y' خروجی مدل رگرسیون لجستیک است
  • مقدار z خروجی خطی است که در معادله پیشین محاسبه شد



رگرسیون لجستیک
۰
۰
مهدی محمدی
مهدی محمدی
شاید از این پست‌ها خوشتان بیاید