هر متغیر تصادفی مثل X دارای یک توزیع احتمال است. هر توزیع احتمال دارای یک سری پارامتر است که توزیع با آن ها مشخص می شود (مثلا میانگین و واریانس و ...). وقتی یک متغیر تصادفی اندازه گیری می شود (نمونه گیری صورت می گیرد)، اندازه ها از آن توزیع پیروی می کنند. پس می توان با داشتن نمونه ها مقادیر پارامترهای متغیر تصادفی را تخمین زد. بسته به اینکه چند بار اندازه گیری صورت بگیرد و در هر بار اندازه گیری چه نتیجه ای حاصل شود، مقادیر تخمین مان متفاوت خواهد بود. از این رو خود مقادیر تخمینی نیز تصادفی خواهند بود. اگر هر یک از موجودیت هایی که تخمین زده می شوند را با یک متغیر نشان دهیم این متغیر یک متغیر تصادفی خواهد بود که به آن یک آماره گفته می شود. از این رو معادل هر پارامتر یک آماره وجود خواهد داشت که یک متغیر تصادفی با توزیعی مشخص خواهد بود که تخمینی از پارامتر را بیان خواهد کرد. دقت کنید که مقادیر مختلف متغیر تصادفی آماره در واقع تابعی از همان مقادیری است که از اندازه گیری استخراج می شوند (مثلا میانگین مقادیر اندازه گیری شده). همچنین می دانیم که مقادیری که برای هر اندازه گیری بدست می آید از تابع توزیع متغیر اصلی ما یعنی X پیروی می کنند. لذا هر آماره تابعی از متغیر اصلی ما یعنی X خواهد بود و از این رو تابع توزیع آن نیز تابعی از تابع توزیع X می باشد.
به طور کلی وقتی تابعی را بر روی مدلی fit می کنیم به دنبال آن هستیم تا پارامترهای آن مدل را تخمین بزنیم. مثلا در مدلسازی رگرسیون می خواهیم با استفاده از مقادیر داده های اندازه گیری شده پارامترهای مدل که همان ضرایب ابر صفحه ی ما هستند را تخمین بزنیم. لذا هر یک از این تخمین ها در واقع یک متغیر تصادفی خواهد بود که دارای یک تابع توزیع می باشد. از این رو دقیق ترین مدل مدلی است که ضرایب را نه تنها به صورت اعدادی ثابت بلکه به صورت چند تابع توزیع تخمین می زند.
