در واقع IID مخفف Independent and identically distributed هست.
یعنی داده های مستقل با توزیع یکسان ، بخوام واضح تر بگم Identically Distributed یعنی روند کلی وجود ندارد و عمل توزیع هیچ نوسانی ندارد و همه آیتم های موجود در مجموعه ی نمونه ی ما از یک توزیع احتمالی گرفته شده اند.
** نمونه گیری IID از داده های ترین شده لازم و ضروری است برای اینکه متوجه بشیم گرادیان تصادفی بی طرف تخمین زده شده است**
کلمه independent به معنی مستقل است یعنی که همه رویداد ها و احتمالات مستقل از هم هستند.اگر بخوایم به طور ریاضی بگیم:
یک مدل آماری برای یادگیری فدرال(یا فدراسیون) که شامل دو مرحله نمونه گیری است: دسترسی به یک نقطه داده ابتدا نیاز به یک نمونه گیری از یک کلاینت (client) دارد.(توزیع بر روی کلاینت های موجود)
سپس انجام یک آزمایش بر روی کلاینت محلی موجود