طبقه بندی الگوریتم های یادگیری ماشین

الگوریتم های بسیاری در مباحث یادگیری ماشین وجود دارد که یادگیری و درک همه آنها فرایند زمانبری است. (شایدم غیر ممکن) در این مقاله تعدادی از الگوریتم های مطرح را همراه با معرفی دسته بندی کلی هر کدام نام میبریم و در آینده بر مرور و به ترتیب مهم ترین الگوریتم سعی در بررسی جزیی تر آنها خواهیم داشت.




۱- رگرسیون (regression)

Ordinary Least Squares Regression (OLSR)
Linear Regression
Logistic Regression
Stepwise Regression
Multivariate Adaptive Regression Splines (MARS) 
Locally Estimated Scatterplot Smoothing (LOESS)
Jackknife Regression

۲- یادگیری منظم (regularization)

Ridge Regression
Least Absolute Shrinkage and Selection Operator (LASSO)
Elastic Net 
Least-Angle Regression (LARS)

۳-مبتنی بر مثال (instance based)

k-Nearest Neighbour (kNN)
Learning Vector Quantization (LVQ)
Self-Organizing Map (SOM)
Locally Weighted Learning (LWL) 

۴- کاهش ابعاد (dimesionality reduction)

Principal Component Analysis (PCA)
Principal Component Regression (PCR) 
Partial Least Squares Regression (PLSR) 
Sammon Mapping
Multidimensional Scaling (MDS)
Projection Pursuit
Mixture Discriminant Analysis (MDA)
Quadratic Discriminant Analysis (QDA)
Regularized Discriminant Analysis (RDA) 
Flexible Discriminant Analysis (FDA) 
Linear Discriminant Analysis (LDA) 

۵- یادگیری عمیق (deep learning)

Deep Boltzmann Machine (DBM)
Deep Belief Networks (DBN)
Convolutional Neural Network (CNN) 
Stacked Auto-Encoders 

۶- یادگیری گروه (ensemble)

Logit Boost (Boosting) 
Bootstrapped Aggregation (Bagging) 
AdaBoost 
Stacked Generalization (blending) 
Gradient Boosting Machines (GBM) 
Gradient Boosted Regression Trees (GBRT) 
Random Forest 

۷- بیزین (bayesian)

Naive Bayes 
Gaussian Naive Bayes 
Multinomial Naive Bayes 
Averaged One-Dependence Estimators (AODE)
Bayesian Belief Network (BBN) 
Bayesian Network (BN) 
Hidden Markov Models 
Conditional random fields (CRFs) 

۸- درخت تصمیم (decision tree)

Classification and Regression Tree (CART) 
Iterative Dichotomises 3 (ID3) 
C4.5 and C5.0 (different versions of a powerful approach) 
Chi-squared Automatic Interaction Detection (CHAID)
Decision Stump 
M5 
Random Forests 
Conditional Decision Trees 

۹- خوشه بندی (clustering)

Single-linkage clustering 
k-Means 
k-Medians 
Expectation Maximisation (EM) 
Hierarchical Clustering 
Fuzzy clustering 
DBSCAN 
OPTICS algorithm 
Non Negative Matrix Factorization 
Latent Dirichlet allocation (LDA) 

۱۰- شبکه عصبی (neural networks)

Self Organizing Map 
Perceptron
Back-Propagation 
Hopfield Network 
Radial Basis Function Network (RBFN)
Autoencoders 
Boltzmann machines 
Restricted Boltzmann Machines 
Spiking Neural Networks 
Learning Vector quantization (LVQ) 

۱۱- مبتنی بر قوانین انجمنی (associated rule)

Apriori 
Eclat 
FP-Growth
Cubist
One Rule (OneR)
Zero Rule (ZerR)
Repeated Incremental Pruning to Produce Error Reductron (RIPPER) 

۱۲- سایر

Evolutionary Algorithms 
Inductive Logic Programming (ILP) 
Reinforcement Learning 
(Q-Learning, Temporal Difference, State-Action-Reward-State-Action (SARSA)) 
ANOVA 
Information Fuzzy Network (IFN) 
Page Rank 
Conditional Random Fields (CRF) 

موارد نام برده شده صرفا به منظور رفرنس کلی الگوریتم ها قابل استفاده است که در آینده هر الگوریتم به صفحه جزییات لینک خواهد شد.