监督式学习：常见算法有逻辑回归（Logistic Regression）和反向传递神经网络（Back Propagation Neural Network）
非监督式学习：Apriori算法以及k-Means算法。
半监督式学习：论推理算法（Graph Inference）或者拉普拉斯支持向量机（Laplacian SVM.）等
强化学习：Q-Learning以及时间差学习（Temporal difference learning）
算法类似性:
回归算法(可以做销售预测等)：
最小二乘法（Ordinary Least Square）
逻辑回归（Logistic Regression）
逐步式回归（Stepwise Regression）
多元自适应回归样条（Multivariate Adaptive Regression Splines）
本地散点平滑估计（Locally Estimated Scatterplot Smoothing）
基于实例的算法：
k-Nearest Neighbor(KNN)
学习矢量量化（Learning Vector Quantization， LVQ）
自组织映射算法（Self-Organizing Map，SOM）
正则化方法：
Ridge Regression，
Least Absolute Shrinkage and Selection Operator（LASSO），
弹性网络（Elastic Net）
决策树学习：
分类及回归树（Classification And Regression Tree， CART）
ID3 (Iterative Dichotomiser 3)
C4.5， Chi-squared Automatic Interaction Detection(CHAID)
Decision Stump
随机森林（Random Forest）
多元自适应回归样条（MARS）
梯度推进机（Gradient Boosting Machine， GBM）
贝叶斯方法：
朴素贝叶斯算法
平均单依赖估计（Averaged One-Dependence Estimators， AODE）
Bayesian Belief Network（BBN）
基于核的算法：
支持向量机（Support Vector Machine， SVM）
径向基函数（Radial Basis Function ，RBF)
线性判别分析（Linear Discriminate Analysis ，LDA)
聚类算法：
k-Means算法
期望最大化算法（Expectation Maximization， EM）
关联规则学习：
Apriori算法
Eclat算法
人工神经网络：
感知器神经网络（Perceptron Neural Network）
反向传递（Back Propagation）
Hopfield网络
自组织映射（Self-Organizing Map, SOM）
学习矢量量化（Learning Vector Quantization， LVQ）
深度学习
受限波尔兹曼机（Restricted Boltzmann Machine， RBN）
Deep Belief Networks（DBN）
卷积网络（Convolutional Network）
堆栈式自动编码器（Stacked Auto-encoders）
降低维度算法
主成份分析（Principle Component Analysis， PCA）
偏最小二乘回归（Partial Least Square Regression，PLS）
Sammon映射，多维尺度（Multi-Dimensional Scaling, MDS）
投影追踪（Projection Pursuit）
集成算法：
Boosting， Bootstrapped Aggregation（Bagging）
AdaBoost，堆叠泛化（Stacked Generalization， Blending）
梯度推进机（Gradient Boosting Machine, GBM）
随机森林（Random Forest）
