机器学习可以分成下面几种类别：
| 监督学习 |
从给定的训练数据集中学习出一个函数，当新的数据到来时，可以根据这个函数预测结果。监督学习的训练集要求是包括输入和输出，
也可以说是特征和目标。训练集中的目标是由人标注的。常见的监督学习算法包括回归分析和统计分类。 |
| 无监督学习 |
与监督学习相比，训练集没有人为标注的结果。常见的无监督学习算法有聚类。 |
| 半监督学习 |
介于监督学习与无监督学习之间。 |
| 增强学习 |
通过观察来学习做成如何的动作。每个动作都会对环境有所影响，学习对象根据观察到的周围环境的反馈来做出判断。 |
具体的机器学习算法有：
- 构造条件概率：回归分析和统计分类
- 人工神经网络
- 决策树（Decision tree）
- 高斯过程回归
- 线性判别分析
- 最近邻居法
- 感知器
- 径向基函数核
- 支持向量机
- 通过再生模型构造概率密度函数（Probability density function）：
- 最大期望算法（Expectation-maximization algorithm）
- graphical model：包括贝叶斯网和Markov随机场
- Generative Topographic Mapping
- 近似推断技术：
- 马尔可夫链（Markov chain）蒙特卡罗方法
- 变分法
- 最优化（Optimization）：大多数以上方法，直接或者间接使用最优化算法。
参考资料
[1]. http://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0