机器学习分两大类，有监督学习(supervised learning)和无监督学习(unsupervised learning)。有监督 学习又可分两类：分类（classification.）和回归（regression），分类的任务就是把一个样本划为某个已 知类别，每个样本的类别信息在训练时需要给定，比如人脸识别、行为识别、目标检测等都属于分类。回归的 任务则是预测一个数值，比如给定房屋市场的数据（面积，位置等样本信息）来预测房价走势。而无监督学习 也可以成两类：聚类（clustering）和密度估计（density estimation）,聚类则是把一堆数据聚成弱干组， 没有类别信息；密度估计则是估计一堆数据的统计参数信息来描述数据,比如深度学习的RBM。
根据机 器学习实战讲解顺序，先学习K近邻法（K Nearest Neighbors-KNN）
K近邻法是有监督学习方法，原理 很简单，假设我们有一堆分好类的样本数据，分好类表示每个样本都一个对应的已知类标签，当来一个测试样 本要我们判断它的类别是，就分别计算到每个样本的距离，然后选取离测试样本最近的前K个样本的标签累计 投票，得票数最多的那个标签就为测试样本的标签。
例子（电影分类）：
（图一）
（图一）中横坐标表示一部电影中的打斗统计个数，纵坐标表示接吻次数。我们要对（图一）中的问 号这部电影进行分类，其他几部电影的统计数据和类别如（图二）所示：
（图二）
从（图二）中可以看出有三部电影的类别是Romance,有三部电影的类别是Action,那如何 判断问号表示的这部电影的类别？根据KNN原理,我们需要在（图一）所示的坐标系中计算问号到所有其他电影 之间的距离。计算出的欧式距离如（图三）所示：
（图三）
由于我们的标 签只有两类，那假设我们选K=6/2=3,由于前三个距离最近的电影都是Romance,那么问号表示的电影被判定为 Romance。