supervised learning(监督学习） and unsupervised learning（无监督学习）

今天在写代码的时候，想知道LDA是不是属于无监督学习。然后就想知道监督学习和无监督学习的本质区别在哪里。刚刚粗略的看了一下统计学习方法里面的介绍。写个心得。

首先，机器学习的常用方法，可以分为监督学习和无监督学习。

监督学习，可以认为是通常讲的分类方法。通过已有的训练样本（已知数据及对应输出结果）去训练得到一个最优模型，这个模型属于某个函数的集合，最优模型则表示在某个评价标准下是最佳的。有个这个模型，再利用这个模型将所有的输入映射为相应的输出，对输出的结果进行简单的分类。举个例子，我们通过幼年的学习知道的什么是狗什么猫。我们所见到的实物就是输入数据，而幼年的学习可以认为是监督学习里的最优模型，通过模型的计算和分析，再有新的实物映入眼帘时，我们也会知道哪些是狗，哪些是猫。而常用的监督学习的方法有KNN，SVM…

无监督学习（非监督学习），我们事先没有训练样本，需要首先对输入数据进行建模再得到一个最优模型。比如说，一个小朋友，他事先不认识长方形正方形圆形等形状。但是他会通过慢慢的观察，他发现长方形是对边等长，正方形是四边等长，圆形是像太阳一样的形状，那么他的思想里，会形成一种分类（长方形正方形圆形的类别）。而常用的无监督学习方法就是聚类了。

那么什么时候用监督学习什么时候用无监督学习呢？

如果我们在分类过程中又训练样本，那么可以用监督学习；如果没有训练样本，就要用无监督学习了。