机器学习知识点01-监督学习与非监督学习

      从这篇随笔开始是观看斯坦福大学（吴恩达）机器学习课程，个人觉得课程讲的非常棒，也很容易理解，特此总结知识点笔记。笔记如下：

       

 

      我们应用学习算法，可以在这组数据中画一条直线，或者换句话说，拟合一条直线，根 据这条线我们可以推测出，这套房子可能卖$150, 000，当然这不是唯一的算法。可能还有更 好的，比如我们不用直线拟合这些数据，用二次方程去拟合可能效果会更好。根据二次方程 的曲线，我们可以从这个点推测出，这套房子能卖接近$200, 000。稍后我们将讨论如何选择 学习算法，如何决定用直线还是二次方程来拟合。两个方案中有一个能让你朋友的房子出售 得更合理。这些都是学习算法里面很好的例子。以上就是监督学习的例子。

      可以看出，监督学习指的就是我们给学习算法一个数据集。这个数据集由“正确答案” 组成。在房价的例子中，我们给了一系列房子的数据，我们给定数据集中每个样本的正确价 格，即它们实际的售价然后运用学习算法，算出更多的正确答案。比如你朋友那个新房子的价格。用术语来讲，这叫做回归问题。我们试着推测出一个连续值的结果，即房子的价格。 一般房子的价格会记到美分，所以房价实际上是一系列离散的值，但是我们通常又把房价看 成实数，看成是标量，所以又把它看成一个连续的数值。

      回归这个词的意思是，我们在试着推测出这一系列连续值属性。

     让我们来看一组数据:这个数据集中，横轴表示肿瘤的大小，纵轴上，我标出 1 和 0 表 示是或者不是恶性肿瘤。我们之前见过的肿瘤，如果是恶性则记为 1 ，不是恶性，或者说良 性记为 0。

我有 5 个良性肿瘤样本，在 1 的位置有 5 个恶性肿瘤样本。现在我们有一个朋友很不幸 检查出乳腺肿瘤。假设说她的肿瘤大概这么大，那么机器学习的问题就在于，你能否估算出肿瘤是恶性的或是良性的概率。用术语来讲，这是一个分类问题。

     分类指的是，我们试着推测出离散的输出值:0 或 1 良性或恶性，而事实上在分类问题 中，输出可能不止两个值。比如说可能有三种乳腺癌，所以你希望预测离散输出 0、1、2、 3。0 代表良性，1 表示第一类乳腺癌，2 表示第二类癌症，3 表示第三类，但这也是分类问题。

     总结一下，其基本思想是，我们数据集中的每个样 本都有相应的“正确答案”（或者说人工给数据集标记标签），再根据这些样本作出预测，就像房子和肿瘤的例子中做的那样的学习算法叫做监督学习； 还介绍了回归问题，即通过回归来推出一个连续的输出，之后我们介绍了分类问题，其目标是推出一组离散的结果。

 

 

     我们将介绍第二种主要的机器学习问题。叫做无监督学习。

     

 

     已经介绍了监督学习。回想当时的数据集，这个数据集中每 条数据都已经标明是阴性或阳性，即是良性或恶性肿瘤。所以，对于监督学习里的每条数据， 我们已经清楚地知道，训练集对应的正确答案，是良性或恶性了。在无监督学习中，我们已知的数据。看上去有点不一样，不同于监督学习的数据的样子， 即无监督学习中没有任何的标签或者是有相同的标签或者就是没标签。所以我们已知数据集，却不知如何处理，也未告知每个数据点是什么。别的都不知道，就是一个数据集。你能 从数据中找到某种结构吗?针对数据集，无监督学习就能判断出数据有两个不同的聚集簇。 这是一个，那是另一个，二者不同。是的，无监督学习算法可能会把这些数据分成两个不同的簇。所以叫做聚类算法。事实证明，它能被用在很多地方。

    聚类应用的一个例子就是在谷歌新闻中。如果你以前从来没见过它，你可以到这个 URL 网址 news.google.com 去看看。谷歌新闻每天都在，收集非常多，非常多的网络的新闻内容。 它再将这些新闻分组，组成有关联的新闻。所以谷歌新闻做的就是搜索非常多的新闻事件， 自动地把它们聚类到一起。所以，这些新闻事件全是同一主题的，所以显示到一起。事实证明，聚类算法和无监督学习算法同样还用在很多其它的问题上。其中就有基因学的理解应用。一个 DNA 微观数据的例子。基本思想是输入一组不同个体，对其中的每个个体，你要分析出它们是否有一个特定的基因。技术上，你要分析多少特 定基因已经表达。所以这些颜色，红，绿，灰等等颜色，这些颜色展示了相应的程度，即不同的个体是否有着一个特定的基因。你能做的就是运行一个聚类算法，把个体聚类到不同的类或不同类型的组(人)......所以这个就是无监督学习，因为我们没有提前告知算法一些信息，比如，这是第一类的 人，那些是第二类的人，还有第三类，等等。我们只是说，是的，这是有一堆数据。我不知 道数据里面有什么。我不知道谁是什么类型。我甚至不知道人们有哪些不同的类型，这些类型又是什么。但你能自动地找到数据中的结构吗?就是说你要自动地聚类那些个体到各个 类，我没法提前知道哪些是哪些。因为我们没有给算法正确答案来回应数据集中的数据，所以这就是无监督学习。

      我们介绍了无监督学习，它是学习策略，交给算法大量的数据，并让算法为我们从数据中找出某种结构。希望你们还记得垃圾邮件问题。如果你有标记好的数据，区别好是垃圾还是非垃圾邮件，我们把这个当作监督学习问题。新闻事件分类的例子就是那个谷歌新闻的例子，可以用一个聚类算法来聚类这些文章到一起，所以是无监督学习。 。