第一章 深度学习导论
- 整个花书的思维导图:
机器学习:让计算机使用算法从数据中提取模式和特征。
注解:
- 分类:如给一张图片,判别里面都有什么东西。预测一个离散的类别。
- 回归:如根据面积和地段做房价预测。如预测股票价格。预测一个连续的值。
- 聚类:按照数据的自相似性,把数据聚类成不同的簇。
- 降维:把高维数据降到低维,特别是降到人类能理解的3维或者2维,然后看它的分布。
做分类的算法:
深度学习:用深度神经网络来解决机器学习问题。
下图是卷积神经网络进行图像分类的一个案例。
注解:
- 把像素信息变为语义信息。
- 深度学习和机器学习的关系:
深度学习是要解决机器学习问题,所以机器学习包含深度学习,深度学习的圈是在机器学习的大圈儿里面的。
逻辑回归是一个二分类问题,用sigmoid函数去映射,大于0.5分为一类,小于0.5分为另一类。
MLPs:多层感知器也叫做前馈神经网络,也叫做全连接神经网络。
现代的深度学习和以前的深度学习的区别:卷积神经网络可以从(图像)数据中自动提取特征,不需要人工设计特征。
- 深度学习用词的演变:
蓝色线:控制论
绿色线:联结主义,后期叫做神经网络、深度学习
- 数据:
Hinton称MNIST数据集[10分类手写数字数据集]是深度学习领域科学家做深度学习实验的果蝇载体。(在生物领域,道尔顿用果蝇做遗传学实验。)
有两个重要的节点是2012年和二零一五年,2012年AlexNet的作者首先将卷积神经网络应用于图像分类里面,相比于去年的进展是飞跃性的。2015年,微软亚洲研究院的研究员何凯明、任少卿、孙剑提出的深度残差网络对图像的分类识别准确率首次超越人类。到了2017年,李飞飞认为图像分类问题已经解决了,所以Imagenet图像分类竞赛比赛杀青。