摘要: 自编码器可以用于降维,添加噪音学习也可以获得去噪的效果。 以下使用单隐层训练mnist数据集,并且共享了对称的权重参数。 模型本身不难,调试的过程中有几个需要注意的地方: 模型对权重参数初始值敏感,所以这里对权重参数w做了一些限制 需要对数据标准化 学习率设置合理(Adam,0.001) 1,建立模 阅读全文
posted @ 2019-11-17 17:37 我的锅 阅读(1452) 评论(3) 推荐(0)
摘要: 1,卷积作用:减少参数(卷积核参数共享),卷积过程中不断对上一个输出进行抽象,由局部特征归纳为全局特征(不同卷积层可视化可以观察到这点) 2,卷积核 早期卷积核由人工总结,如图像处理中有: 深度神经网络中,卷积核则由网络训练过程中学习获得。 3, 神经网络中的卷积类型 Group convoluti 阅读全文
posted @ 2019-11-17 15:07 我的锅 阅读(681) 评论(0) 推荐(0)