随笔分类 - 深度学习
摘要:1.简介 优点: 编程简单,类似Numpy 只需要设置前向传播,反向传播过程梯度自动计算 动态图,方便调试 2.基本组成元素 Tensor:基本数据单元,多维数组(data) Vairable:等同于带梯度的Tensor(data + grad + creator),高版本中与tenesor合并 n
阅读全文
摘要:1. 模型与风险 2. 损失函数 3. 偏差与方差 偏差小,模型与最幽默型之间的差距就越小,即model拟合能力强 方差大,代表模型对不同数据集的分布学习的越好(过拟合),导致不同数据集训练出来的模型与模型的平均期望差距越大 通过正则项系数λ来控制偏差与方差之间的平衡 4. 评价指标 数据集划分:
阅读全文
摘要:1. 卷积神经网络是通过什么方式来完成可训练参数的减少? 1)卷积层(局部感受野+权值共享) 2)采样层(逐渐降低分辨率) 2. 原始图像大小变化怎样影响模型可训练参数个数? 参数个数:首先卷积层和池化层不会受到影响,全连接层受到影响 计算数目:受到影响 3. img2col 将图像中的感受野编码成
阅读全文
摘要:1、感知机 误分类驱动 跟新w,b,直至没有误分类点 感知机算法: 总结:不同的初值,选取的误分类点不同,解都存在。存在很多个解,只需要能将两类分开就行。 2、多层神经网络为什么可以拟合任意函数?其与浅层宽网络的区别是什么? 门函数 通用近似定理,理论上,一个包含足够多隐藏神经元的多层前馈网络,能以
阅读全文

浙公网安备 33010602011771号