文章分类 - 深度学习
摘要:交叉验证简介 交叉验证详解 机器学习中的交叉验证 为什么要用交叉验证
阅读全文
摘要:一、输入层到卷积层的前向传播过程 输入可以是任意维度的张量,过程的公式可表示成如下: $a^2= \sigma(z^2) = \sigma(a^1*W^2 +b^2)$ 其中,上标表示层数,星号表示卷积,b为偏倚,$\sigma$表示激活函数。 这里需要我们自定义的参数有: 1、卷积核,比如有k个,
阅读全文
摘要:CNN的结构: 卷积层和池化层可以灵活使用,卷积层和池化层后是全连接层。其中卷积层使用的激活函数是ReLU(x)$=max(0,x)$,全连接层就是DNN的结构,输出层使用了Softmax激活函数。 CNN中的卷积公式不是数学中严格意义上的卷积,CNN中一个二维的卷积公式为$s(i,j)=(X*W)
阅读全文
摘要:机器学习中的过拟合与规则化(解释了$L_0,L_1$ill-condition,和condition number)https://www.zhihu.com/question/35508851?sort=created L0范数是指向量中非0的元素的个数;L1范数是指向量中各个元素绝对值之和,也有
阅读全文
摘要:梯度下降小结 相关概念: 1、步长(Learning rate):步长决定了在梯度下降迭代的过程中,每一步沿梯度负方向前进的长度。 2、特征(feature):指的是样本中输入部分,比如样本($x_0,y_0$),($x_1,y_1$),则样本特征为x,样本输出为y。 3、假设函数(hypothes
阅读全文

浙公网安备 33010602011771号