12 2022 档案
关于正向传播、反向传播、梯度爆炸、梯度消失的理解
摘要:假设有这样一个神经网络,包含一个输入层I,一个隐藏层H,一个输出层O 其中,输入层包含两个神经元,分别为i1和i2;隐藏层有两个神经元,分别为h1和h2;输出层有两个神经元,分别为o1和o2。 输入层到隐藏层的权重为w1、w2、w3和w4,偏置为b1;隐藏层到输出层的权重为w5、w6、w7和w8,偏 阅读全文
posted @ 2022-12-29 22:20 yc-limitless 阅读(1105) 评论(0) 推荐(1)
对深度学习中全连接层、卷积层、感受野、1×1卷积、池化层、softmax层、全局平均池化的一些理解
摘要:1、全连接层 在卷积神经网络中,在多个卷积层和池化层后,连接着1个或1个以上的全连接层,全连接层把卷积层和池化层提取出来的所有局部特征重新通过权值矩阵组装成一个完整的图,因为用到了所有的局部特征,所以叫全连接。全连接层会将输入映射到一个高维空间,以便于模型能够学习到输入之间的复杂关系。 卷积层构成了 阅读全文
posted @ 2022-12-02 16:50 yc-limitless 阅读(6416) 评论(0) 推荐(1)
深度学习模型中参数量的计算
摘要:1、什么是参数量 参数量就相当于之前的空间复杂度。 2、如何计算参数量 对于卷积层,参数量为: (kernel*kernel) *channel_input*channel_output kernel*kernel 就是 weight * weight 其中kernel*kernel = 1个fea 阅读全文
posted @ 2022-12-02 15:25 yc-limitless 阅读(1132) 评论(0) 推荐(0)
为什么要在感知机中后引入激活函数
摘要:结论:激活函数可以为线性模型引入非线性因素,从而解决了线性模型难以解决的分类问题。 举例说明: 设计一个感知机分类器将下面的三角和圆分开。 考虑以下几种方法: (1)单层感知机。 单层感知机表达式为,它可以划出一条直线把平面分开。对于输入样本(x1,x2),如果y>0,则是正类,如果y<0,则是负类 阅读全文
posted @ 2022-12-02 11:02 yc-limitless 阅读(421) 评论(0) 推荐(0)