随笔分类 -  深度学习随笔

记录一些深度学习相关的笔记
摘要:记录几种模型构造的方法: 继承 类来构造模型 是所有神经网络模块的基类,通过继承它来得到我们需要的模型,通常我们需要重载 类的 函数和 函数。 实例 利用 的子类 在Pytorch中实现了继承自 的可以方便构造模型的类,有 、`ModuleList ModuleDict`等 使用 当模型的前向计算为 阅读全文
posted @ 2019-11-20 11:47 patrolli 阅读(229) 评论(0) 推荐(0)
摘要:torchvision 包服务于PyTorch框架,包括了计算机视觉中一些流行的 数据集 、 网络模型 以及常见的 图片变换方法 ,主要由以下几部分构成: : 一些加载数据的函数和常用的数据集接口 :包含常用的模型结构(含预训练模型) :常见的图片变换,如裁剪、旋转等 :其它一些有用的方法 利用 接 阅读全文
posted @ 2019-11-16 00:05 patrolli 阅读(645) 评论(0) 推荐(0)
摘要:`DataLoader DataLoader`就是干这事儿的。 先看官方文档的描述,包括了每个参数的定义: 它的本质是一个可迭代对象,一般的操作是: 1. 创建一个 对象 2. 创建一个 对象 3. 遍历这个 对象,将 , 加载到模型中进行训练 还有更多的细节,但现在还没有遇到,所以先记下这部分。 阅读全文
posted @ 2019-11-15 23:26 patrolli 阅读(2859) 评论(0) 推荐(0)
摘要:1. 运算: $\hat{y_1}, \hat{y_2}, \hat{y_3}=softmax(o_1,o_2,o_3)$ 其中: $\hat{y_1}=\dfrac{exp(o_1)}{\sum_{i=1}^{3}exp(o_i)}, \hat{y_2}=\dfrac{exp(o_2)}{\sum 阅读全文
posted @ 2019-11-12 21:13 patrolli 阅读(204) 评论(0) 推荐(0)
摘要:sigmoid 求导: 改变arrays的形状: 两个常用的函数: np.shape() 、 np.reshape() normalizing rows: It often leads to a better performance because gradient descent coverges 阅读全文
posted @ 2019-08-07 16:54 patrolli 阅读(579) 评论(0) 推荐(0)