Follow me on GitHub

随笔分类 - Deep Learning

摘要:本文转载自:https://blog.csdn.net/xiaosongshine/article/details/90600028 一、Self-Attention概念详解 对于self-attention来讲,Q(Query), K(Key), V(Value)三个矩阵均来自同一输入,首先我们要 阅读全文
posted @ 2019-08-13 20:50 SiyuanChen 阅读(4946) 评论(0) 推荐(0) 编辑
摘要:Conv1d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True) filters:卷积核的数目(即输出的维度) kernel_size:整数或由单个整数构成的list/tuple 阅读全文
posted @ 2019-07-30 03:36 SiyuanChen 阅读(27734) 评论(0) 推荐(0) 编辑
摘要:1. 背景 在深度学习的任务中,通常需要比较长时间的训练,因此我们会选择离开电脑。笔者在跟踪模型表现, 观察模型accuracy 以及 loss 的时候,比较传统的方法是在控制台print输出或者直接使用tensorboard。 但如果是你需要远程观察模型表现,那一个时刻记录的log 文件就非常重要 阅读全文
posted @ 2019-05-18 20:22 SiyuanChen 阅读(2712) 评论(0) 推荐(0) 编辑
摘要:Torch.nn.Conv2d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True) in_channels:输入维度 out_channels:输出维度 kernel_size: 阅读全文
posted @ 2019-05-04 20:24 SiyuanChen 阅读(31843) 评论(0) 推荐(0) 编辑
摘要:1.1 简介 计算机视觉中,我们需要观察我们的神经网络输出是否合理。因此就需要进行可视化的操作。 orchvision是独立于pytorch的关于图像操作的一些方便工具库。 torchvision的详细介绍在:https://pypi.org/project/torchvision/0.1.8/ 这 阅读全文
posted @ 2019-04-14 00:07 SiyuanChen 阅读(2118) 评论(0) 推荐(0) 编辑
摘要:1.1 简介 深层神经网络一般都需要大量的训练数据才能获得比较理想的结果。在数据量有限的情况下,可以通过数据增强(Data Augmentation)来增加训练样本的多样性, 提高模型鲁棒性,避免过拟合。 在计算机视觉中,典型的数据增强方法有翻转(Flip),旋转(Rotat ),缩放(Scale) 阅读全文
posted @ 2019-04-10 22:24 SiyuanChen 阅读(10604) 评论(5) 推荐(0) 编辑