摘要： 1. t.Tensor 和t.tensor的不同 t.Tensor(size)可以直接创建形为size的张量 t.tensor()需要t.tensor([1, 2])创建. 不论输入的类型是什么，t.tensor都会进行数据拷贝，不会共享内存 2. resize()和view()的不同 resize 阅读全文

摘要： 1.这篇论文的主要假设是什么？（在什么情况下是有效的），这假设在现实中有多容易成立 LR图像是HR图像经过模糊（低通滤波器），下采样，加噪处理后的图像。 2.在这些假设下，这篇论文有什么好处3.这些好处主要表现在哪些公式的哪些项目的简化上。4.这一派的主要缺点有哪些 1.神经网络的计算速度却决于输入 阅读全文

摘要： 阅读他人的代码能够帮助你学习编程。类似的，研究他人开训练出的实例，有助于你构建自己的CNN。 １．classicla network 1.1 LeNet-5 n_H,n_W在减小，n_C在增加 一个或多个卷积层后边跟一个池化层 阅读论文：只需精读第二段 1.2 AlexNet 论文：任务被分到了两个 阅读全文

摘要： 1. 边缘检测 2. Padding 为了解决两个问题： 1.输出缩小。卷积操作后图像由(n,n)变成了(n-f+1,n-f+1) 2.丢失图像边缘的大部分信息 在卷积操作前对图像边缘进行填充，填充p个像素点。则填充并进行卷积后图像尺寸为(n+2p-f+1, n+2p-f+1) 选择填充size：v 阅读全文

摘要： 1.正交化 通过电视机调节按钮的例子理解正交化。电视机的调节按钮有诸如调节图像高度、左右、旋转、大小等不同功能，而我们往往希望每一个按钮只控制一个功能，而这个按钮尽量不会影响到其他属性，这样更容易往我们想要的方向调节。 early stopping这一旋钮，会导致对训练集拟合不够，但又能使得在开发集 阅读全文

摘要： 1.调试 1.1 超参数调试重要性顺序： 1. $\alpha$ 2.$\beta$, hidden units, mini-batch size 3.layers, learning rate decay 其他：若采用adam，则直接设定$\beta_{1}=0.9, \beta_{2}=0.99 阅读全文

摘要： 1. mini-batch梯度下降法 size=m：退化为batch，当训练样本过多时，单次迭代需要处理过多的训练样本 size=1：随机梯度下降法，产生大量噪声（但通过减小学习率，噪声可以减少），缺点是失去了向量化带来的加速。 使用mini-size，每次遍历所有样本时，可以进行m/size次梯度 阅读全文

摘要： 1. 训练集，验证集，测试集 当数据量较小时，可以分别占60%, 20%, 20%，当数据集规模很大时，验证集和测试集所占比例可以很小。 2.偏差和方差 2.1判断 我们可以根据训练集误差，判断数据拟合情况，判断是否有偏差问题。之后根据验证集误差，判断方差是否过高。 2.2 解决 针对高偏差（欠拟合 阅读全文

摘要： 先放两个链接 https://www.zhihu.com/question/27239198/answer/89853077 https://www.cnblogs.com/charlotte77/p/5629865.html 参数的展开 在使用高级优化方法训练神经网络模型时(fminunc)，需要 阅读全文

摘要： 1.设置国内源 2.安装chrome https://www.cnblogs.com/tcppdu/p/10051675.html 3.安装搜狗输入法 https://www.cnblogs.com/zhuangmingnan/p/9496499.html 4.删除自带垃圾 5.安装matlab h 阅读全文