05 2020 档案
摘要：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture10.pdf 1. 分类 one - many: one 可能是Image，输出的many可能是sequence of words many - one: 可以是情感分析 sequen
阅读全文
摘要：1.ResNet+Inception 有着最高的Accuracy 2.VGG最占内存，最多的操作数 3. GoogleNet最efficient ， 这里的效率怎么计算的? 4.AlexNet 最少的操作数，但内存大，accuracy低 5. Resnet 效率适中，accuracy最高 6. VG
阅读全文
摘要：ResNet 其他不带残差的网络（plain-CNN）中： 56层的网络比20层的网络，无论是trainning set 还是test set都要表现差 问题： 1) 优化问题，梯度在传播过程中出现梯度消失，或者梯度爆炸 2） weight_matrix_decay 1. Batch Normali
阅读全文
摘要：1. 22层神经网络，一层inception算两层 2. 使用了高效的inception结构 3.没有全连接层 4.只有5millon参数，比AlexNet的60M，VGG16的138M Inception Module 的好处： 解释1：在直观感觉上在多个尺度上同时进行卷积，能提取到不同尺度的特征
阅读全文
摘要：Conv层 Only 3x3 CONV stride 1, pad 1 and 2x2 MAX POOL stride 2，使得网络deeper,更多non-linearities，更少的parameters VGG16在forward计算中，对单个图片需要存储 96MB，有136Million的参
阅读全文
摘要：以VGG-16为例，对224x224x3的输入，最后一层卷积可得输出为7x7x512，如后层是一层含4096个神经元的FC，则可用卷积核为7x7x512x4096的全局卷积来实现这一全连接运算过程，其中该卷积核参数如下： “filter size = 7, padding = 0, stride =
阅读全文
摘要：AlexNet 结构： Conv，pooling，Normalization，Conv，pooling，Normalization，Conv，Conv，Conv，Pool，FC，FC，FC Conv层： 输入 227*227*3 ， 96个11*11*3的filter，步长=4，pad=4，边长 =
阅读全文
摘要：PyTorch的三个抽象层次 Tensor： 可以认为是 可以运行在GPU上的 numpy的array 通过 dtype = torch.cuda.FloatTensor x = torch.randn(N,D_in).type(dtype) 使得在GPU上运行。 Variable: Node in
阅读全文
摘要：trouble: 我们把w1,w2放在session里会面临，每一步我们都会copy weights 在CPU/GPU之间，这样会导致运行非常缓慢 所以把w1,w2放入graph里，避免这种copy 提问： 为什么不把输入与labels： x,y 也放入graph 答： 在实际中，输入是mini-b
阅读全文
摘要：选择使用深度学习框架的原因： 1. 随着网络的更加复杂，深度学习的计算图我们越来越难画出来了，框架能简单的画出来 2. 框架能帮助我们算梯度 3. 框架帮助我们合理利用GPU 我们不用考虑写cuda代码或者cuDNN cuBLAS 使用numpy写forward and backward: 1. 只
阅读全文
摘要：GPU vs CPU GPU： 核心数： GPU比CPU有更多的核，但是单个核运行很慢，它们之前其实是相互合作而不是单独运行，所以不能直接以cores to cores这样直接比较。 运行速率：优点是，因为有更多的核，所以在做并行任务，且本质相近的事务时，GPU的处理能力很棒 例如： 神经网络里的矩
阅读全文
摘要：思路： 1. 判断两个str是否是同样构成可以用 collections.Couter(str) 返回一个dict， 将这些dicts 放入一个专门取index的列表： [ dict1,dict2,dict3]等等 若已有相同元素形成的dict，则将其存入对应dict index的列表中 [['ab
阅读全文
摘要：思路： 矩阵的转置与翻转 1. 一想到转置就是 array.T 或者 array.transpose() ，没想到矩阵也可以直接用遍历翻转。 for i in range(len(matrix)): for j in range(i,len(matrix)): matrix[i][j],matrix
阅读全文
摘要：总结：优化是为了 improve the training_loss； Regularization/ Ensembling is improving the performance on the test data； Transfer learning 使得在样本量小的时候也可以使用CNN。 Re
阅读全文
摘要：总结: 0. 优化是为了 improve the training_loss； Regularization/ Ensembling is improving the performance on test data； Transfer learning 使得在样本量小的时候也可以使用CNN。 1.
阅读全文
摘要：昨天写的因为没有及时发布，又丢失了，现在重写一遍重点。 1. activation functions 1） 总结：一般都用ReLu，因为在x>0时，不会出现梯度消失 可以尝试Leakly ReLu ELU Maxout(参数加倍) tanh（0-centered） 不要用Sigmoid 2）Sig
阅读全文
摘要：SVM的优缺点（复习） https://blog.csdn.net/qq_38734403/article/details/80442535 https://blog.csdn.net/u012879957/article/details/82459315 https://www.cnblogs.c
阅读全文
摘要：值得再度好多遍：https://www.cnblogs.com/wj-1314/p/9593364.html 摘抄自‘ 战争热诚’ 的博文 权值共享： 下图左：如果我们有1000x1000像素的图像，有1百万个隐层神经元，那么他们全连接的话（每个隐层神经元都连接图像的每一个像素点），就有1000x1
阅读全文
摘要：1. 池化层 pooling 特征降维，减少过拟合 1) pooling的目的是 使得每一层smaller and more manageable ， 这是为了有更少的参数数量，来表示输入的这张图 2） 池化操作 只在平面上（actication map）操作，不在depth上操作，所以depth
阅读全文
摘要：slides见 http://cs231n.stanford.edu/2017/syllabus.html 1. 回顾全连接层 2. 卷积层： 能maintain数据的空间结构 1） fileterW在做点积的时候，5*5*3 被flatten 成 75*1 ，然后点积得到一个值 两个向量a = [
阅读全文
摘要：slides 见 http://cs231n.stanford.edu/2017/syllabus.html neural Networks 1） h 为 x W1 的 score matrix ，再作用于 max（0，）函数之后所得矩阵 2） assignment2 两层神经网络的 反向传播 3）
阅读全文
摘要：1. 输入 x W -> 算除 scores 2. 计算 该模型的LOSS = hinge loss + regularazation 3. backpropagation 1）用链式规则（chain rule） 求 local gradient 再乘以 upstrean gradient 得到总导
阅读全文
摘要：思路： 法1. 本题逆序BFS，从右到左记录每一个level的visited， 但是这样就用了O(n)的额外空间 法2. 官答 1) 左子节点永远指向右子节点 2）右子节点指向 None或者 父节点相邻节点的左子节点 if fatherNode.next: fatherNode.right.next
阅读全文
摘要：笔记内容来自up主莫烦https://www.bilibili.com/video/BV1Ex411L7oT?p=9 import pandas as pdimport numpy as np"""1. 创建连续时间字符串 pd.date_range(start,end,periods,freq)
阅读全文
摘要：笔记内容来自up主莫烦https://www.bilibili.com/video/BV1Ex411L7oT?p=9 import numpy as np"""1. 在numpy中 把一个变量指向a ，则变量为a 1） 在以下例子中 b,c,d 都是 a , a,b,c,d四个变量完全关联 a =
阅读全文
摘要：笔记内容来自up主莫烦https://www.bilibili.com/video/BV1Ex411L7oT?p=9import numpy as np"""[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]]1. 平均从行方向或者列方向 分割 1） 从行方向分成三个array
阅读全文
摘要：内容来源于up主莫烦的视频https://www.bilibili.com/video/BV1Ex411L7oT?p=9import numpy as np"""1.vstack，hstack 合并一维array至二维 1） c = np.vstack((a,b)) v 是 vertical 垂直方
阅读全文
摘要：本系列来自B站up主莫烦的视频 https://www.bilibili.com/video/BV1Ex411L7oT?p=7 import numpy as np"""[[ 3 4 5 6] [ 7 8 9 10] [11 12 13 14]]1. array 中的二维数组 可以像 list 一样
阅读全文
摘要：本系列来自B站up主莫烦的视频 https://www.bilibili.com/video/BV1Ex411L7oT?p=7 import numpy as np"""[[14 13 12 11] [10 9 8 7] [ 6 5 4 3]] 1. argmin,argmax 返回array中最大
阅读全文
摘要：本系列来自B站up主莫烦的视频 https://www.bilibili.com/video/BV1Ex411L7oT?p=7 import numpy as np"""1. 对矩阵进行布尔运算生成的是 相同shape的布尔值 b = np.arange(4) print(b<3) [ True T
阅读全文
摘要：本系列来自B站up主莫烦的视频 https://www.bilibili.com/video/BV1Ex411L7oT?p=7 import numpy as np"""新建array的五种方法：1. np.array() 中直接输入一维或多维List2. np.zeros（）中输入想要的shape
阅读全文
摘要：本系列来自B站up主莫烦的视频 https://www.bilibili.com/video/BV1Ex411L7oT?p=7 import numpy as np"""1. np.array() 方法新建矩阵 [[1 2 3] [2 3 4]]2. 访问矩阵的属性 np.shape np.ndim
阅读全文
摘要：https://www.bilibili.com/video/BV1TJ411d7b7?p=4 1.拿这张图像来说是由 800*600个像素组成，每个像素有RGB三色通道，由数字表示，取值【0，255】 2.挑战： 不同光线 illumination 不同姿势 deformation/pose 遮挡
阅读全文
摘要：时隔半年再次尝试这题，当时做的太复杂 二分法注意细节： 1. 左右端点初始化时，右端点记得-1 l,r = 0, len(nums)-1 2. 二分查找结束的判断条件，记得加等号 while l <= r: 3. mid 的 赋值 mid = l + (r-l)//2 或者 mid = (l+r)
阅读全文
摘要：思路： 1. 题目前半句 ’给定一个排序数组和一个目标值，在数组中找到目标值，并返回其索引‘ 就是最普通的二分法 2. 主要是后半句 ’如果目标值不存在于数组中，返回它将会被按顺序插入的位置‘，不存在目标值的时候，返回值存在两种情况 返回值是4时，目标值可能是 3 或者 5 1） 目标值是3的时候：
阅读全文
摘要：本题解法照抄王尼玛的解答 https://leetcode-cn.com/problems/find-first-and-last-position-of-element-in-sorted-array/solution/duo-tu-yan-shi-34-zai-pai-xu-shu-zu-zho
阅读全文
摘要：LOSS FUNCTION AND OPLIZATION （来源网易公开课-斯坦福大学 CV课程） LOSS FUNCTION： 1.W中的每一行都是 某一类的像素值的权重/分类模板，说明对应像素(3072*1)对该类别（猫，狗，汽车）的影响。 2. 而判断权重矩阵（weight matrix）的好
阅读全文
摘要：昨天写的笔记全没了，重新简单的写下。 https://www.bilibili.com/video/BV1TJ411d7b7?p=6 预备知识： 将一张800*600像素的图片举例，其组成为 800*600*3的三维数组，RGB三色通道，每个元素都属于[ 0, 255] 目标：辨别图片 def tr
阅读全文
摘要：思路： 1. 暴力法加些限制条件 1） row<3 or col<3 2) matrix[ i ][ j ] > target: break 3) matirx[ i ][ 0 ] > target: return False 2. 二分法(binary_search) : 1） 判断循环进行条件：
阅读全文
摘要：思路： 1. 题意： 将‘O’替换为‘X’ 即 if board[ i ][ j ] == 'O' : board[ i ][ j ] == 'X', 但是一旦该元素与四条边相连就保持‘O’ 2. 所以本题只需要先排除与四条边相连的岛屿，题目就转换为刚做的 200.岛屿数量。 3. 先遍历四条边，将
阅读全文
摘要：思路： 深度遍历 1.第一层main函数里 两层循环找 grid[x][y] == '1' 的点 res += 1 2.递归函数里，把与该点四个方向相邻的，值为‘1’的点全部标0 标0方法： 对坐标(x,y)四个方向中 值 == ‘1’ 的赋0 再递归。 注意： 1. 对于二维数组，判空要用 if
阅读全文
摘要：https://www.cnblogs.com/jpfss/p/10973806.html
阅读全文
摘要：感谢大神的资源： https://blog.csdn.net/qq1773304209/article/details/105856782 解压之后的详细步骤： https://www.cnblogs.com/ljxh/p/11222898.html 我也是一个资源整合者了 lmao
阅读全文
摘要：https://leetcode-cn.com/problems/find-the-duplicate-number/ 简单思路： 1. return sum( nums ) - n*(n+1)/2 2. set() if num in set: return num 用set 3. nums.so
阅读全文
摘要：本题为leetcode 207 210题 思路： 1.本题求课程学习路径，即 9021 -> 9024 -> 9417 这种顺序 2.观察可知 课程学习路劲为有向图， 如果无环则可输出，有环则返回False 方法： 1. 遍历所有二元对，确定0 - n-1门课程的入度 2. 顺便将所有课程的进阶课程
阅读全文
浙公网安备 33010602011771号