摘要: 首先不妨假设最简单的一种情况: 假设$G$和$D$的损失函数: 那么计算梯度有: 第一种正确的方式: import torch from torch import nn def set_requires_grad(net: nn.Module, mode=True): for p in net.pa 阅读全文
posted @ 2021-08-09 03:17 Dilthey 阅读(1313) 评论(0) 推荐(0) 编辑
摘要: 题目: 输入一个字符串,打印出该字符串中字符的所有排列。 你可以以任意顺序返回这个字符串数组,但里面不能有重复元素。 思路: 一个很直观的思路,对于任意一个字符串,例如"abcde",我首先枚举选定首字符,例如先选定了首字符是"a",那剩下部分的怎么permutation的事情就交给函数permut 阅读全文
posted @ 2021-06-22 17:33 Dilthey 阅读(61) 评论(0) 推荐(0) 编辑
摘要: 蛮有意思的一个关于二进制的题,建立在plus和xor的关系上的题, 由于 $A = X + Y, B = X \; \mathrm{xor} \; Y$,那么 $A = B + ((X \; \mathrm{and} \; Y) << 1)$。 因此 $X \; \mathrm{and} \; Y 阅读全文
posted @ 2021-05-26 01:26 Dilthey 阅读(99) 评论(0) 推荐(0) 编辑
摘要: 参考《ML Lecture 7: Backpropagation》: 假设一个比较简单的网络结构如下: 我们取其中一部分做详细的分析: 对于一个输入 ${x_1, x_2}$,它能计算出对应的 loss $C(x;\theta)$,我们如果想要更新参数 $\theta = \{w_1, w_2, \ 阅读全文
posted @ 2020-02-29 23:29 Dilthey 阅读(223) 评论(0) 推荐(0) 编辑
摘要: VGG 主要有两种结构,分别是 VGG16 和 VGG19,两者并没有本质上的区别,只是网络深度不一样。 对于给定的感受野,采用堆积的小卷积核是优于采用大的卷积核的,因为多层非线性层可以增加网络深度来保证学习更复杂的模式,而且代价还比较小(参数更少)。 比如,三个步长为 $1$ 的 $3 \time 阅读全文
posted @ 2020-02-28 13:31 Dilthey 阅读(4891) 评论(0) 推荐(0) 编辑
摘要: 关于该类: torch.nn.Linear(in_features, out_features, bias=True) 可以对输入数据进行线性变换: $y = x A^T + b$ in_features: 输入数据的大小。 out_features: 输出数据的大小。 bias: 是否添加一个可学 阅读全文
posted @ 2020-02-28 11:40 Dilthey 阅读(4781) 评论(0) 推荐(0) 编辑
摘要: 先看函数参数: torch.flatten(input, start_dim=0, end_dim=-1) input: 一个 tensor,即要被“推平”的 tensor。 start_dim: “推平”的起始维度。 end_dim: “推平”的结束维度。 首先如果按照 start_dim 和 e 阅读全文
posted @ 2020-02-28 11:01 Dilthey 阅读(28324) 评论(0) 推荐(9) 编辑
摘要: 先看一下CLASS有哪些参数: torch.nn.Conv2d( in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros' ) 阅读全文
posted @ 2020-02-24 21:51 Dilthey 阅读(2028) 评论(0) 推荐(2) 编辑
摘要: 参考自《Pytorch autograd,backward详解》: 1 Tensor Pytorch中所有的计算其实都可以回归到Tensor上,所以有必要重新认识一下Tensor。 如果我们需要计算某个Tensor的导数,那么我们需要设置其.requires_grad属性为True。为方便说明,在本 阅读全文
posted @ 2020-02-24 20:29 Dilthey 阅读(1586) 评论(0) 推荐(0) 编辑
摘要: 先看一下它的参数: norm(p='fro', dim=None, keepdim=False, dtype=None) p: the order of norm. 一般来说指定 $p = 1, 2$ 等值表示 $(\sum_{i} \left | x_i \right |^{p})^{(1/p)} 阅读全文
posted @ 2020-02-24 20:28 Dilthey 阅读(2443) 评论(0) 推荐(0) 编辑
摘要: 这篇笔记基于上一篇《关于GAN的一些笔记》。 1 GAN的缺陷 由于 $P_G$ 和 $P_{data}$ 它们实际上是 high-dim space 中的 low-dim manifold,因此 $P_G$ 和 $P_{data}$ 之间几乎是没有重叠的 正如我们之前说的,如果两个分布 $P,Q$ 阅读全文
posted @ 2020-02-22 19:19 Dilthey 阅读(1235) 评论(0) 推荐(0) 编辑
摘要: 目录 1 Divergence 1.1 Kullback–Leibler divergence 1.2 Jensen–Shannon divergence 1.3 Wasserstein distance 2 GAN 2.1 Theory 2.2 Algorithm Objective functi 阅读全文
posted @ 2020-02-20 19:04 Dilthey 阅读(1003) 评论(0) 推荐(0) 编辑
摘要: 《No-Reference Image Quality Assessment in the Spatial Domain》,BRISQUE。 1. 广义高斯分布,generalized Gaussian distribution,GGD 1.1 描述 零均值的广义高斯分布如下: 其中 而 Γ(·) 阅读全文
posted @ 2020-02-16 00:21 Dilthey 阅读(4050) 评论(0) 推荐(0) 编辑
摘要: 最近正在阅读CVPR2019的论文Deep High-Resolution Representation Learning for Human Pose Estimation。 无奈看论文中的Network instantiation部分太过简略,在网上也没有搜索到一个非常清晰的图示。 我阅读这篇论 阅读全文
posted @ 2019-07-14 03:10 Dilthey 阅读(9628) 评论(7) 推荐(5) 编辑
摘要: 进程调度(时间片轮转,动态优先级,链表形式): 作业调度(FCFS调度): 作业调度(SJF调度): 作业调度(HRRN调度): 阅读全文
posted @ 2019-05-03 13:21 Dilthey 阅读(1225) 评论(2) 推荐(1) 编辑
摘要: 题目链接:https://codeforces.com/contest/1133/problem/C 题意: 给出 $n$ 个数,选取其中若干个数分别组成 $k$ 组,要求每组内最大值与最小值的差值不超过5,求 $k$ 组合起来最多可以放多少个数。 题解: 将 $a[1 \sim n]$ 从小到大排 阅读全文
posted @ 2019-05-03 10:47 Dilthey 阅读(437) 评论(0) 推荐(0) 编辑
摘要: 题目链接:https://codeforces.com/problemset/problem/567/D 题意: 在一个 $1 \times n$ 的网格上,初始摆放着 $k$ 只船,每只船的长度均为 $a$ 个格子,已知所有船之间均不重叠、不触碰。 现在Bob每次询问Alice第 $i$ 个格子上 阅读全文
posted @ 2019-05-02 11:20 Dilthey 阅读(319) 评论(0) 推荐(0) 编辑
摘要: 题目链接:https://codeforces.com/problemset/problem/567/C 题意: 给出长度为 $n$ 的序列 $a[1:n]$,给出公比 $k$,要求你个给出该序列中,长度为 $3$ 的等比子序列的数目。 题解: 首先倒着遍历,用map记录曾经出现过的每个数字的出现次 阅读全文
posted @ 2019-05-02 10:55 Dilthey 阅读(231) 评论(0) 推荐(0) 编辑
摘要: 编写一个高效的算法来搜索 m x n 矩阵 matrix 中的一个目标值 target。该矩阵具有以下特性: 每行的元素从左到右升序排列。每列的元素从上到下升序排列。示例: 现有矩阵 matrix 如下: [ [1, 4, 7, 11, 15], [2, 5, 8, 12, 19], [3, 6, 阅读全文
posted @ 2019-04-26 21:09 Dilthey 阅读(372) 评论(0) 推荐(0) 编辑
摘要: 汽车从起点出发驶向目的地,该目的地位于出发位置东面 target 英里处。 沿途有加油站,每个 station[i] 代表一个加油站,它位于出发位置东面 station[i][0] 英里处,并且有 station[i][1] 升汽油。 假设汽车油箱的容量是无限的,其中最初有 startFuel 升燃 阅读全文
posted @ 2019-04-26 19:35 Dilthey 阅读(392) 评论(0) 推荐(0) 编辑
摘要: 假定 $f[n]$ 表示有 $n$ 个节点的二叉树,有多少种不同结构。 因此 $f[n] = \sum_{i=0}^{n-1} (f[i] \times f[n-1-i])$,选一个节点作为根节点,那么剩下的 $n-1$ 个节点,分配到两棵子树。 AC代码: 阅读全文
posted @ 2019-04-26 17:52 Dilthey 阅读(455) 评论(0) 推荐(0) 编辑
摘要: 假设你正在爬楼梯。需要 n 阶你才能到达楼顶。 每次你可以爬 1 或 2 个台阶。你有多少种不同的方法可以爬到楼顶呢? 注意:给定 n 是一个正整数。 示例 1: 输入: 2输出: 2解释: 有两种方法可以爬到楼顶。1. 1 阶 + 1 阶2. 2 阶 示例 2: 输入: 3输出: 3解释: 有三种 阅读全文
posted @ 2019-04-26 17:35 Dilthey 阅读(285) 评论(0) 推荐(0) 编辑
摘要: 假设按照升序排序的数组在预先未知的某个点上进行了旋转。 ( 例如,数组 [0,0,1,2,2,5,6] 可能变为 [2,5,6,0,0,1,2] )。 编写一个函数来判断给定的目标值是否存在于数组中。若存在返回 true,否则返回 false。 示例 1: 输入: nums = [2,5,6,0,0 阅读全文
posted @ 2019-04-26 17:10 Dilthey 阅读(230) 评论(0) 推荐(0) 编辑
摘要: 假设按照升序排序的数组在预先未知的某个点上进行了旋转。 ( 例如,数组 [0,1,2,4,5,6,7] 可能变为 [4,5,6,7,0,1,2] )。 搜索一个给定的目标值,如果数组中存在这个目标值,则返回它的索引,否则返回 -1 。 你可以假设数组中不存在重复的元素。 你的算法时间复杂度必须是 O 阅读全文
posted @ 2019-04-26 12:48 Dilthey 阅读(547) 评论(0) 推荐(0) 编辑
摘要: 给定一组不含重复元素的整数数组 nums,返回该数组所有可能的子集(幂集)。 说明:解集不能包含重复的子集。 示例: 输入: nums = [1,2,3]输出:[ [3], [1], [2], [1,2,3], [1,3], [2,3], [1,2], []] 阅读全文
posted @ 2019-04-25 09:42 Dilthey 阅读(108) 评论(0) 推荐(0) 编辑