最爱丁珰

摘要： 深度神经网络的工作模式见上，浅层的神经元在找一些很简单的特征（因为接触的是最原始的数据，所以相当于在浓缩），比如边缘检测（哪里有一条边），深层的神经元就是把浅层的神经元的浓缩数据合起来（不同的边结合起来就可以变成一个眼睛鼻子等等） 再举一个语音识别的例子。当神经网络拿到一个音频的时候，浅层的神经元在 阅读全文

摘要： 看到一大堆NaN了就是梯度爆炸了 式\((8.25)\)的\(g\)是所有层的梯度，这个式子的意思就是说如果\(g\)的长度太长，我们就把他拉回来 阅读全文

摘要： 比较简单的贪心 首先按照\(t_1,t_2\)中连续的\(1\)将其分成若干段。以样例为例，\(t_1=111010\)，那么第一段是\(s_1[1\sim3]\)，第二段是\(s_1[5]\)；\(t_2=101101\)，那么第三段是\(s_2[1]\)，第四段是\(s_2[3\sim4]\)， 阅读全文

摘要： 考虑一下正确性：在递归树上任意一点，任意一个查询操作，所有对其的影响一定会计入到树状数组中。分情况讨论。对于最开始的初始化操作，所有在\([L,R]\)的操作肯定都在当前操作序列的最前面。对于后面的修改操作，如果是\(-1\)标记，那么其对应的添加操作一定也在当前操作序列里面，而且在这个\(-1\) 阅读全文

摘要： y.backward(torch.ones_like(x))这行代码，之所以要给backward()函数传参数，是因为现在y是一个张量了，不能直接backward().参数的意义：假设参数w是一个参量，那么由于y是一个向量，x也是一个向量，所以 \[\frac{\partial y}{\partia 阅读全文

摘要： 其实一般的正则化项都是软限制，我们也可以硬限制，如下 但是硬限制是不好优化的，实际上，软限制与硬限制是等价的 书上式\((4.13)\)，如果是多层感知机，将\(\frac{\lambda}{2}||w||^2\)变成\(\frac{\lambda}{2m}\sum||w||^2_F\)即可（\(| 阅读全文

摘要： 以一道题目引入：给定一个长度为\(n\)的数列\(A\)，要求查询其中的第\(k\)小数 暴力做法：找出最小的数，将其删除；找出次小的数，将其删除；以此类推。时间复杂度\(O(kn)\) 直观做法：利用排序做法将其排序，然后直接输出第\(k\)个数。时间复杂度\(O(n\log n)\) 二分做法： 阅读全文

摘要： 医学诊断那个例子是说，我们从健康的老年男性上收集血液是很难的，所以我们只能从大学生上面收集血液，但是大学生跟老年人差别太大了，训练数据的总体是大学生，实际应用的时候我们一般只对老年人进行检测，也就是说这里特征改变了，所以发生了协变量偏移 阅读全文

摘要： 这个图的横坐标是\(y^{'}\)（认为\(y=0\)），纵坐标是函数值。蓝色曲线代表的是损失函数，绿色曲线代表的是似然函数的值（这里假设随机误差服从高斯分布），橙色曲线表示的是损失函数的梯度 这里可以发现，梯度的值是在变化的。前面提到过，我们不想要太大的梯度值，也不想要太小的梯度值，所以如果我们想 阅读全文

摘要： CCF在CSP卡常我是没想到的 一眼DP，尝试设\(f_i\)表示前\(i\)个的最大价值，假设在\(i\)前面第一个涂与\(i\)相同颜色的方块是\(j\)，就会发现\([j+1,i-1]\)的价值没办法确定，主要是\(j+1\)的价值没办法确定。此时的情形是\(j\)和\(j+1\)的颜色不同， 阅读全文