liujshi

摘要： 前言 矩阵，向量的求导经常碰到和用到，但是老是忘记，在网上收集总结一下。 1.矩阵对元素的求导 矩阵对元素的求导比较简单，就是对矩阵的每个元素分别进行求导。 $$ 若：Y= \begin{pmatrix} y_{11} &\cdots & y_{1n} \\\ \vdots &\cdots & \v 阅读全文

摘要： 前言 在训练神经网络时，调参占了很大一部分工作比例，下面主要介绍在学习cs231n过程中做assignment1的调参经验。 主要涉及的参数有隐藏层大小hidden_size，学习率learn_rate以及训练时的batch_size. 理论部分 首先介绍一下讲义上关于以上三个参数的可视化分析。 上 阅读全文

摘要： 前言 VS Code是我比较喜欢的一个编辑器，之前一直用的sublime。Vim、Emacs学了一段时间都放弃了。 VS Code自带支持markdown，但是没有Mathjax插件，今天研究了一上午让VS Code初步支持Mathjax。 介绍 VS Code本质上是个浏览器，其编辑器实际上就是浏 阅读全文

摘要： 前言 深度学习中参数的初始化也有很多trick，这些trick却对训练结果起到了至关重要的作用， 本文介绍一个权值初始化的策略。 介绍 针对神经网络权值初始化许多的方法，其中最常用的方法是用随机数进行初始化。 用代码表示就是 ，其中 从均值为0，标准差为1的单位高斯分布中采样，因此神经节点 在初始化 阅读全文

摘要： fflush是标准C语言输入输出的拓展，它的作用是刷新输入输出流： 对于输入流如stdin，调用fflush之后会清空输入缓冲区的内容。 对于输出流如stdout，调用fflush之后会将输出缓冲区的内容写入到对应文件中。 include include int main(void) { int i 阅读全文

摘要： 先写一段代码然后编译成class,直接对照16进制码阅读:1 package test;2 public class test {3 private int m;4 5 public int inc() {6 return m + 1;7 }8 }用winhex打开编译出的class后可以看到CLA... 阅读全文

摘要： 转至http://www.douban.com/note/215440648/ EAP是在RFC 3748中定义的一种认证协议，该协议用于在PPP等点到点网络中的认证，可支持多种认证机制。在802.1X中对EAP进行了简单的修改形成了EAPOL（EAP over LAN）协议，使其能在广播式的以太网中使用。EAP工作在OSI模型的第二层上，不需要用户端事先获取IP地址，简单易实现，主要用于客户端... 阅读全文

摘要： Java虚拟机定义了若干种程序运行期间会使用的运行时数据区：1、PC寄存器java虚拟机可以支持多条线程同时执行，每一条java虚拟机线程都有自己的pc寄存器，任意时刻一条java虚拟机线程只会执行一个方法的代码。如果方法是native的那么pc寄存器的值是undefined，此时线程应该在等待na... 阅读全文