摘要：
一、信息熵 若一个离散随机变量 \(X\) 的可能取值为 \(X = \{ x_{1}, x_{2},...,x_{n}\}\)，且对应的概率为： \[ p(x_{i}) = p(X=x_{i}) \] 那么随机变量 \(X\) 的熵定义为： \[ H(X) = -\sum_{i=1}^{n}p(x 阅读全文
摘要：
一、 深度学习中的 Internal Covariate Shift（ICS） 深度学习的训练过程可以看成很多层的叠加，而每一层的参数更新会导致下一层输入数据的分布发生变化，通过层层累加，高层的输入分布变化会非常剧烈导致上层的数据需要不断去变化以适应底层参数的更新。因此学习率，初始化权重等超参数的设 阅读全文
摘要：
在C++的学习中，可以把类当作一个模具，类所实例化出来的对象就是根据这个模具所产生的实体，对象可以看作是我们自己创建的一个新的数据类型。本文主要介绍了类对象通过拷贝函数进行初始化，分析了类对象的内存模型，以及通过this指针来实现更复杂的功能。最后介绍了析构函数的基础知识。 1、构造函数 首先，由于 阅读全文
摘要：
众所周知，C面向对象的三大特性为：封装，继承和多态。下面我们就先对封装做一些简单的了解。封装是通过C中的类来完成的，类是一种将抽象转换为用户定义类型的工具。类的定义如下： class circle { public: //成员变量 int m_L; int m_H; public: //成员函数（方 阅读全文