珠峰上吹泡泡

摘要： 而一些学知识产权的学生，经常会面临着输入“版权所有”，“注册”，“商标”等特殊字符。而这些字符在哪里找呢？ 14.“版权所有”，“注册”，“商标”字符的输入 第一步：插入→符号→其他符号 第二步：符号→特殊字符→点击目标字符→插入 当当当当~~这个是不是很简单呢~~而且每一个特殊字符的右侧都有一个快 阅读全文

摘要： 备注：本文演示的word软件版本为2016。绝大部分学校的学术论文有模板，建议直接在模板上改，使用格式刷功能，并可以省略2到8这几步。 01.保存的高级选项设置 写论文最重要的是保存！保存，保存，保存，重要的事情说三遍。保存的快捷键是Ctrl+S。 另外， Word默认的自动保存是10分钟保存一次， 阅读全文

摘要： 1 前言 卷积神经网络和上一章讲的常规神经网络非常相似：它们都是由神经元组成，神经元中有具有学习能力的权重和偏差。 每个神经元都得到一些输入数据，进行内积运算后再进行激活函数运算。 整个网络依旧是一个可导的评分函数：该函数的输入是原始的图像像素，输出是不同类别的评分。 在最后一层（往往是全连接层）， 阅读全文

摘要： 1 训练 在前面当中我们讨论了神经网络静态的部分：包括神经网络结构、神经元类型、数据部分、损失函数部分等。 这个部分我们集中讲讲动态的部分，主要是训练的事情，集中在实际工程实践训练过程中要注意的一些点，如何找到最合适的参数。 1.1 关于梯度检验 之前的博文我们提到过，我们需要比对数值梯度和解析法求 阅读全文

摘要： 1 数据预处理 关于数据预处理我们有3个常用的符号，数据矩阵$X$，假设其尺寸是$[N \times D]$（$N$是数据样本的数量，$D$是数据的维度）。 1.1 均值减去 均值减法（Mean subtraction）是预处理最常用的形式。它对数据中每个独立特征减去平均值，从几何上可以理解为在每个 阅读全文

摘要： 1 简介 在线性分类一节中，在给出图像的情况下，是使用$s=W x$来计算不同视觉类别的评分，其中$W$是一个矩阵，$x$是一个输入列向量，它包含了图像的全部像素数据。 在使用数据库CIFAR 10的案例中，$x$是一个$[3072 \times 1]$的列向量，$W$是一个$[10 \times 阅读全文

摘要： 1 反向传播的直观理解 反向传播是利用链式法则递归计算表达式的梯度的方法。 理解反向传播过程及其精妙之处，对于理解、实现、设计和调试神经网络非常关键。 反向传播是一个优美的局部过程。在整个计算线路图中，每个门单元都会得到一些输入并立即计算两个东西： 这个门的输出值 其输出值关于输入值的局部梯度 门单 阅读全文

摘要： 1 损失函数可视化 损失函数一般都是定义在高维度的空间中（比如，在CIFAR 10中一个线性分类器的权重矩阵大小是[10x3073]，就有30730个参数），这样要将其可视化就很困难。然而办法还是有的，在1个维度或者2个维度的方向上对高维空间进行切片，就能得到一些直观感受。 例如，随机生成一个权重矩 阅读全文

摘要： 1 概述 两层全连接网络。 代码实现环境：python3 2 数据处理 2.1 加载数据集 将原始数据集放入“data/cifar10/”文件夹下。 运行结果如下： 2.2 划分数据集 将加载好的数据集划分为训练集，验证集，以及测试集。 运行结果如下： 2.3 归一化 将划分好的数据集归一化，即：所 阅读全文

摘要： 1 概述 基础的理论知识参考 "线性SVM与Softmax分类器" 。 代码实现环境：python3 2 数据预处理 2.1 加载数据 将原始数据集放入“data/cifar10/”文件夹下。 运行结果如下： 2.2 划分数据集 将加载好的数据集划分为训练集，验证集，测试集。 运行结果如下： 2.3 阅读全文