Jerry_Jin

摘要： Batch Normalization Batch Normalization（简称为BN）[2]，中文翻译成批规范化，是在深度学习中普遍使用的一种技术，通常用于解决多层神经网络中间层的协方差偏移(Internal Covariate Shift)问题，类似于网络输入进行零均值化和方差归一化的操作， 阅读全文

摘要： Anomaly Detection，也叫做 异常检测，目的在于让机器知道我所不知道的事情。1. 什么是 Anomaly（异常）？虽然说是 异常，但其实是以训练集为核心，判断输入数据是否与训练集中的数据 “类似”。在不同的领域可以有不同的叫法，比如：outlier Detection，novelty Detection，exceptions Detection。至于什么才是“类似”，它的定义这取决于... 阅读全文

摘要： Ubuntu systemctl 查看系统启动项 列出所有启动项： sudo systemctl list-unit-files 会列出开启的和未开启的： 使用grep过滤一下开启的grep enabled sudo systemctl list-unit-files | grep enabled 阅读全文

摘要： 一、scp scp是secure copy的简写，用于在Linux下进行远程拷贝文件的命令，和它类似的命令有cp，不过cp只是在本机进行拷贝不能跨服务器，而且scp传输是加密的,它使用ssh安全协议传输数据。 scp系统开消小不占资源，不会提高多少系统负荷。虽然 rsync只传送修改的部分。 1．命 阅读全文

摘要： 注意力模型最近几年在深度学习各个领域被广泛使用，无论是图像处理、语音识别还是自然语言处理的各种不同类型的任务中，都很容易遇到注意力模型的身影。所以，了解注意力机制的工作原理对于关注深度学习技术发展的技术人员来说有很大的必要。人类的视觉注意力从注意力模型的命名方式看，很明显其借鉴了人类的注意力机制，因此，我们首先简单介绍人类视觉的选择性注意力机制。图1 人类的视觉注意力视觉注意力机制是人类视觉所特有... 阅读全文

摘要： 文章内容主要整理自Sinno Jialin Pan and Qiang Yang的论文《A survey on transfer Learning》。 1 迁移学习提出的背景及历史 1.1、迁移学习提出背景 在机器学习、深度学习和数据挖掘的大多数任务中，我们都会假设training和inferenc 阅读全文

摘要： AutoEncoder作为NN里的一类模型，采用无监督学习的方式对高维数据进行高效的特征提取和特征表示，并且在学术界和工业界都大放异彩。本文主要介绍AutoEncoder系列模型框架的演进，旨在梳理AutoEncoder的基本原理。首先上图，然后再对他们进行逐一介绍。AutoEncoder的思想最早被提出来要追溯到1988年[1]，当时的模型由于数据过于稀疏高维计算复杂度高很难优化，没能得到广泛的... 阅读全文

摘要： 经验模式分解(empirical mode decomposition, EMD)方法是Huang提出的,它是一种新的时频分析方法,而且是一种自适应的时频局部化分析方法:①IMF与采样频率相关;②它基于数据本身变化。这点是EMD优于傅立叶变换方法的地方,它摆脱了傅里叶变换的局限性。但EMD比较重要的缺点就是模态混叠,为了更好地解决这一问题,EEMD被Huang提出。 ... 阅读全文

摘要： Photo by Pavel Anoshin on Unsplash Accompanying GitHub repository: https://github.com/BruceMacD/Adversarial-Faces Usage of facial recognition is on th 阅读全文

摘要： 梯度消失与梯度爆炸 梯度为偏导数构成的向量。 损失函数收敛至极小值时，梯度为0（接近0），损失函数不再下降。我们不希望在抵达极小值前，梯度就为0了，也不希望下降过程过于震荡，甚至不收敛。梯度消失与梯度爆炸分别对应这2种现象， 梯度消失(vanishing gradients)：指的是在训练过程中，梯 阅读全文