随笔分类 - 人工智能
机器学习&深度学习
摘要：MMDet 工作需要简单看了一下源码，主要侧重训练和推理的部分，涉及到的是Registry、Runner和Hook部分。 核心库 核心库有MMDetection、MMSegmentation、MMDetection3d、MMCV。 MMDetection3d: 支持3d目标检测的模型和数据集 MMD
阅读全文
摘要：NNLM NNLM：Neural Network Language Model，神经网络语言模型。源自Bengio等人于2001年发表在NIPS上的《A Neural Probabilistic Language Model一文。 理论 模型结构 任务 根据$w_{t-n+1}...w_$来预测$w
阅读全文
摘要：整体流程(以PASCAL VOC为例) 1.下载PASCAL VOC2012数据集，并将数据集转为tfrecord格式 2.选择并下载预训练模型 3.配置训练文件configuration（所有的训练参数都通过配置文件来配置） 4.训练模型 5.利用tensorboard查看训练过程中loss，ac
阅读全文
摘要：Generative Models 生成模型帮助我们生成新的item，而不只是存储和提取之前的item。Boltzmann Machine就是Generative Models的一种。 Boltzmann Machine Boltzmann Machine和Hopfield Network对比 En
阅读全文
摘要：简介 Hopfield Network (霍普菲尔德网络)，是 Hopfield 在1982年提出的一种基于能量的模型，发表的文章是 Neural networks and physical systems with emergent collective computational abiliti
阅读全文
摘要：Mikolov T , Chen K , Corrado G , et al. Efficient Estimation of Word Representations in Vector Space[J]. Computer ence, 2013. 源码：https://github.com/da
阅读全文
摘要：循环神经网络 简介 循环神经网络（Recurrent Neural Networks， RNN） 是一类用于处理序列数据的神经网络。之前的说的卷积神经网络是专门用于处理网格化数据（例如一个图像）的神经网络，而循环神经网络专门用于处理序列数据（例如$x^{(1)},x^{(2)},···,x^{(T)
阅读全文
摘要：梯度在神经网络中的作用 在谈梯度消失和梯度爆炸的问题之前，我们先来考虑一下为什么我们要利用梯度，同时铺垫一些公式，以便于后面的理解。 存在梯度消失和梯度爆炸问题的根本原因就是我们在深度神网络中利用反向传播的思想来进行权重的更新。即根据损失函数计算出的误差，然后通过梯度反向传播来减小误差、更新权重。
阅读全文
摘要：卷积神经网络 卷积神经网络（Convolutional Neural Network，CNN）又叫卷积网络（Convolutional Network），是一种专门用来处理具有类似网格结构的数据的神经网络。卷积神经网络一词中的卷积是一种特殊的线性运算。卷积网络是指那些至少在网络的一层中使用卷积运算来
阅读全文
摘要：概率 高斯分布 高斯分布（Gaussian Distribution） 又叫正态分布（Normal Distribution）, 记作$N（μ,σ^2）$,概率密度和为 1。 \[ P(x)=\frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{1}{2\sigma^2}(
阅读全文
摘要：简述 深度前馈网络(deep feedforward network), 又叫前馈神经网络(feedforward neural network)和多层感知机(multilayer perceptron, MLP) . 深度前馈网络之所以被称为网络(network)，因为它们通常由许多不同的符合函数
阅读全文
摘要：Keywords reasoning 推理 Deductive reasoning(for a basic logic) 演绎推理 analogy 类比；比喻 /əˈnælədʒi/ definition of terminology /ˌtɜːmɪˈnɒlədʒi/术语的定义 propositio
阅读全文
摘要：基础概念 错误率：分类错误的样本数占总数的比例。 准确率/精度：分类正确的样本占总数的比例。 误差：学习器的实际预测输出与样本的真实输出之间的差异。 训练误差/经验误差：学习器在训练集上的误差。 泛化误差：在新样本上的误差。 测试集：测试学习器对新样本的判别能力。测试集应该尽量与训练集互斥，即测试样
阅读全文
摘要：一、KNN算法概述 邻近算法，或者说K最近邻(kNN，k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻，就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居来代表。Cover和Hart在1968年提出了最初的邻近算法。KNN是一种分类(cl
阅读全文
浙公网安备 33010602011771号