摘要：循环神经网络(Recurrent Neural Networks) RNNs 主要处理时序数据，比如一句话，词与词之间都是有顺序的，因此经常用在NLP领域，比如机器翻译，情感分析等。 一般的RNNs有多个FNN横向连接而成，其中中间有个rnn-cell, 存储的是前面序列的隐含状态s。 最基本的形式 阅读全文

摘要：SoftMax函数: 又称归一化指数函数,是逻辑函数的一种推广,它能将一个含任意实数的K维的向量z的“压缩”到另一个K维实向量，使得每一个元素的范围都在 ( 0 , 1 ) {\displaystyle (0,1)} 之间，并且所有元素的和为1。(0,1)之间，并且所有元素的和为1。 for j = 阅读全文

摘要：一.多层向前神经网络 BackPropagation算法是应用在多层向前神经网络训练. 1.多层向前神经网络由以下部分组成： 输入层(input layer), 隐藏层 (hidden layers), 输入层 (output layers) 每层由单元(units)组成 输入层(input lay 阅读全文

摘要：模型复杂度:Error = Bias + Variance 选择模型的时候需要平衡Bias和Variance所占的比例，也就是平衡over-fitting和under-fitting。 模型复杂度上升的时候，偏差会逐渐变小，而方差会逐渐变大。 一.分类 1.朴素贝叶斯(Naive Bayes, NB 阅读全文

摘要：卷积神经网络CNN 卷积神经网络（CNN）是一种常见的深度学习架构，受生物自然视觉认知机制启发而来。 卷积神经网络与普通神经网络的区别在于，卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中，一个神经元只与部分邻层神经元连接。 什么是卷积 卷积:物理意义是：一个函数（ 阅读全文