摘要：
LSTM和GRU LSTM 忽略偏置： $$\begin{align} i_t&=\sigma(x_t\cdot W_i+h_{t 1}\cdot U_i)\\ f_t&=\sigma(x_t\cdot W_f+h_{t 1}\cdot U_f)\\ o_t&=\sigma(x_t\cdot W_o 阅读全文
摘要：
【说明】 本文翻译自新加坡国立大学何向南博士 et al.发布在《World Wide Web》（2017）上的一篇论文《Neural Collaborative Filtering》。本人英语水平一般+学术知识匮乏+语文水平拙劣，翻译权当进一步理解论文和提高专业英语水平，translate不到ke 阅读全文
摘要：
前言 多层网络的训练需要一种强大的学习算法，其中BP（errorBackPropagation）算法就是成功的代表，它是迄今最成功的神经网络学习算法。 今天就来探讨下BP算法的原理以及公式推导吧。 神经网络 先来简单介绍一下神经网络，引入基本的计算公式，方便后面推导使用 图1 神经网络神经元模型 图 阅读全文
摘要：
前言 在上一篇随笔里，我们讲了Logistic回归cost函数的推导过程。接下来的算法求解使用如下的cost函数形式： 简单回顾一下几个变量的含义： 我们的目标是求出θ，使得这个代价函数J(θ)的值最小，这里就需要用到梯度下降算法。 梯度下降算法 对于一个函数，我们要找它的最小值，有多种算法，这里我 阅读全文
摘要：
最近翻Peter Harrington的《机器学习实战》，看到Logistic回归那一章有点小的疑问。 作者在简单介绍Logistic回归的原理后，立即给出了梯度上升算法的code：从算法到代码跳跃的幅度有点大，作者本人也说了，这里略去了一个简单的数学推导。 那么其实这个过程在Andrew Ng的机 阅读全文
摘要：
看完一节《机器学习实战》，算是踏入ML的大门了吧！这里就详细讲一下一个demo:使用kNN算法实现手写字体的简单识别 kNN 先简单介绍一下kNN,就是所谓的K-近邻算法： 【作用原理】：存在一个样本数据集合、每个样本数据都存在标签。输入没有标签的新数据后，将新数据的每个特征与样本集数据的对应特征进 阅读全文
摘要：
引言 在C和C++中，限定符const的应用可谓十分常见。我在重现教材书籍code的时候，老是在const的问题上犯迷糊。今天刚忙完导师布置的任务，闲着就像把这个问题说清楚，以后自己再有问题也好自我反省下。 首先在C语言中，const是一个限定符，它用来限定一个变量不被改变。使用const在一定程度 阅读全文
摘要：
在文本分类的学习过程中，在“如何衡量一个关键字在文章中的重要性”的问题上，遇到了困难。在网上找了很多资料，大多数都提到了这个算法，就是今天要讲的TF-IDF。 总起 TF-IDF，理解起来相当简单，他实际上就是TF*IDF，两个计算值的乘积，用来衡量一个词库中的词对每一篇文档的重要程度。下面我们分开 阅读全文
摘要：
最近导师让做一个文本分类的东西，偶然间看到卡方检验，不懂（感觉自己实在是水到家，博客里讲的基础的东西，到我这里就是漫天找资料学），于是找了些博客文章，总结了下，有所体会。 引子 首先讲一下什么是卡方检验。卡方检验按照定义来说就是：检验实际的数据分布情况与理论的分布情况是否相同.这样讲比较抽象，这里讲 阅读全文
摘要：
先挖个坑，快期末考试了，有空填上w 好了，今晚刚好有点闲，就把坑填上吧。 // 开篇 首先讲一下，这篇随笔不是讲HOG特征是什么，怎么提取（这种图像特征网上一搜一大把），也不是讲BP神经网络工作原理，发展史啥的（机器学习小白，ANN深究我也不懂）。在这里我要讲的是，车标识别怎么code，怎么使用Op 阅读全文