机器学习 - 随笔分类(第4页) - 未雨愁眸

手推机器学习公式（一） —— BP 反向传播算法

摘要：方便起见，本文仅以三层的神经网络举例。f(⋅)：表示激励函数xi：表示输入层；yj：表示中间的隐层； yj=f(netj)netj=∑i=0nvijxiok：表示输出层，dk 则表示期望输出； ok=f(netk)netk=∑j=0mwjkyjvij,wjk 分别... 阅读全文

posted @ 2017-03-02 19:12 未雨愁眸阅读(826) 评论(0) 推荐(0)

手推机器学习公式（一） —— BP 反向传播算法

摘要：方便起见，本文仅以三层的神经网络举例。f(⋅)：表示激励函数xi：表示输入层；yj：表示中间的隐层； yj=f(netj)netj=∑i=0nvijxiok：表示输出层，dk 则表示期望输出； ok=f(netk)netk=∑j=0mwjkyjvij,wjk 分别... 阅读全文

posted @ 2017-03-02 19:12 未雨愁眸阅读(689) 评论(0) 推荐(0)

激励函数对比分析

摘要：机器学习基础（七）——sigmoid 函数的性质机器学习基础（五十六）—— tanh、sign 与 softsign 深度学习基础（十二）—— ReLU vs PReLUsigmoid：单极性，连续，可导；tanh：双极性，连续，可导；注意 tanh（双曲正切函数）... 阅读全文

posted @ 2017-03-02 17:28 未雨愁眸阅读(327) 评论(0) 推荐(0)

激励函数对比分析

摘要：机器学习基础（七）——sigmoid 函数的性质机器学习基础（五十六）—— tanh、sign 与 softsign 深度学习基础（十二）—— ReLU vs PReLUsigmoid：单极性，连续，可导；tanh：双极性，连续，可导；注意 tanh（双曲正切函数）... 阅读全文

posted @ 2017-03-02 17:28 未雨愁眸阅读(355) 评论(0) 推荐(0)

学习算法收敛条件的判断

摘要：prev_err = ...for j = 1:epoch 'epoch ' j ' / ' epoch for i = 1:N, ... end cur_err = if abs(cur_err - pre_err) < ... 阅读全文

posted @ 2017-03-01 18:26 未雨愁眸阅读(176) 评论(0) 推荐(0)

学习算法收敛条件的判断

摘要：prev_err = ...for j = 1:epoch 'epoch ' j ' / ' epoch for i = 1:N, ... end cur_err = if abs(cur_err - pre_err) < ... 阅读全文

posted @ 2017-03-01 18:26 未雨愁眸阅读(639) 评论(0) 推荐(0)

（单层）感知机学习规则

摘要：假设感知器采用的是与阈值转移函数相类似的符号转移函数，其表达式为：f(wTjx)=sgn(wTjx)={1,wTjx≥0−1,wTjx<0下标 j 表示的是不同的迭代次数。用于调整参数的学习信号，等于神经元期望输出与实际输出之差：r=dj−oj权值调整公式应为：Δwj... 阅读全文

posted @ 2017-03-01 18:16 未雨愁眸阅读(386) 评论(0) 推荐(0)

（单层）感知机学习规则

摘要：假设感知器采用的是与阈值转移函数相类似的符号转移函数，其表达式为：f(wTjx)=sgn(wTjx)={1,wTjx≥0−1,wTjx<0下标 j 表示的是不同的迭代次数。用于调整参数的学习信号，等于神经元期望输出与实际输出之差：r=dj−oj权值调整公式应为：Δwj... 阅读全文

posted @ 2017-03-01 18:16 未雨愁眸阅读(538) 评论(0) 推荐(0)

Windows下如何采用微软的Caffe配置Faster R-CNN

摘要：前言比较简单的一篇博客。https://github.com/microsoft/caffe 微软的Caffe以在Windows下编译简单而受到了很多人的喜爱（包括我），只用改改prop配置然后无脑重新生成就可以。今天配置了一下Faster R-CNN，还挺好用的。 ... 阅读全文

posted @ 2017-01-26 20:48 未雨愁眸阅读(552) 评论(0) 推荐(0)

实战caffe多标签分类——汽车品牌与车辆外观（C++接口）[详细实现+数据集]

摘要：前言很多地方我们都需要用到多标签分类，比如一张图片，上面有只蓝猫，另一张图片上面有一只黄狗，那么我们要识别的时候，就可以采用多标签分类这一思想了。任务一是识别出这个到底是猫还是狗？（类型）任务二是识别出这是蓝还是黄？（颜色）网上看了几篇教程，有讲的非常好的，也有... 阅读全文

posted @ 2017-01-20 17:41 未雨愁眸阅读(668) 评论(0) 推荐(0)

机器学习: t-Stochastic Neighbor Embedding 降维算法 (二)

摘要：上一篇文章，我们介绍了SNE降维算法，SNE算法可以很好地保持数据的局部结构，该算法利用条件概率来衡量数据点之间的相似性，通过最小化条件概率 pj|i 与 pi|j 之间的 KL-divergence，将数据从高维空间映射到低维空间。Symmetric SNESNE算... 阅读全文

posted @ 2017-01-18 16:02 未雨愁眸阅读(559) 评论(0) 推荐(0)

机器学习: t-Stochastic Neighbor Embedding 降维算法 (一)

摘要：Introduction在计算机视觉及机器学习领域，数据的可视化是非常重要的一个应用，一般我们处理的数据都是成百上千维的，但是我们知道，目前我们可以感知的数据维度最多只有三维，超出三维的数据是没有办法直接显示出来的，所以需要做降维的处理，数据的降维，简单来说就是将高维... 阅读全文

posted @ 2017-01-18 09:22 未雨愁眸阅读(298) 评论(0) 推荐(0)

机器学习: 基于MRF和CNN的图像合成

摘要：前面我们介绍了基于卷积神经网络的图像风格迁移，利用一张content image 和 style image，可以让最终的图像既保留content image的基本结构，又能显示一定的style image的风格，今天我们介绍另外一篇类似的文章： Combining ... 阅读全文

posted @ 2017-01-16 10:53 未雨愁眸阅读(704) 评论(0) 推荐(0)

机器学习：利用卷积神经网络实现图像风格迁移 (三)

摘要：前面介绍了利用卷积神经网络实现图像风格迁移的算法原理和基于TensroFlow 的代码实现，这篇博客对前面的代码做了一些改变，设置了一个 image resize 函数，这样可以处理任意size的 input image，而且我们尝试利用 L-BFGS 优化算法替代之... 阅读全文

posted @ 2017-01-13 16:36 未雨愁眸阅读(1107) 评论(0) 推荐(0)

Logistic Regression 的简单推导

摘要：Logistic Regression 是一种 Generalized Linear Model（GLM），也即广义线性模型。1. LR 的基本假设LR 模型假设观测值 y 成立的对数几率（log-odds）能够表示为 K 重输入变量的线性组合：logP(x)1−... 阅读全文

posted @ 2017-01-10 16:53 未雨愁眸阅读(170) 评论(0) 推荐(0)

Logistic Regression 的简单推导

摘要：Logistic Regression 是一种 Generalized Linear Model（GLM），也即广义线性模型。1. LR 的基本假设LR 模型假设观测值 y 成立的对数几率（log-odds）能够表示为 K 重输入变量的线性组合：logP(x)1−... 阅读全文

posted @ 2017-01-10 16:53 未雨愁眸阅读(185) 评论(0) 推荐(0)

机器学习：利用卷积神经网络实现图像风格迁移 (二)

摘要：在上一篇博客里，我们介绍了利用卷积神经网络实现图像风格迁移的算法原理，这篇文章，我们主要介绍基于TensorFlow的程序实现，为了实现以下程序，你需要安装 TensorFlow, Numpy, Scipy, 以及下载 VGG-19 model。参考来源： htt... 阅读全文

posted @ 2017-01-10 11:02 未雨愁眸阅读(365) 评论(0) 推荐(0)

机器学习：利用卷积神经网络实现图像风格迁移 (一)

摘要：相信很多人都对之前大名鼎鼎的 Prisma 早有耳闻，Prisma 能够将一张普通的图像转换成各种艺术风格的图像，今天，我们将要介绍一下Prisma 这款软件背后的算法原理。就是发表于 2016 CVPR 一篇文章，“ Image Style Transfer Usi... 阅读全文

posted @ 2017-01-09 11:19 未雨愁眸阅读(1053) 评论(0) 推荐(0)

强化学习

摘要：模型从一无所知，到成为该领域的专业人士，又凭借其强大的计算能力，远远地甩开人类该领域的顶尖大师，模型能够学习规则和行为在于其背后有一个“好老师”，这位老师的使命不是上课，告知机器该怎么做，而是对机器的行为（policy network）进行打分和评判（value ne... 阅读全文

posted @ 2017-01-06 23:50 未雨愁眸阅读(192) 评论(0) 推荐(0)

强化学习

摘要：模型从一无所知，到成为该领域的专业人士，又凭借其强大的计算能力，远远地甩开人类该领域的顶尖大师，模型能够学习规则和行为在于其背后有一个“好老师”，这位老师的使命不是上课，告知机器该怎么做，而是对机器的行为（policy network）进行打分和评判（value ne... 阅读全文

posted @ 2017-01-06 23:50 未雨愁眸阅读(130) 评论(0) 推荐(0)

随笔分类 - 机器学习