随笔分类 - python神经网络编程
摘要：import numpy as np from sklearn.preprocessing import StandardScaler from sklearn.model_selection import train_test_split from sklearn.neural_network i
阅读全文
摘要：1. 误差小于某个预先设定的较小的值 2.两次迭代之间的权值变化已经很小，可设定一个阈值，当小于这个阈值后，就停止训练。 3.设定最大迭代次数，当迭代超过最大次数就停止训练。
阅读全文
摘要：上一篇讲了图像搜索技术的基础，那那些东西在没有DEEP LEARNING 之前，是如何用到工业界的呢？ 先看个问题，有一副图片中有蓝天，白云，青山，绿水。我把这张图片颠倒过来，问这两张图片的相似度是多少？你期待这两个相似度很大，毕竟是同一张图片啊，虽然人眼看的还是同一张图片，但对计算机而言，当图像的
阅读全文
摘要：https://www.cnblogs.com/gaoxiang12/p/3695962.html
阅读全文
摘要：接着上一节，继续计算神经网络的梯度。 如上图所示，计算损失函数J对W14（1）的导数，这是为了更新W14（1）的值。 如上图所示，损失函数J就是S，S对W14（1）进行求导。首先看，W14（1）的变化导致了一号神经元的变化，而2号神经元没有发生变化。所以，对W14（1）的求导，与2号神经元没有关系，
阅读全文
摘要：1.单一神经元 神经网络是由许许多多的单一神经元构成的，那每一个神经元的实质是什么呢？神经元就干一件事情，叫做非线性变换。如下图所示： 2.神经网络 sigmod激活函数的作用是什么呢？它把一个数从负无穷到正无穷映射为0到1的部分，它只干这么一件事。那什么是神经网络呢？神经元是一个函数吧，那么神经网
阅读全文
摘要：根据前面所做的笔记，卷积神经网络随随便便就有那么多参数，如果我训练集过少的话，会造成过拟合的问题。那如何在训练数据过少的情况下来使我的效果变得好呢？ 举个例子，比如说我区分猫狗的训练数据有10万个，利用这10玩个数据我训练出来的效果特别好。但我区分老虎和狮子的训练集只有1万个，我能不能达到像区分猫狗
阅读全文
摘要：卷积神经网络其实和普通的神经网络的区别在于它的输入不再是一维的向量了，而是一个三维的向量，为什么是三维的呢？这是因为图片有三个通道R,G,B。那么输出是什么呢？输出可以认为是一维的向量，比如说那图片分类举例，分为K类的话，输出就是K维的向量。 卷积神经网络的基本结构如下： 如上图所示，第一层为输入，
阅读全文
摘要：图像中的卷积，是离散的，这不同于我们数学中的卷积公式，数学中的卷积公式大部分都是连续的，但是也有离散的卷积公式，学过数字信号处理的应该都知道。这一点是我之前不明白的地方。 正如上图所示，大的方框表示原图像的像素，中间小的3*3的方框为卷积模板，最右边的方框是做完卷积之后的输出图像。 那么，为什么要对
阅读全文
摘要：针对前几次做的笔记，发现训练集太少的情况下，识别率太低。有可能降到50%的情况。后做了几次改进，不过这几次改进还是在训练集只有100个，测试集10个的情况下，识别率有了一点提高，能稳定在60%，70%。可能如果加大训练集的话，识别率会有很大提升。 具体的改进有以下几点： （1）增加训练次数： 即把整
阅读全文
摘要：承接上一节，神经网络需要训练，那么训练集来自哪？测试的数据又来自哪？ 《python神经网络编程》一书给出了训练集，识别图片中的数字。测试集的链接如下： https://raw.githubusercontent.com/makeyourownneuralnetwork/makeyourownneu
阅读全文
摘要：解决训练任务，包括两部分内容： 第一部分：针对给定的训练样本计算输出。这与query()函数所做的工作没什么区别。 第二部分：将计算所得到的输出与期望的目标值做对比，使用差值来指导网络权重的更新。 其中，第一部分的代码如下所示： 这部分与query()中的区别在于多了一个期望值，因为我们需要期望值来
阅读全文
摘要：一.神经网络的大体结构可分为三个函数，分别如下： 1.初始化函数 设定输入层节点，隐藏层节点和输出层节点的数量。 2.训练 学习给定训练集样本后，优化权重。 3.查询 给定输入，从输出节点给出答案 所编写的代码框架可如下所示： 二.初始化网络 需要设置输入层节点，隐藏层节点和输出层节点的数量，同时不
阅读全文
浙公网安备 33010602011771号