随笔分类 -  浅度学习

CNN与图像高级应用
摘要：一、图像识别与定位 思路1：视作回归 4个数字，用L2 loss/欧氏距离损失(x,y,w,h)这四个数都是连续值 思路2：借助图像窗口 二、物体识别 0.图像识别与定位： (1)Classification:C个类别 (2)Input:Image (3)Output:类别标签 (4)Evaluat 阅读全文
posted @ 2019-02-23 22:04 stone1234567890 阅读(276) 评论(0) 推荐(0)
吴恩达深度学习：2.16关于python/numpy
摘要： 阅读全文
posted @ 2019-02-02 18:49 stone1234567890 阅读(135) 评论(0) 推荐(0)
吴恩达深度学习：2.15python中的广播
摘要：1.Broadcasting example (1)下面矩阵描述了来自四种不同的100克碳水化合物，蛋白质和脂肪的卡路里数量 比如说100g苹果所含的热量有56克来自碳水化合物，相比之下来自蛋白质和脂肪的卡路里数就很少了。相反，100g的牛肉，有104卡路里来自蛋白质，135克来自脂肪，没有卡路里来 阅读全文
posted @ 2019-01-30 20:49 stone1234567890 阅读(405) 评论(0) 推荐(0)
CNN与图像应用
摘要：一、图像识别与定位 0.Classification:C个类别 Input:Image Output:类别标签 Evaluation metric:准确率 1.Localization: Input:Image Output:物体边界框(xy,w,h) Evaluation mertric:交并准则 阅读全文
posted @ 2019-01-29 19:24 stone1234567890 阅读(219) 评论(0) 推荐(0)
卷积神经网络与典型结构
摘要：一、神经网络与卷积神经网络 0.DNN(MLP多层感知器)能用到计算机视觉上吗？为什么需要CNN DNN可以用在计算机视觉上， 1.卷积神经网络和人工神经网络的差异在哪里？ 为什么需要卷积神经网络。下面是一个32x32x3的图片，隐层一般为1024或者4096的维度。输入维度是4k左右，隐层在102 阅读全文
posted @ 2019-01-26 21:08 stone1234567890 阅读(1894) 评论(0) 推荐(0)
深度学习初步
摘要：一、背景介绍 1.深度学习应用 二、神经网络非线性能力及原理 0.线性分类器得分函数 (1)假设函数：x到y的映射f。 这个f可以是多种表现形式，比如逻辑回归，决策树，随机森林以及xgboost是另外的一种表达形式，这里的神经网络是另外的表达。 (2)我们要的结果是要结果和标准答案更加接近，损失函数 阅读全文
posted @ 2019-01-24 09:55 stone1234567890 阅读(338) 评论(0) 推荐(0)
吴恩达深度学习：python中的广播
摘要：1.python中的广播： (1)广播是一种手段，可以让python代码执行得更快，我们来看看python实际如何执行。 下面矩阵列出了100克苹果、牛肉、鸡蛋和蛋白质中含有的碳水化合物、蛋白质和脂肪的数量 比如说我们的目标是四种食物中卡路里有多少百分比。比如100克苹果中有56+1.2+1.8卡路 阅读全文
posted @ 2019-01-23 20:25 stone1234567890 阅读(255) 评论(0) 推荐(0)
吴恩达深度学习：2.14
摘要：1.之前学习了如何通过向量化同时计算整个训练集预测值a。本次课程将会学习如何同时向量化计算m个训练集的梯度，之前的计算得到dz的计算形式：，我们可以将dz写成一个1*m的矩阵，，之前定义过A，定义了Y为：这样一个行向量。这样计算dz=A-Y， 2.我们已经去掉了一个for循环，我们将dw初始化为0向 阅读全文
posted @ 2019-01-23 18:09 stone1234567890 阅读(168) 评论(0) 推荐(0)
吴恩达深度学习：2.12向量化logistic回归
摘要：1.不使用任何for循环用梯度下降实现整个训练集的一步迭代。 (0)我们已经讨论过向量化如何显著加速代码，在这次视频中我们会设计向量化是如何实现logistic回归，这样酒桶同时处理m个训练集，来实现梯度下降算法的一步迭代，不需要使用任何显式的for循环 (1)logistic回归正向传播的步骤：如 阅读全文
posted @ 2019-01-23 17:28 stone1234567890 阅读(172) 评论(0) 推荐(0)
吴恩达深度学习：2.11向量化
摘要：1.什么是向量化？ 在logistic 回归中，你需要计算z=w^Tx+b，w是列向量 ，x也是列向量，w和x都是R内的nx维向量 在python中的一个非向量实现： for i in range(n-x): z+=w[i]*x[i] z+=b 这种形式的计算很慢，对比下向量化的实现会直接计算W^T 阅读全文
posted @ 2019-01-22 20:53 stone1234567890 阅读(443) 评论(0) 推荐(0)
吴恩达深度学习：2.9逻辑回归梯度下降法(Logistic Regression Gradient descent)
摘要：1.回顾logistic回归，下式中a是逻辑回归的输出，y是样本的真值标签值 、 (1)现在写出该样本的偏导数流程图。假设这个样本只有两个特征x1和x2， 为了计算z，我们需要输入参数w1、w2和b还有样本的特征值x1和x2，用这个来计算偏导数的计算公式，然后我们可以计算y^就是a，即，最后计算L( 阅读全文
posted @ 2019-01-22 18:19 stone1234567890 阅读(418) 评论(0) 推荐(0)
吴恩达深度学习：2.3梯度下降Gradient Descent
摘要：1.用梯度下降算法来训练或者学习训练集上的参数w和b，如下所示，第一行是logistic回归算法，第二行是成本函数J，它被定义为1/m的损失函数之和，损失函数可以衡量你的算法的效果，每一个训练样例都输出y，把它和基本真值标签y进行比较 右边展示了完整的公式，成本函数衡量了参数w和b在训练集上的效果。 阅读全文
posted @ 2019-01-21 22:10 stone1234567890 阅读(365) 评论(0) 推荐(0)
吴恩达深度学习：2.1Logistic Regression逻辑回归及其损失函数
摘要：1.Logistic Regression是一个二元分类问题 (1)已知输入的特征向量x可能是一张图，你希望把它识别出来，这是不是猫图，你需要一个算法，可以给出预测值，更正式的y是一个概率，当输入特征x满足条件的时候y就是1。换句话说，如果x是图片，那就需要拿到一张猫图的概率。 (2)Sigmoid 阅读全文
posted @ 2019-01-21 21:21 stone1234567890 阅读(5674) 评论(0) 推荐(0)
吴恩达深度学习：2.1
摘要：1.基本神经网络编程：二分分类算法 (1)从一个例子开始，有一个二分分类问题的例子，假如有这样的一张图片作为输入，现在要输出识别此图的标签，如果是猫则输出1，如果不是猫就输出0，我们用y来表示结果标签。 接下来看看一张图片在计算机中是如何表示的，计算机中要保存一张图片需要三个独立的矩阵，分别保存图片 阅读全文
posted @ 2019-01-21 20:41 stone1234567890 阅读(197) 评论(0) 推荐(0)
吴恩达深度学习：监督学习与神经网络以及深度学习为什么会兴起
摘要：1.到目前为止的神经网络都是基于监督学习的过程。在监督学习中，输入x，习得一个函数，映射到输出y， 2.CNN(Convolutional nerual networks)卷积神经网络主要用于图像领域；RNN(Recurrent neural networks)循环神经网络经常用于处理序列数据，如音 阅读全文
posted @ 2019-01-21 19:22 stone1234567890 阅读(392) 评论(0) 推荐(0)
吴恩达深度学习:1.2什么是神经网络
摘要：写在开头的话，本博客内容全部来自吴恩达深度学习教学课程，插图均来自吴恩达课件，在此说明来处，不喜勿喷！ 一、什么是神经网络 1.我们从一个房屋加个预测的例子开始，假设有一个6间房间的数据集，已知房屋的面积单位是平方米或者平方英尺，已知房屋加个，现在想要找到一个函数，根据房屋面积来预测房屋价格的函数。 阅读全文
posted @ 2019-01-18 22:02 stone1234567890 阅读(232) 评论(0) 推荐(0)
传统神经网络
摘要：一、神经网络起源：线性回归 1.线性回归： (1)概念：线性关系来藐视输入到输出的映射关系 (2)应用场景：网络分析，银行风向分析 (3)线性回归问题： 优化方法：梯度下降法SGD 梯度下降总结： 2.线性回归多个y值的输出 (1)多目标学习的过程，通过合并多个任务loss，一般能够产生比单个模型更 阅读全文
posted @ 2019-01-18 19:00 stone1234567890 阅读(1470) 评论(0) 推荐(0)
卷积神经网络与典型结构
摘要：一、神经网络与卷积神经网络 0.DNN能用到计算机视觉上吗？为什么需要CNN? 卷积神经网络和人工神经网络的差异在哪？ 1.层级结构 (1)保持了层级的网络结构 (2)不同的层次有不同形式的(运算)与功能 (3)主要是以下的层次： 数据输入层/input layer 卷积计算层 /CONV laye 阅读全文
posted @ 2019-01-15 21:07 stone1234567890 阅读(396) 评论(0) 推荐(0)
神经网络之：感知器
摘要：在神经网络中，我们主要使用的是一种称为S型神经元的神经元模型。感知器就是我们所谓的“人工神经元”。那么感知器怎么工作的呢，接下来我们来谈谈。 1.感知器工作机制： 上图中有x1，x2和x3输入，一般情况下我们可以引入权重w1,w2和w3来表示输入对输出的重要性，这时可以计算w1 * x1 +w2 * 阅读全文
posted @ 2019-01-11 20:07 stone1234567890 阅读(1176) 评论(0) 推荐(0)