随笔分类 - 吴恩达深度学习笔记
摘要：in、jane、semptember都有10000个备选词，所以一共有30000个选择，从这30000个里面选择三个概率最大的作为前两个单词。要注意，前两个词出现的概率=第一个词的概率*第二个词的概率 所以实际计算句子的概率时，用的是这个式子，而不是把每个词出现的概率相乘。 y*和y帽概率的计算方法
阅读全文
摘要：如果相似函数是cosine similarity，且A类比于B相当于C类比于“？” 该如何求“？” 首先求出sim(A,B) 然后令sim(C,?)=sim(A,B) 然后求出？，再找到与？相似性最大的向量e?。 或者求出sim(A,B)后，将其他向量逐一代入sim(C,?) 看看哪个与Sim(A,
阅读全文
摘要：1.1 为什么选择序列模型序列模型的应用语音识别：将输入的语音信号直接输出相应的语音文本信息。无论是语音信号还是文本信息均是序列数据。音乐生成：生成音乐乐谱。只有输出的音乐乐谱是序列数据，输入可以是空或者一个整数。情感分类：将输入的评论句子转换为相应的等级或评分。输入是一个序列，输出则是一个单独的类
阅读全文
摘要：1. 2维数据从卷积神经网络框架，到如何使用它进行图像识别、对象检测、人脸识别与神经网络转换即使大部分讨论的图像数据，某种意义上而言都是2D数据，考虑到图像如此普遍许多所掌握的思想不仅局限于2D图像，甚至可以延伸至1D，乃至3D数据 关于2D卷积，可能会输入一个14×14的图像，并使用一个5×5的过
阅读全文
摘要：1. 风格相关系数 比如有这样一张图片，可能已经对这个计算很熟悉了，它能算出这里是否含有不同隐藏层现在选择了某一层 l ll（编号1），比如这一层去为图片的风格定义一个深度测量现在要做的就是将图片的风格定义为 l ll 层中各个通道之间激活项的相关系数 现在将 l ll 层的激活项取出，这是个nH
阅读全文
摘要：1. 激活函数值风格迁移网络的代价函数有一个内容代价部分，还有一个风格代价部分 先定义内容代价部分，不要忘了这就是整个风格迁移网络的代价函数，看看内容代价函数应该是什么 假如说，用隐含层 l来计算内容代价，如果 l 是个很小的数，比如用隐含层1这个代价函数就会使生成图片像素上非常接近内容图片 然而如
阅读全文
摘要：1. 神经风格迁移最近，卷积神经网络最有趣的应用是神经风格迁移来看几个例子，比如这张照片，照片是在斯坦福大学拍摄的如果想利用右边照片的风格来重新创造原本的照片，右边的是梵高的星空神经风格迁移可以生成下面这张照片 这仍是斯坦福大学的照片，但是用右边图像的风格画出来为了描述如何实现神经网络风格迁移，将使
阅读全文
摘要：1. 学习内容深度卷积网络到底在学什么？ 来看一个例子，假如训练了一个卷积神经网络，是一个Alexnet，轻量级网络希望将看到不同层之间隐藏单元的计算结果 可以这样做，从第一层的隐藏单元开始，假设遍历了训练集然后找到那些 使得单元激活最大化的一些图片或者图片块换句话说，将训练集经过神经网络然后弄明白
阅读全文
摘要：1. 二分类问题Triplet loss是一个学习人脸识别卷积网络参数的好方法还有其他学习参数的方法可以尝试将人脸识别当成一个二分类问题 另一个训练神经网络的方法是选取一对神经网络，选取Siamese网络使其同时计算这些嵌入，比如说128维的嵌入（编号1），或者更高维然后将其输入到逻辑回归单元，然后
阅读全文
摘要：1. 三元组损失函数已经了解了Siamese网络架构，并且知道想要网络输出什么，即什么是好的编码但是如何定义实际的目标函数能够让神经网络学习并做到上节讨论的内容呢？ 要想通过学习神经网络的参数来得到优质的人脸图片编码方法之一就是：定义三元组损失函数然后应用梯度下降 为了应用三元组损失函数，需要比较成
阅读全文
摘要：上篇笔记里提到的函数d的作用： 输入两张人脸，然后告诉它们的相似度 实现这个功能的一个方式就是用Siamese网络 经常看到这样的卷积网络，输入图片x(1)然后通过一些列卷积，池化和全连接层最终得到这样的特征向量（编号1） 有时这个会被送进softmax单元来做分类，但在这里不会这么做关注的重点是这
阅读全文
摘要：1. 人脸识别现在可以看到很多产品在运用人脸识别，如手机解锁、车站身份识别认证、刷脸支付等 在人脸识别的相关文献中，人们经常提到 人脸验证（face verification）人脸识别（face recognition）人脸验证问题：如果有一张输入图片，以及某人的ID或者是名字这个系统要做的是，验证
阅读全文
摘要：1. 无对象区域 记得滑动窗法吧，使用训练过的分类器在这些窗口中全部运行一遍，然后运行一个检测器，看看里面是否有车辆，行人和摩托车现在也可以运行一下卷积算法 这里这个矩形区域（编号1）基本是空的，显然没有什么需要分类的东西也许算法会在这个矩形上（编号2）运行，知道上面没有什么有趣的东西 这个算法的其
阅读全文
摘要：YOLO 算法（Putting it together: YOLO algorithm） 你们已经学到对象检测算法的大部分组件了，在这个笔记里，我们会把所有组件组装在一起构成YOLO对象检测算法。 我们先看看如何构造你的训练集，假设你要训练一个算法去检测三种对象，行人、汽车和摩托车，你还需要显式指定
阅读全文
摘要：Anchor Boxes 到目前为止，对象检测中存在的一个问题是每个格子只能检测出一个对象，如果你想让一个格子检测出多个对象，你可以这么做，就是使用anchor box这个概念。 我们还是先吃一颗栗子： 假设你有这样一张图片，对于这个例子，我们继续使用3×3网格，注意行人的中点和汽车的中点几乎在同一
阅读全文
摘要：非极大值抑制（Non-max suppression） 到目前为止你们学到的对象检测中的一个问题是，你的算法可能对同一个对象做出多次检测，所以算法不是对某个对象检测出一次，而是检测出多次。非极大值抑制这个方法可以确保你的算法对每个对象只检测一次. 来，我们吃一颗栗子： 假设你需要在这张图片里检测行人
阅读全文
摘要：交并比（Intersection over union） 你如何判断对象检测算法运作良好呢？在本笔记中，你将了解到并交比函数，可以用来评价对象检测算法。在下一个笔记中，我们用它来插入一个分量来进一步改善检测算法，我们开始吧。 在对象检测任务中，你希望能够同时定位对象，所以如果实际边界框是这样的，你的
阅读全文
摘要：Bounding Box预测（Bounding box predictions） 在上一篇笔记中，你们学到了滑动窗口法的卷积实现，这个算法效率更高，但仍然存在问题，不能输出最精准的边界框。在这个笔记中，我们看看如何得到更精准的边界框。 在滑动窗口法中，你取这些离散的位置集合，然后在它们上运行分类器，
阅读全文
摘要：卷积的滑动窗口实现（Convolutional implementation of sliding windows） 上节笔记，我们学习了如何通过卷积网络实现滑动窗口对象检测算法，但效率很低。这节课我们讲讲如何在卷积层上应用这个算法。 为了构建滑动窗口的卷积应用，首先要知道如何把神经网络的全连接层转
阅读全文
摘要：目标检测（Object detection） 学过了对象定位和特征点检测，今天我们来构建一个对象检测算法。这节课，我们将学习如何通过卷积网络进行对象检测，采用的是基于滑动窗口的目标检测算法。 假如你想构建一个汽车检测算法，步骤是(以上图为例）， 首先创建一个标签训练集，也就是x和y表示适当剪切的汽车
阅读全文
浙公网安备 33010602011771号