随笔分类 -  深度学习

摘要：前言 开始本文内容之前，我们先来看一下上边左侧的这张图，从图中你看到了什么物体？他们在什么位置？这还不简单，图中有一个猫和一个人，具体的位置就是上图右侧图像两个边框(bounding-box)所在的位置。其实刚刚的这个过程就是目标检测，目标检测就是“给定一张图像或者视频帧，找出其中所有目标的位置，并 阅读全文

摘要：一、NLP标注工具BRAT BRAT是一个基于web的文本标注工具，主要用于对文本的结构化标注，用BRAT生成的标注结果能够把无结构化的原始文本结构化，供计算机处理。利用该工具可以方便的获得各项NLP任务需要的标注语料。以下是利用该工具进行命名实体识别任务的标注例子。 WeTest舆情团队在使用：h 阅读全文

摘要：现象：在Ubuntu登陆界面输入密码之后，黑屏一闪后，又跳转到登录界面。原因：主目录下的.Xauthority文件拥有者变成了root，从而以用户登陆的时候无法都取.Xauthority文件。说明：Xauthority，是startx脚本记录文件。Xserver启动时，读文件~/.Xauthorit 阅读全文

摘要：1. R-CNN：Rich feature hierarchies for accurate object detection and semantic segmentation 技术路线：selective search + CNN + SVMs Step1:候选框提取(selective sea 阅读全文

摘要：CNN的发展史 上一篇回顾讲的是2006年Hinton他们的Science Paper，当时提到，2006年虽然Deep Learning的概念被提出来了，但是学术界的大家还是表示不服。当时有流传的段子是Hinton的学生在台上讲paper时，台下的机器学习大牛们不屑一顾，质问你们的东西有理论推导吗 阅读全文

摘要：正则化方法：防止过拟合，提高泛化能力 在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在training data上的error渐渐减小，但是在验证集上的error却反而渐渐增大——因为训练出 阅读全文

摘要：关键点是1*1的卷积是怎么用的，也就是MLP卷积。看如下的数据就可以理解了 输入为224*224*3的图像，第一层卷积为11*11*3*96（也就是96个11*11*3的卷积核，另外还有步长），卷积完后是54*54*96的数据，然后用1*1*96的卷积核进行卷积，得出54*54*96的数据，再利用1 阅读全文

摘要：《Network in Network》论文笔记 1.综述 这篇文章有两个很重要的观点： 1×1卷积的使用 文中提出使用mlpconv网络层替代传统的convolution层。mlp层实际上是卷积加传统的mlp（多层感知器），因为convolution是线性的，而mlp是非线性的，后者能够得到更高的 阅读全文

摘要：一、相关理论 本篇博文主要讲解2014年ICLR的一篇非常牛逼的paper：《Network In Network》，过去一年已经有了好几百的引用量，这篇paper改进了传统的CNN网络，采用了少量的参数就松松击败了Alexnet网络，Alexnet网络参数大小是230M，采用这篇paper的算法才 阅读全文

摘要：利用 TFLearn 快速搭建经典深度学习模型 使用 TensorFlow 一个最大的好处是可以用各种运算符（Ops）灵活构建计算图，同时可以支持自定义运算符（见本公众号早期文章《TensorFlow 增加自定义运算符》）。由于运算符的粒度较小，在构建深度学习模型时，代码写出来比较冗长，比如实现卷积 阅读全文

摘要：接上文《深度学习主机环境配置: Ubuntu16.04+Nvidia GTX 1080+CUDA8.0》，我们继续来安装 TensorFlow，使其支持GeForce GTX 1080显卡。 1 下载和安装cuDNN cuDNN全称 CUDA Deep Neural Network library， 阅读全文

摘要：上官网下载对应的cudnn https://developer.nvidia.com/cudnn 下载完cudnn后，命令行输入文件所在的文件夹 (ubuntu为本机用户名) cd home/ubuntu/Downloads/ tar zxvf cudnn-8.0-linux-x64-v5.1.tg 阅读全文

摘要：Theano– CPU/GPU symbolic expression compiler in python (from MILA lab at University of Montreal)Torch– provides a Matlab-like environment for state-of... 阅读全文

摘要：1. 安装build-essentials安装开发所需要的一些基本包sudo apt-get install build-essential2. 安装NVIDIA驱动 (3.4.0)2.1 准备工作（2014-12-03更新）在关闭桌面管理 lightdm 的情况下安装驱动似乎可以实现Intel 核... 阅读全文

摘要：笔者花了很长时间才装完，主要是cuda安装和opencv安装比较费劲，cuda找不到32位的安装包只好重装64位的ubuntu系统，opencv 也是尝试了很久才解决，这里建议用2.4.9版本。其实如果没用GPU的话不需要安装cuda，不过为了后续兼容性的考虑，系统强烈建议64位的。下面是 对自己的... 阅读全文

摘要：1. 下载选择Linux Tab，选择下载免费的Community Edition【1】。当前版本是3.42. 安装PyCharm按照官网给出的安装指导【2】进行安装。（1） Copy the pycharm-*.tar.gz to the desired installation location... 阅读全文

摘要：本文结合Deep learning的一个应用，Convolution Neural Network 进行一些基本应用，参考Lecun的Document 0.1进行部分拓展，与结果展示（in python）。分为以下几部分：1. Convolution（卷积）2. Pooling（降采样过程）3. C... 阅读全文

摘要：CNN公式推导1 前言 在看此blog之前，请确保已经看懂我的前两篇blog【深度学习笔记1(卷积神经网络)】和【BP算法与公式推导】。并且已经看过文献[1]的论文【Notes on Convolutional Neural Networks】。因为本文就是讲解文献[1]论文前部分公式的推导过程。2... 阅读全文

摘要：概述前面的练习中，解决了一些有关低分辨率图像的问题，比如：小块图像，手写数字小幅图像等。在这部分中，我们将把已知的方法扩展到实际应用中更加常见的大图像数据集。全联通网络在稀疏自编码章节中，我们介绍了把输入层和隐含层进行“全连接”的设计。从计算的角度来讲，在其他章节中曾经用过的相对较小的图像（如在稀疏... 阅读全文

摘要：先看到卷积运算，知道了卷积就是把模版与图像对应点相乘再相加，把最后的结果代替模版中心点的值的一种运算。但是，近来又看到了积分图像的定义，立马晕菜，于是整理一番，追根溯源一下吧。1 卷积图像1.1 源头首先找到了一篇讲解特别好的博文，原文为：卷积贴过正文来看：---------------------... 阅读全文