05 2013 档案

摘要：深度神经网路已经在语音识别，图像识别等领域取得前所未有的成功。本人在多年之前也曾接触过神经网络。本系列文章主要记录自己对深度神经网络的一些学习心得。第三篇，谈谈自己对最近几年颇为流行的受限波尔兹曼网络RBM的理解。我不打算详细描述其生物学运行机理和相关的算法推导过程，因为网络上已经有太多的教程可以参考。1. 概述 前面描述的神经网络模型是一种确定的结构。而波尔兹曼网络是一种随机网络。如何来描述一个随机网络呢？很多书上有大量的篇幅介绍其原理。这里把它总结为以下两点。 第一，概率分布函数。由于网络节点的取值状态是随机的，从贝叶斯网的观点来看，要描述整个网络，需要用三种概率分布来描述系... 阅读全文

摘要：深度神经网路已经在语音识别，图像识别等领域取得前所未有的成功。本人在多年之前也曾接触过神经网络。本系列文章主要记录自己对深度神经网络的一些学习心得。第二篇，讲讲经典的卷积神经网络。我不打算详细描述卷积神经网络的生物学运行机理，因为网络上有太多的教程可以参考。这里，主要描述其数学上的计算过程，也就是如何自己编程去实现的问题。1. 概述 回想一下BP神经网络。BP网络每一层节点是一个线性的一维排列状态，层与层的网络节点之间是全连接的。这样设想一下，如果BP网络中层与层之间的节点连接不再是全连接，而是局部连接的。这样，就是一种最简单的一维卷积网络。如果我们把上述这个思路扩展到二维，这就是我们在... 阅读全文

摘要：深度神经网路已经在语音识别，图像识别等领域取得前所未有的成功。本人在多年之前也曾接触过神经网络。本系列文章主要记录自己对深度神经网络的一些学习心得。第一篇，从最经典的BP网络开始。我不打算详细描述神经网络的生物学运行机理，因为网络上有太多的教程可以参考。这里，主要描述其数学上的计算过程，并且采用的符号可能与其它参考书上的符号有很大差异。特别是，斯坦福官方网站上对深度网络中所引用的符号有太多的小标，上标，给初学者带来不便。一. 网络结构经典的BP网络，其具体结构如下： 请特别注意上面这个图的一些符号说明如下：二. 学习算法 1. 信号的前向传递过程 请特别注意上述公式中的下... 阅读全文

摘要：SSE2与SSE1使用相同寄存器，指令描述约定：MM指64位MMX寄存器XMM指128XMM寄存器m32 指32位内存变量m128指128位内存变量本小结主要描述双精度浮点运算指令1. 数据搬移指令 movapdXMM,XMM/m128 movapdXMM/m128,XMM 把源存储器内容值送入目的寄存器,当有m128时,内存变量地址必须16字节对齐. movupdXMM,XMM/m128 movupdXMM/m128,XMM 把源存储器内容值送入目的寄存器,内存变量地址不必对齐16字节. 两条指令同SSE1的浮点搬移指令movaps 和 movups 指... 阅读全文

摘要：1. 技术背景 HDR图像处理的技术本质上是对阴影，高光的细节增强。即图像太暗或者太亮的部分，其细节丢失的比较明显，HDR图像处理就是对暗部和高亮部分的细节进行恢复的过程。 HDR的处理思路是这样的。首先，用户至少拍摄3张不同曝光量下的照片。分别对应低曝光，正常曝光和高曝光量。对于低曝光拍摄的图片，场景中比较亮的部分细节会比较突出，而其他部分则细节丢失比较严重。而对于高曝光量，则场景中较暗的部分被凸显出来，而其它部分曝光过度造成细节丢失。正常曝光水平则是丢失暗部细节和高亮的部分。 值得一提的是HDR相机拍出来的图片，其每一个像素的分量并不是8位的，而是大于8位的。然而大多数显示... 阅读全文