2019年7月17日

GoogLeNet结构

摘要:Inception v1 论文:《Going deeper with convolutions》 在较低的层(靠近输入的层)中,相关单元更侧重提取局部区域的信息。因此使用1x1的特征可以保存这些特征,从而与其他支路提取的特征进行融合。 3x3和5x5的卷积是想要提取不同尺度的特征,3x3卷积和5x5 阅读全文

posted @ 2019-07-17 14:54 Peyton_Li 阅读 (137) 评论 (0) 编辑

2019年7月8日

softmax求导、cross-entropy求导及label smoothing

摘要:softmax求导 softmax层的输出为 其中,表示第L层第j个神经元的输入,表示第L层第j个神经元的输出,e表示自然常数。 现在求对的导数, 如果j=i, 1 如果ji, 2 cross-entropy求导 loss function为 对softmax层的输入求导,如下 label smoo 阅读全文

posted @ 2019-07-08 11:57 Peyton_Li 阅读 (174) 评论 (0) 编辑

2019年6月14日

C++中的传值与传址

摘要:在指针的传递中,也涉及到传值与传址的问题。下面通过一个函数进行说明。 代码如下: 在上面的代码中,执行过openBinary函数后,buffer_0依然是一个空指针。 原因是因为执行openBinary函数时,函数生成了一个值与buffer_0相同的uchar*临时变量buffer,在分配内存前,临 阅读全文

posted @ 2019-06-14 15:04 Peyton_Li 阅读 (118) 评论 (0) 编辑

2019年4月30日

TensorFlow模型转为caffe模型

摘要:最近由于要将训练好的模型移植到硬件上,因此需要将TensorFlow转为caffe模型。 caffe模型需要两个文件,一个是定义网络结构的prototxt,一个是存储了参数的caffemodel文件。只要生成这两个文件,caffe模型就算转好了。 在模型转换的过程中,我主要参考了https://gi 阅读全文

posted @ 2019-04-30 16:53 Peyton_Li 阅读 (1069) 评论 (13) 编辑

2019年4月11日

在windows10上安装caffe和tensorflow

摘要:最近在Windows10上安装了caffe和tensorflow,折腾了好久。在此记录一下。 安装caffe的过程已在另一篇博客中进行了记录,在此不再赘述。而tensorflow也是非常简单的,也不再详细说明。 安装caffe和tensorflow比较重要的一点是,要确保把依赖正确安装好。GPU版本 阅读全文

posted @ 2019-04-11 10:34 Peyton_Li 阅读 (263) 评论 (0) 编辑

2019年4月8日

在Linux系统中安装caffe

摘要:学习深度学习已经很久了,但一直没有自己动手安装过caffe,因为工作需要,需要在linux系统中安装caffe,因此,在这里对安装过程进行记录。 caffe配置起来比tensorflow更麻烦一些,我主要是根据官网上的安装说明进行安装的,也参考了Youtube上的教程。我是在虚拟机中的Ubuntu1 阅读全文

posted @ 2019-04-08 16:43 Peyton_Li 阅读 (87) 评论 (0) 编辑

2019年4月4日

在windows10上搭建caffe

摘要:caffe环境的搭建一直是让我最头疼的,最近在Windows10上成功搭建了caffe,在此对搭建过程进行记录。 安装主要是按照caffe github上的安装说明进行的,caffe的github主页中readme中有window caffe,是针对windows的安装说明。 因为caffe框架有很 阅读全文

posted @ 2019-04-04 15:24 Peyton_Li 阅读 (245) 评论 (0) 编辑

2018年12月19日

deep learning loss总结

摘要:在深度学习中会遇到各种各样的任务,我们期望通过优化最终的loss使网络模型达到期望的效果,因此loss的选择是十分重要的。 cross entropy loss cross entropy loss和log loss,logistic loss是同一种loss。常用于分类问题,一般是配合softma 阅读全文

posted @ 2018-12-19 13:58 Peyton_Li 阅读 (178) 评论 (0) 编辑

2018年10月16日

特征组合

摘要:图1. 线性问题 对于图1,可以画一条线将黄点和蓝点分开,这是个线性问题,这条线并不完美,有一两个蓝点可能落在了黄点的一侧,但画的这条线可以很好地做出预测。 图2. 非线性问题 对于图2,显然不能画一条直线将黄点和蓝点清晰地分开,这是个非线性问题。 要解决图2的非线性问题,可以创建一个特征组合。特征 阅读全文

posted @ 2018-10-16 18:18 Peyton_Li 阅读 (100) 评论 (0) 编辑

特征工程

摘要:特征工程指的是将原始数据转换为特征矢量。 机器学习模型通常期望样本表示为实数矢量。这种矢量的构建方法如下:为每个字段衍生特征,然后将它们全部连接到一起。 图1. 特征工程将原始数据映射到机器学习特征 映射数值 机器学习模型根据浮点值进行训练,因此整数和浮点原始数据不需要特殊编码。正如图2所示,将原始 阅读全文

posted @ 2018-10-16 16:31 Peyton_Li 阅读 (131) 评论 (0) 编辑

导航

统计