上一页 1 ··· 6 7 8 9 10
摘要: 下文中所使用的pytorch版本为1.0.1 在python,如果全局变量在函数中没有提前用global申明,就修改其值,结果是这个全局变量不会被修改,会在这个函数中另外产生一个局部变量(名字相同)。 但是,如果全局变量是torch中的数据类型,那么在函数中修改全局变量的值,没有提前用global申 阅读全文
posted @ 2019-02-26 10:08 阿刚的代码进阶之旅 阅读(1190) 评论(0) 推荐(0) 编辑
摘要: 下面是如何自己构建一个层,分为包含自动反向求导和手动反向求导两种方式,后面会分别构建网络,对比一下结果对不对。 关于Pytorch中的结构层级关系。 最为底层的是torch.relu()、torch.tanh()、torch.ge()这些函数,这些函数个人猜测就是直接用Cuda写成的,并且封装成了p 阅读全文
posted @ 2019-02-21 19:15 阿刚的代码进阶之旅 阅读(1456) 评论(0) 推荐(0) 编辑
摘要: https://zhuanlan.zhihu.com/p/23178423 这篇知乎文章讲的比较好,在神经网络权重取平均值和减少神经元之间复杂的共适应关系两个方面分析了为什么dropout可以解决过拟合。 另外关于dropout在测试的时候应该怎么处理的问题,这篇https://www.cnblog 阅读全文
posted @ 2019-02-20 10:45 阿刚的代码进阶之旅 阅读(293) 评论(0) 推荐(0) 编辑
摘要: python中有一句很重要的话“一切皆为对象,一切皆为对象的引用”。 bool、int、float等等都是python中的内置类,但是需要区分可变类与不可变类,如果类的对象在实例化的时候有一个固定的值,并且在随后的操作中不会被改变,那么就是不可变的类。 bool、int、float、tuple、st 阅读全文
posted @ 2019-02-18 18:59 阿刚的代码进阶之旅 阅读(276) 评论(0) 推荐(0) 编辑
摘要: 这是AAAI2019的一篇论文,主要是为了解决小数据集的过拟合问题,使用了针对于卷积层的Dropout的方法。 论文的要点记录于下: 1、在训练过程中对于卷积层的channels进行droipout,在test的过程中层与层之间传递所有的channels。 2、对于卷积层的Channels不是随机的 阅读全文
posted @ 2019-02-18 10:14 阿刚的代码进阶之旅 阅读(868) 评论(0) 推荐(0) 编辑
摘要: 现在发现,一些专业词汇非常的重要,现在记录于此。 一下单词来自于《Pattern Recogniton and Machine Learning》的Introduction(绪论)部分 [,pɒlɪ'nəʊmɪəl] [æm'bɪgjʊəs] [ˈmjuːtʃuəli] if they includ 阅读全文
posted @ 2019-01-10 16:17 阿刚的代码进阶之旅 阅读(449) 评论(0) 推荐(0) 编辑
摘要: 本帖用以记录在ZCU102板级调试间遇到的Bug. 1、PL端的AXI总线在读取DDR中的数据的时候,在一个burst内不能跨越page boundary。跨越page boundary会在该burst内下一页数据的读取错误。 2、直接定义一个指针,给这个指针赋给一个实际的物理地址,对于指针int 阅读全文
posted @ 2018-12-25 13:26 阿刚的代码进阶之旅 阅读(214) 评论(0) 推荐(0) 编辑
摘要: 用Pytorch1.0进行半精度浮点型网络训练需要注意下问题: 1、网络要在GPU上跑,模型和输入样本数据都要cuda().half() 2、模型参数转换为half型,不必索引到每层,直接model.cuda().half()即可 3、对于半精度模型,优化算法,Adam我在使用过程中,在某些参数的梯 阅读全文
posted @ 2018-12-20 13:02 阿刚的代码进阶之旅 阅读(9693) 评论(1) 推荐(0) 编辑
摘要: 本文的参考的github工程链接:https://github.com/laubonghaudoi/CapsNet_guide_PyTorch 之前是看过一些深度学习的代码,但是没有养成良好的阅读规范,由于最近在学习CapsNet的原理,在Github找到了一个很好的示例教程,作者甚至给出了比较好的 阅读全文
posted @ 2018-12-11 21:22 阿刚的代码进阶之旅 阅读(1137) 评论(0) 推荐(0) 编辑
摘要: 论文:Receptive Field Block Net for Accurate and Fast Object Detection 论文链接:https://arxiv.org/abs/1711.07767代码链接:https://github.com/ruinmessi/RFBNet 概要:E 阅读全文
posted @ 2018-12-03 13:39 阿刚的代码进阶之旅 阅读(2084) 评论(0) 推荐(0) 编辑
上一页 1 ··· 6 7 8 9 10