随笔分类 - 深度学习
与深度学习相关的一些知识
摘要:原文链接: https://blog.csdn.net/qq_41058526/article/details/80578932 <! flowchart 箭头图标 勿删 attention 总结 参考:注意力机制(Attention Mechanism)在自然语言处理中的应用 Attention函
阅读全文
摘要:原文: http://blog.sina.com.cn/s/blog_92c398b00102vs3q.html 马尔科夫过程 隐马尔科夫过程 与马尔科夫相比,隐马尔可夫模型则是双重随机过程,不仅状态转移之间是个随机事件,状态和输出之间也是一个随机过程。 领域系统 分阶领域系统与子团 马尔科夫
阅读全文
摘要:文章来源: https://zhuanlan.zhihu.com/p/50369448 从这几年的分割结果来看,基于空洞卷积的分割方法效果要好一些,为此,拿出两天时间来重新思考下空洞卷积问题。 . 语义分割创新该怎么做呢。引言空洞卷积(Dilated/Atrous Convolution),广泛应用
阅读全文
摘要:转自: https://www.cnblogs.com/hellcat/p/9687624.html 目录一、空洞卷积的提出二、空洞卷积原理三、空洞卷积问题感受野跳跃小尺度物体检测四、网络设计研究五、常用框架API介绍TensorFlow接口MXNet接口六、参考来源 回到顶部一、空洞卷积
阅读全文
摘要:来源:https://www.chainnews.com/articles/504060702149.htm 机器之心专栏作者:张俊林Batch Normalization (简称 BN)自从提出之后,因为效果特别好,很快被作为深度学习的标准工具应用在了各种场合。BN 大法虽然好,但是也存在一些局限
阅读全文
摘要:链接:https://www.zhihu.com/question/61607442/answer/440944387 首先反对上面的尽可能调大batch size的说法,在现在较前沿的视角来看,这种观点无疑是有些滞后的。 关于这个问题,我们来看下深度学习三巨头之一的LeCun杨乐春同
阅读全文
摘要:转自:https://www.zhihu.com/question/25097993 我和@杨军类似, 也是半路出家. 现在的工作内容主要就是使用CNN做CV任务. 干调参这种活也有两年时间了. 我的回答可能更多的还是侧重工业应用, 技术上只限制在CNN这块. 先说下我的观点, 调参就是trial
阅读全文
摘要:自己看读完pytorch封装的源码后,自己又重新写了一边(模仿其书写格式), 一些问题在代码中说明。
阅读全文
摘要:[TOC] 0. 前言 这篇论文提出了一种新的特征融合方式来解决多尺度问题, 感觉挺有创新性的, 如果需要与其他网络进行拼接,还是需要再回到原文看一下细节。这里转了两篇比较好的博客作为备忘。 1. 博客一 ! flowchart 箭头图标 勿删 这篇论文是CVPR2017年
阅读全文
摘要:[TOC] 0. 前言 今天读了U Net觉得很不错,同时网上很多很好很详细的讲解,因此就不再自己写一个overview了,互联网的意义就是给了我们相互学习,相互借鉴的黄金机会(懒惰完美的接口)。 1. "第一篇" ! flowchart 箭头图标 勿删 1. 按论文章节回
阅读全文
摘要:文章来源:https://www.tinymind.cn/articles/410 本文来自 CSDN 网站,译者蓝三金 图像的语义分割是将输入图像中的每个像素分配一个语义类别,以得到像素化的密集分类。虽然自 2007 年以来,语义分割/场景解析一直是计算机视觉社区的一部分,但与
阅读全文
摘要:[TOC] 0. Paper link "MobileNets" 1. Overview MobileNets是一种基于深度可分割卷积的轻量流线型结构,引进了两个简单的全局超参数在延迟与准确率之间达到了平衡,并且超参数让model builder可以按照不同的应用场景的限制去
阅读全文
摘要:[TOC] 0. paper link "inception v3" 1. Overview 这篇文章很多“经验”性的东西,因此会写的比较细,把文章里的一些话摘取出来,多学习一下,希望对以后自己设计网络有帮助。 2. Four General Design Principle
阅读全文
摘要:@[toc] 0. 论文链接 FCN(https://arxiv.org/abs/1411.4038) 1. 概述 语义分割(semantic segmentation)其实就是对每个像素点进行预测分类(dense prediction)。这也应该是第一个训练对像素进行预测并
阅读全文
摘要:@[toc] 0. 论文链接 "ResNet" 1. 概述 从AlexNet出现后,后面的模型包括VGG,GoogLe Net等都是想办法让网络边更宽更深,因为大量的实验证明网络更深更宽它的性能会更好。比较容易想到的是一味的增加深度会使得梯度爆炸/消失,但这问题在很大程度上使
阅读全文
摘要:前言 懒癌翻了,这篇不想写overview了,公式也比较多,今天有(zhao)点(jie)累(kou),不想一点点写latex啦,读论文的时候感觉文章不错,虽然看似很多数学公式,其实都是比较基础的公式,文章也比较细,从网上找了两篇较好的讲解,引用连接在每篇文章前面。 文章1 https://www.
阅读全文
摘要:原文链接:https://blog.deepsense.ai/region of interest pooling explained/ 目标检测typical architecture 通常可以分为两个阶段: (1)region proposal:给定一张输入image找出objects可能存在的
阅读全文