[置顶] 关于BP算法在DNN中本质问题的几点随笔 [原创 by 白明] 微信号matthew-bai
摘要： 随着deep learning的火爆，神经网络(NN)被大家广泛研究使用。但是大部分RD对BP在NN中本质不甚清楚，对于为什这么使用以及国外大牛们是什么原因会想到用dropout/sigmoid/ReLU/change learnRate/momentum/ASGD/vanishment等问题等呢... 阅读全文
posted @ 2014-11-27 16:03 matthew-bai 阅读(2425) 评论(0) 推荐(1)
2014年12月24日
[原创] 对于深度学习(deep learning)在工业界的应用现状和突破 [by matthewbai]
摘要： 现状：1. 目前大家对于大部分需求，通常采用multiple layer，units in each layer也是人工订好的（虽然可以做稀疏，但是在same layer范围内竞争）。2. 网络结构(或connection paradigm)常用的有3种： DNN(或DBN)中full con... 阅读全文
posted @ 2014-12-24 13:11 matthew-bai 阅读(1868) 评论(0) 推荐(0)