摘要：
deep learning，这几年有多火！！imagenet比赛，大家今年都是基于去年的基础上改进和应用的，效果比去年提升当然。在deep learning方向，hinton, benjio, lecun, andrew等这些人算是武林中的掌门人吧。hinton提出来RBM，让深层神经网络有可以训练的机会了。但是，现在大家都不用RBM，因为用梯度下降也能达到很好的效果。说到梯度下降，我觉得这个要说andrew，他们那里对sgd做了不少工作。hinton组的应用做的是非常好的，所以人家被google收购了？？benjio，真是善人啊，写了不少review类的东西，当然人家工作做得很好，也就是因为 阅读全文
摘要：
接着我的微博继续八卦吧微博里问了几个人，关于deep learning和cnn的区别，有不少热心网友给了回答，非常感谢。结合我听课和看文章的理解，我大胆大概总结一下：在上世纪90年代，neural network火了后就不再火了，听说，在投稿到nips时，如果你的关键词是neural network等，会大大降低你的文章的接受率，而如果是bayesian parameters or svm等，就会提高接受率，云云，但是在06年左右，neural network又开始出来闹腾了。其实，之前neural network之所以偃旗息鼓了，主要是因为深层神经网络中，使用BP进行训练，是走不动了，层一深 阅读全文
摘要：
最近不小心又赶了一下时髦，在做deep learning。今天去听了复旦吴老师的课程，感觉吴老讲解的还是很清晰的。上午刚看过cnn，下午讲解的就是这章，相对来说，我听着给了很多启发。 阅读全文