随笔分类 -  机器学习 Machine Learning

1
分布式机器学习系统笔记（一）——模型并行，数据并行，参数平均，ASGD
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。 文章索引::”机器学习方法“，”深度学习方法”，“三十分钟理解”原创系列2017年3 月，谷歌大脑负责人 Jef... 阅读全文
posted @ 2017-07-29 21:45 DownUp 阅读(3529) 评论(0) 推荐(0)
深度学习方法（十三）：卷积神经网络结构变化——可变形卷积网络deformable convolutional networks
摘要：上一篇我们介绍了：深度学习方法（十二）：卷积神经网络结构变化——Spatial Transformer Networks，STN创造性地在CNN结构中装入了一个可学习的仿射变换，目的是增加CNN的旋转、平移、缩放、剪裁性。为什么要做这个很奇怪的结构呢？原因还是因为CNN不够鲁棒，比如... 阅读全文
posted @ 2017-04-19 22:44 DownUp 阅读(648) 评论(0) 推荐(0)
深度学习方法（十二）：卷积神经网络结构变化——Spatial Transformer Networks
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、机器学习技术感兴趣的同学加入。今天具体介绍一个Google DeepMind在15年提出的Spatial Transformer Networ... 阅读全文
posted @ 2017-04-03 23:45 DownUp 阅读(449) 评论(0) 推荐(0)
深度学习方法（十一）：卷积神经网络结构变化——Google Inception V1-V4，Xception（depthwise convolution）
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、机器学习技术感兴趣的同学加入。上一篇讲了深度学习方法（十）：卷积神经网络结构变化——Maxout Networks，Network In Ne... 阅读全文
posted @ 2017-03-15 23:30 DownUp 阅读(463) 评论(0) 推荐(0)
深度学习方法（十）：卷积神经网络结构变化——Maxout Networks，Network In Network，Global Average Pooling
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术感兴趣的同学加入。最近接下来几篇博文会回到神经网络结构的讨论上来，前面我在“深度学习方法（五）：卷积神经网络CNN经典模型整理Lenet，... 阅读全文
posted @ 2017-03-11 16:52 DownUp 阅读(533) 评论(0) 推荐(0)
[重磅]Deep Forest，非神经网络的深度模型，周志华老师最新之作，三十分钟理解！
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术感兴趣的同学加入。深度学习最大的贡献，个人认为就是表征学习（representation learning），通过端到端的训练，发现更好的... 阅读全文
posted @ 2017-03-06 00:03 DownUp 阅读(792) 评论(0) 推荐(0)
三十分钟理解计算图上的微积分：Backpropagation，反向微分
摘要：神经网络的训练算法，目前基本上是以Backpropagation (BP) 反向传播为主（加上一些变化），NN的训练是在1986年被提出，但实际上，BP 已经在不同领域中被重复发明了数十次了（参见 Griewank (2010)[1]）。更加一般性且与应用场景独立的名称叫做：反向微分... 阅读全文
posted @ 2017-03-04 22:33 DownUp 阅读(487) 评论(0) 推荐(0)
自组织神经网络介绍：自组织特征映射SOM(Self-organizing feature Map)，第三部分
摘要：前面两篇介绍了SOM的基本概念和算法，第一部分，第二部分，本篇具体展开一下应用中的一些trick设定。SOM设计细节输出层设计 输出层神经元数量设定和训练集样本的类别数相关，但是实际中我们往往不能清除地知道有多少类。如果神经元节点数少于类别数，则不足以区分全部模式，训练的结果势必将相... 阅读全文
posted @ 2016-03-15 00:21 DownUp 阅读(768) 评论(0) 推荐(0)
自组织神经网络介绍：自组织特征映射SOM(Self-organizing feature Map)，第二部分
摘要：上一篇介绍了一些自组织神经网络的基本概念，第一部分，这一篇讲下SOM的概念和原理，是本文的第二部分。1、SOM背景1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网，简称SOM网，又称Kohonen网。Kohonen认为：一个神经网络接受外界输入模式时，... 阅读全文
posted @ 2016-03-08 22:50 DownUp 阅读(1196) 评论(0) 推荐(1)
自组织神经网络介绍：自组织特征映射SOM(Self-organizing feature Map)，第一部分
摘要：自组织神经网络介绍：自组织特征映射SOM(Self-organizing feature Map)，第一部分 自组织神经网络介绍：自组织特征映射SOM(Self-organizing feature Map)，第二部分 自组织神经网络介绍：自组织特征映射SOM(Self-organi... 阅读全文
posted @ 2016-03-07 23:21 DownUp 阅读(738) 评论(0) 推荐(0)
机器学习方法（七）：Kmeans聚类K值如何选，以及数据重抽样方法Bootstrapping
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术感兴趣的同学加入。我的博客写一些自己用得到东西，并分享给大家，如果有问题欢迎留言与我讨论：）Kmeans聚类方法是（我认为）最广泛使用以及稳... 阅读全文
posted @ 2016-02-15 22:42 DownUp 阅读(955) 评论(0) 推荐(0)
机器学习方法（六）：随机森林Random Forest，bagging
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术感兴趣的同学加入。前面机器学习方法（四）决策树讲了经典的决策树算法，我们讲到决策树算法很容易过拟合，因为它是通过最佳策略来进行属性分裂的，... 阅读全文
posted @ 2016-01-03 21:47 DownUp 阅读(451) 评论(0) 推荐(0)
深度学习方法：受限玻尔兹曼机RBM（四）对比散度contrastive divergence，CD
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入上篇讲到，如果用Gibbs Sampling方法来训练rbm会非常慢，本篇中介绍一下对比散度contrastive ... 阅读全文
posted @ 2015-12-31 22:29 DownUp 阅读(1500) 评论(0) 推荐(0)
深度学习方法：受限玻尔兹曼机RBM（三）模型求解，Gibbs sampling
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。接下来重点讲一下RBM模型求解方法，其实用的依然是梯度优化方法，但是求解需要用到随机采样的方法，常见的有：Gibb... 阅读全文
posted @ 2015-12-19 08:56 DownUp 阅读(478) 评论(0) 推荐(0)
机器学习方法（五）：逻辑回归Logistic Regression，Softmax Regression
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。前面介绍过线性回归的基本知识，线性回归因为它的简单，易用，且可以求出闭合解，被广泛地运用在各种机器学习应用中。事实... 阅读全文
posted @ 2015-05-12 22:56 DownUp 阅读(340) 评论(0) 推荐(0)
深度学习方法：受限玻尔兹曼机RBM（二）网络模型
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入上解上一篇RBM（一）基本概念，本篇记叙一下RBM的模型结构，以及RBM的目标函数（能量函数），通过这篇就可以了解R... 阅读全文
posted @ 2015-04-22 00:20 DownUp 阅读(609) 评论(0) 推荐(0)
深度学习方法：受限玻尔兹曼机RBM（一）基本概念
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。最近在复习经典机器学习算法的同时，也仔细看了一些深度学习的典型算法。深度学习是机器学习的“新浪潮”，它的成功主要得... 阅读全文
posted @ 2015-04-17 07:53 DownUp 阅读(435) 评论(0) 推荐(0)
机器学习方法：回归（三）：最小角回归Least Angle Regression（LARS），forward stagewise selection
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 希望与志同道合的朋友一起交流，我刚刚设立了了一个技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。前面两篇回归（一）（二）复习了线性回归，以及L1与L2正则——las... 阅读全文
posted @ 2015-04-06 13:40 DownUp 阅读(819) 评论(0) 推荐(0)
机器学习方法(四)：决策树Decision Tree原理与实现技巧
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。前面三篇写了线性回归，lasso，和LARS的一些内容，这篇写一下决策树这个经典的分类算法，后面再提一提随机森林。... 阅读全文
posted @ 2015-04-06 13:33 DownUp 阅读(371) 评论(0) 推荐(0)
机器学习方法：回归（二）：稀疏与正则约束ridge regression，Lasso
摘要：欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。“机器学习方法“系列，我本着开放与共享（open and share）的精神撰写，目的是让更多的人了解机器学习的概念，理解其原理，学会应用。希望与志同道合的朋友一起交流，我刚刚设立了了一个技术交... 阅读全文
posted @ 2015-03-26 22:02 DownUp 阅读(2253) 评论(0) 推荐(0)

1