摘要:机器学习算法中经常碰到非线性优化问题,如 Sparse Filtering 算法,其主要工作在于求解一个非线性极小化问题。在具体实现中,大多调用的是成熟的软件包做支撑,其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理,这几天做了一些调研,现把学习过程中理解的一些东西整理出... 阅读全文
posted @ 2014-03-24 00:51 peghoty 阅读(330) 评论(0) 推荐(0) 编辑
摘要:假设我们手头有大量的文档(或网页), 通常我们会比较关心以下几个问题:1. 每一个文档的关键词(或主题词)包括哪些?2. 给定一个(或一组)关键词,与这个(或组)词最相关的文档是哪一个?3. 给定一个文档,哪个(或哪些)文档与它具有最大的相似度呢? 回答上述三... 阅读全文
posted @ 2014-03-10 22:58 peghoty 阅读(140) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-18 14:43 peghoty 阅读(166) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-18 14:42 peghoty 阅读(256) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-18 14:42 peghoty 阅读(495) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-14 18:14 peghoty 阅读(350) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-13 23:36 peghoty 阅读(259) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-13 23:36 peghoty 阅读(474) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充... 阅读全文
posted @ 2014-02-13 23:36 peghoty 阅读(131) 评论(0) 推荐(0) 编辑
摘要:去年 6 月份写的博文《Yusuke Sugomori 的 C 语言 Deep Learning 程序解读》是囫囵吞枣地读完一个关于 DBN 算法的开源代码后的笔记,当时对其中涉及的算法原理基本不懂。近日再次学习 RBM,觉得有必要将其整理成笔记,算是对那个代码的一个补充。目录链接(一... 阅读全文
posted @ 2014-02-13 23:36 peghoty 阅读(1012) 评论(0) 推荐(1) 编辑
摘要:最近针对之前发表的一篇博文《Deep Learning 在中文分词和词性标注任务中的应用》中的算法做了一个实现,感觉效果还不错。本文主要是将我在程序实现过程中的一些数学细节整理出来,借此优化一下自己的代码,也希望为对此感兴趣的朋友提供点参考。文中重点介绍训练算法中的模型参数计算,以及... 阅读全文
posted @ 2013-12-04 18:28 peghoty 阅读(1736) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在HMM 学习最佳范例,这是针对国外网站上一个 HMM 教程的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,这里结... 阅读全文
posted @ 2013-11-11 11:53 peghoty 阅读(215) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:53 peghoty 阅读(231) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:53 peghoty 阅读(262) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:53 peghoty 阅读(322) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:52 peghoty 阅读(426) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:52 peghoty 阅读(193) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,这... 阅读全文
posted @ 2013-11-11 11:52 peghoty 阅读(234) 评论(0) 推荐(0) 编辑
摘要:本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在 HMM 学习最佳范例,这是针对 国外网站上一个 HMM 教程 的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,... 阅读全文
posted @ 2013-11-11 11:52 peghoty 阅读(502) 评论(0) 推荐(0) 编辑
摘要:开源软件包 SENNA 和 word2vec 中都用到了词向量(distributed word representation),当时我就在想,对于我们的中文,是不是也类似地有字向量(distributed character representation)的概念呢? 最近恰好... 阅读全文
posted @ 2013-10-30 01:20 peghoty 阅读(1192) 评论(0) 推荐(0) 编辑