无监督构建词库:更快更好的新词发现算法
摘要:无监督构建词库:更快更好的新词发现算法 原创: 苏剑林 PaperWeekly 4天前 作者丨苏剑林 单位丨追一科技 研究方向丨NLP,神经网络 个人主页丨kexue.fm 新词发现是 NLP 的基础任务之一,主要是希望通过无监督发掘一些语言特征(主要是统计特征),来判断一批语料中哪些字符片段可能是
阅读全文
posted @
2019-09-15 15:42
曹明
阅读(2487)
推荐(0)
学界 | 杜克大学NIPS 2017 Oral论文:分布式深度学习训练算法TernGrad
摘要:学界 | 杜克大学NIPS 2017 Oral论文:分布式深度学习训练算法TernGrad 2017-09-11 13:26 学界 | 杜克大学NIPS 2017 Oral论文:分布式深度学习训练算法TernGrad 2017-09-11 13:26 机器之心报道 作者:吴欣 为了提高分布式深度学习
阅读全文
posted @
2019-09-15 15:20
曹明
阅读(401)
推荐(0)
优化方法总结以及Adam存在的问题(SGD, Momentum, AdaDelta, Adam, AdamW,LazyAdam)
摘要:优化方法总结以及Adam存在的问题(SGD, Momentum, AdaDelta, Adam, AdamW,LazyAdam) 2019年05月29日 01:07:50 糖葫芦君 阅读数 455更多 分类专栏: 算法 深度学习 优化方法总结以及Adam存在的问题(SGD, Momentum, Ad
阅读全文
posted @
2019-09-12 21:31
曹明
阅读(253)
推荐(0)
介绍一个全局最优化的方法:随机游走算法(Random Walk)
摘要:介绍一个全局最优化的方法:随机游走算法(Random Walk) 2017年08月12日 12:13:26 ggabcda 阅读数 18464 介绍一个全局最优化的方法:随机游走算法(Random Walk) 2017年08月12日 12:13:26 ggabcda 阅读数 18464 介绍一个全局
阅读全文
posted @
2019-09-12 21:26
曹明
阅读(1296)
推荐(0)
最优化方法系列:Adam+SGD-AMSGrad
摘要:最优化方法系列:Adam+SGD-AMSGrad 2018年06月05日 10:42:21 wishchin 阅读数 6408更多 分类专栏: 数学/工具 STL/算法 ANN/DNN/纤维丛 最优化方法系列:Adam+SGD-AMSGrad 2018年06月05日 10:42:21 wishchi
阅读全文
posted @
2019-09-12 20:53
曹明
阅读(720)
推荐(0)
The Lottery Ticket Hypothesis: 寻找最优子网络结构
摘要:The Lottery Ticket Hypothesis: 寻找最优子网络结构 2019年05月08日 16:27:11 Law-Yao 阅读数 858更多 分类专栏: 深度学习 模型压缩 优化加速 The Lottery Ticket Hypothesis: 寻找最优子网络结构 2019年05月
阅读全文
posted @
2019-09-12 20:48
曹明
阅读(844)
推荐(0)
adam相关的优化器
摘要:adam相关的优化器 2019年03月28日 22:28:41 急流勇进 阅读数 269更多 分类专栏: 深度学习 论文源码解读 adam相关的优化器 2019年03月28日 22:28:41 急流勇进 阅读数 269更多 分类专栏: 深度学习 论文源码解读 adam相关的优化器 adam相关的优化
阅读全文
posted @
2019-09-12 20:46
曹明
阅读(376)
推荐(0)
知识蒸馏(Knowledge Distillation)
摘要:知识蒸馏(Knowledge Distillation) 2018年06月04日 16:55:38 Law-Yao 阅读数 22009更多 分类专栏: 深度学习 模型压缩 优化加速 知识蒸馏(Knowledge Distillation) 2018年06月04日 16:55:38 Law-Yao 阅
阅读全文
posted @
2019-09-12 20:46
曹明
阅读(4068)
推荐(0)
Bag of Tricks for Image Classification with Convolutional Neural Networks 论文讲解
摘要:Bag of Tricks for Image Classification with Convolutional Neural Networks 论文讲解 2019年03月28日 20:40:17 急流勇进 阅读数 238更多 分类专栏: 论文解析 技巧/经验/心得 Bag of Tricks f
阅读全文
posted @
2019-09-12 20:36
曹明
阅读(192)
推荐(0)
网络结构搜索(3) —— Simple and efficient architecture search for convolutional neural network
摘要:网络结构搜索(3) —— Simple and efficient architecture search for convolutional neural network 网络结构搜索(3) —— Simple and efficient architecture search for convo
阅读全文
posted @
2019-09-10 20:19
曹明
阅读(454)
推荐(0)
神奇的拉普拉斯平滑(Laplacian Smoothing)及其在正则化上的应用~
摘要:神奇的拉普拉斯平滑(Laplacian Smoothing)及其在正则化上的应用~ 2014年10月20日 17:05:21 迷雾forest 阅读数 26229 文章标签: 数学算法正则机器学习应用更多 分类专栏: 模式识别&机器学习 数学 子空间学习 最优化 神奇的拉普拉斯平滑(Laplacia
阅读全文
posted @
2019-09-10 18:25
曹明
阅读(2776)
推荐(0)
从头开始了解Transformer
摘要:从头开始了解Transformer AI科技评论 1周前 文章转载自公众号 哈工大SCIR , 作者 哈工大SCIR 本文来自公众号:哈工大SCIR,AI科技评论获授权转载,如需转载,请联系出处。 作者:Peter Bloem 原文:TRANSFORMERS FROM SCRATCH 链接:http
阅读全文
posted @
2019-09-10 17:44
曹明
阅读(5566)
推荐(0)
深度学习池化方法综述
摘要:深度学习池化方法综述 1.平均池化 2.最大池化 3.全局池化 4.Compact Bilinear Pooling https://github.com/ronghanghu/tensorflow_compact_bilinear_pooling 5.Spatial Pyramid Pooling
阅读全文
posted @
2019-09-04 19:45
曹明
阅读(382)
推荐(0)
tensorflow机器学习模型的跨平台上线
摘要:tensorflow机器学习模型的跨平台上线 在用PMML实现机器学习模型的跨平台上线中,我们讨论了使用PMML文件来实现跨平台模型上线的方法,这个方法当然也适用于tensorflow生成的模型,但是由于tensorflow模型往往较大,使用无法优化的PMML文件大多数时候很笨拙,因此本文我们专门讨
阅读全文
posted @
2019-09-02 21:02
曹明
阅读(120)
推荐(0)
xlnet中文文本分类任务
摘要:xlnet中文文本分类任务 ,出来之后尝试了下中文文本分类模型,xlnet模型相比bert有很多东西做了改变,模型层面的不多说,目前放出来的中文文本分类模型是采用24层的网络结果,和中文版的bert12层的网络大了两倍,之前论文出来时候有很多,主要是中文数据处理的问题,模型采用的sentencepi
阅读全文
posted @
2019-09-02 20:49
曹明
阅读(3061)
推荐(0)
JPMML解析PMML模型并导入数据进行分析生成结果
摘要:JPMML解析PMML模型并导入数据进行分析生成结果 2018-05-12 15:53 halberts 阅读(5469) 评论(1) 编辑 收藏 JPMML解析Random Forest模型并使用其预测分析 导入Jar包 maven 的pom.xml文件中添加jpmml的依赖 <dependenc
阅读全文
posted @
2019-09-02 20:46
曹明
阅读(1228)
推荐(0)
LSTM模型与前向反向传播算法
摘要:LSTM模型与前向反向传播算法 在循环神经网络(RNN)模型与前向反向传播算法中,我们总结了对RNN模型做了总结。由于RNN也有梯度消失的问题,因此很难处理长序列的数据,大牛们对RNN做了改进,得到了RNN的特例LSTM(Long Short-Term Memory),它可以避免常规RNN的梯度消失
阅读全文
posted @
2019-09-02 20:40
曹明
阅读(754)
推荐(0)