摘要: 本系列强化学习内容来源自对David Silver课程的学习 课程链接http://www0.cs.ucl.ac.uk/staff/D.Silver/web/Teaching.html 在上一文介绍了RL基础概念和MDP后,本文介绍了在model-free情况下(即不知道回报Rs和状态转移矩阵Pss 阅读全文
posted @ 2020-01-26 12:56 水奈樾 阅读(1498) 评论(0) 推荐(0) 编辑
摘要: 本系列强化学习内容来源自对David Silver课程的学习 课程链接http://www0.cs.ucl.ac.uk/staff/D.Silver/web/Teaching.html 之前接触过RL(Reinforcement Learning) 并且在组会学习轮讲里讲过一次Policy Grad 阅读全文
posted @ 2020-01-25 06:13 水奈樾 阅读(3928) 评论(0) 推荐(1) 编辑
摘要: 0. introduction GAN模型最早由Ian Goodfellow et al于2014年提出,之后主要用于signal processing和natural document processing两方面,包含图片、视频、诗歌、一些简单对话的生成等。由于文字在高维空间上不连续的问题(即任取 阅读全文
posted @ 2019-03-06 18:54 水奈樾 阅读(5110) 评论(1) 推荐(0) 编辑
摘要: # 参考 https://blog.csdn.net/luoyexuge/article/details/84939755 小做改动 需要: github上下载bert的代码:https://github.com/google-research/bert 下载google训练好的中文语料模型:htt 阅读全文
posted @ 2019-02-13 16:04 水奈樾 阅读(10530) 评论(2) 推荐(1) 编辑
摘要: # 好久没更新博客了,有时候随手在本上写写,或者Evernote上记记,零零散散的笔记带来零零散散的记忆o(╥﹏╥)o。。还是整理到博客上比较有整体性,也方便查阅~ 自google在2018年10月底公布BERT在11项nlp任务中的卓越表现后,BERT(Bidirectional Encoder 阅读全文
posted @ 2019-01-16 15:21 水奈樾 阅读(191657) 评论(6) 推荐(19) 编辑
摘要: 众所周知,机器学习的训练数据之所以非常昂贵,是因为需要大量人工标注数据。 autoencoder可以输入数据和输出数据维度相同,这样测试数据匹配时和训练数据的输出端直接匹配,从而实现无监督训练的效果。并且,autoencoder可以起到降维作用,虽然输入输出端维度相同,但中间层可以维度很小,从而起到 阅读全文
posted @ 2018-10-17 11:01 水奈樾 阅读(5173) 评论(1) 推荐(0) 编辑
摘要: 感谢中国人民大学的胡鹤老师,课程容量巨大,收获颇丰。 之前提到的CNN模型主要用到人类的视觉中枢,但其有一劣势,无论是人类的视觉神经还是听觉神经,所接受到的都是一个连续的序列,使用CNN相当于割裂了前后的联系。从而诞生了专门为处理序列的Recurrent Neural Network(RNN),每一 阅读全文
posted @ 2017-12-16 19:24 水奈樾 阅读(21127) 评论(3) 推荐(3) 编辑
摘要: 之前通过各种博客视频学习CNN,总是对参数啊原理啊什么的懵懵懂懂。。这次上课终于弄明白了,O(∩_∩)O~ 上世纪科学家们发现了几个视觉神经特点,视神经具有局部感受野,一整张图的识别由多个局部识别点构成;不同神经元对不同形状有识别能力,且视神经具有叠加能力,高层复杂的图案可以由低层简单线条组成。之后 阅读全文
posted @ 2017-12-04 11:54 水奈樾 阅读(32338) 评论(7) 推荐(8) 编辑
摘要: 感谢中国人民大学的胡鹤老师,人工智能课程讲的很有深度,与时俱进 由于深度神经网络(DNN)层数很多,每次训练都是逐层由后至前传递。传递项<1,梯度可能变得非常小趋于0,以此来训练网络几乎不会有什么变化,即vanishing gradients problem;或者>1梯度非常大,以此修正网络会不断震 阅读全文
posted @ 2017-11-27 10:45 水奈樾 阅读(5749) 评论(2) 推荐(0) 编辑
摘要: 感谢中国人民大学的胡鹤老师,课程理论实践结合,讲得很好~ 神经网络是从生物领域自然的鬼斧神工中学习智慧的一种应用。人工神经网络(ANN)的发展经历的了几次高潮低谷,如今,随着数据爆发、硬件计算能力暴增、深度学习算法的优化,我们迎来了又一次的ANN雄起时代,以深度学习为首的人工神经网络,又一次走入人们 阅读全文
posted @ 2017-11-20 09:58 水奈樾 阅读(5693) 评论(2) 推荐(0) 编辑