02 2019 档案

Udacity DRL Project1 Navigation
摘要:Deep Q Network Introdution There are 8 details of the paper worth to pay great attention to. Details on Navigation Project Navigation Setting State Sp 阅读全文

posted @ 2019-02-24 15:20 bourne_lin 阅读(349) 评论(0) 推荐(0)

Udacity DRL DQN
摘要:A. DQN文章细节要点Pre-processing: 将原始输入转化为正方形照片,这样可以使用gpu加速训练。Frames Stacking : 将连续的四帧图片打包成一个输入,即84 * 84 * 4,因此DQN也可以capture time correlation.Frame-Skipping Technique:训练时,每4帧选择一次动作Experience Replay:data eff... 阅读全文

posted @ 2019-02-19 09:40 bourne_lin 阅读(506) 评论(0) 推荐(0)

Udacity DRL DQN project
摘要:使用namedtuple创建 (s, a, s', r)的存储,可以根据名称作为索引。(命名元组赋予每个位置一个含义,提供可读性和自文档性。它们可以用于任何普通元组,并添加了通过名字获取值的能力,通过索引值也是可以的。)然后在使用batch_SGD训练的时候,可以依次按照名称进行打包,返回batch。(当然在这里用索引也是可以的,但代码可读性稍差)创建replay buffer用deque线程... 阅读全文

posted @ 2019-02-18 16:37 bourne_lin 阅读(176) 评论(0) 推荐(0)

Udacity DL CNN Dog_Project Note
摘要:当显示cuda内存不够的时候,可以尝试减少batch的数量当出现“cuda runtime error (59)”时,有可能是网络的最后一层输出的数量比数据集的label少。(最后一层的输出数量多于数据集的时候不会报错,因为训练的时候由于不存在多出来的label,多出来的输出神经元就等于没训练)train的时候用model.train(), test和valid的时候用model.eval()记得... 阅读全文

posted @ 2019-02-16 16:23 bourne_lin 阅读(132) 评论(0) 推荐(0)

Batch Normalization
摘要:优点:减少训练时间,使得更深的网络可训练:由于更小的 internal covariate shift,可以使用更大的learning rate;缓解梯度消失问题(对于sigmoid,tanh等).对于数据的初始化敏感度更低. 减少overfitting的可能(因此也不需要太多的regularization).I. Main Idea1. What若不对输入数据作scaling,数据的量级差异会... 阅读全文

posted @ 2019-02-16 16:21 bourne_lin 阅读(263) 评论(0) 推荐(0)

Udacity DL Style Transfer
摘要:Style Transfer 的要点: 1. CNN不是用来传统的分类训练:网络训练的是target image,而不是网络的parameters (当然这里的网络是已经trained好的)。 2. target image由content image 和 style image组成。 3. image的style 由每一层layer中的feature maps之间的correlat... 阅读全文

posted @ 2019-02-16 16:20 bourne_lin 阅读(348) 评论(0) 推荐(0)

Transfer Learning
摘要:本文中的source data 和target data分别是有大量的非当前任务数据集和少量的当前任务数据集。  2 examples:  Both Labeled 1. Model Fine Tuning  当target data的量很少的时候,称为one-shot learning。 F 阅读全文

posted @ 2019-02-16 16:18 bourne_lin 阅读(496) 评论(0) 推荐(0)

github note
摘要:PreviewGit : a version control systemGithub: a code sharing and collaboration platformGitcommitUser-created checkpoint called Commit, and you should commit a message each time a commit is create(mak... 阅读全文

posted @ 2019-02-09 22:36 bourne_lin 阅读(270) 评论(0) 推荐(0)

导航