cltt - 博客园

梯度下降 coursera.org

摘要：即使J（，）=0,也不能是完美估计，因为其他数据可能存在误差取任何颜色并沿着“圆”走，就可以得到相同的成本函数值,右图三个点的J（，）相同越靠近圆心，J(,)越小梯度下降算法可以将代价函数J（）最小化。 J（1,2）改变1,2来最小化J（1,2）梯度下降算法不一定可以找到全局最小值事实证阅读全文

posted @ 2019-12-05 12:28 cltt 阅读(197) 评论(0) 推荐(0)

监督学习和无监督学习

摘要：机器学习：定义一、给予计算机能自我学习的能力而不是编程。定义二、对于某类任务T和性能度量P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么我们称这个计算机程序在从经验E学习监督学习在有监督的学习中，我们得到了一个数据集，并且已经知道正确的输出应该是什么样的，我们认为输入和输出之间阅读全文

posted @ 2019-12-04 15:19 cltt 阅读(548) 评论(0) 推荐(0)

解决www.coursera.org可以登录但无法播放视频

摘要：阅读全文

posted @ 2019-11-30 19:44 cltt 阅读(302) 评论(0) 推荐(0)

手写数字问题

摘要： H3:[1,1] #第一个1表示照片数量，第二个1表示0～9的一个数字 one-hot(上图)就没有1<2<3的大小关系了 #编码方式欧式距离线性很难识别现实的数字问题，如1的字体、倾斜度等 P(1|x)=0.8 #给定x ，label(也就是y)为1的概率为0.8 argmax(pred) # 阅读全文

posted @ 2019-11-26 18:39 cltt 阅读(517) 评论(0) 推荐(0)

pytorch基础

摘要： import torch import time a = torch.randn(10000, 1000)#要有空格 b = torch.randn(1000, 2000)#1000行，2000列的矩阵 t0 = time.time() c = torch.matmul(a, b)#CPU模式的矩阵阅读全文

posted @ 2019-11-26 12:48 cltt 阅读(241) 评论(0) 推荐(0)

ubuntu 17.04 下搭建深度学习环境

摘要： 1.目前使用CPU即可，先不需要显卡配置 2.使用pip3 安装深度学习框架 3.要先安装pip3 #sudo apt install python3-pip https://blog.csdn.net/bjzhaoxiao/article/details/81270368 https://blog 阅读全文

posted @ 2019-11-24 18:37 cltt 阅读(179) 评论(0) 推荐(0)

快捷键

摘要： ctrl+Alt+T :进入终端阅读全文

posted @ 2019-11-23 17:07 cltt 阅读(87) 评论(0) 推荐(0)

递归神经网络

摘要： Relu :梯度非1即0 ：激活函数：输入门：临时的中间状态综合：阅读全文

posted @ 2019-11-23 15:24 cltt 阅读(152) 评论(0) 推荐(0)

模型压缩与加速

摘要：半个1*1，半个3*3 DF*DF ：feature map 的大小 DK*DK :卷积核的大小 M：通道数目在Pointwise Con中，DK=1Xcep 可缩小为1/8 单个BLOCK的参数量变大，但需要的BLOCK的数目减少了 1*1的Pointwise 是为了打通信息流，那么Shuffl 阅读全文

posted @ 2019-11-22 19:49 cltt 阅读(190) 评论(0) 推荐(0)

从神经网络到深度学习

摘要：监督学习：标注数据半监督学习：标注数据和未标注数据无监督学习：未标注学习监督学习的性能最可靠，用于企业通常层间神经元不相通损失函数：每次都找下山最快的方向(梯度下降法)依赖于网络初始值神经网络的缺点：局部最优：下山不一定到最低点梯度弥散：如：1 0.5 0.25 0.125（接近0）阅读全文

posted @ 2019-11-20 19:31 cltt 阅读(327) 评论(0) 推荐(0)