08 2018 档案

几种常见的损失函数
摘要：1. 损失函数、代价函数与目标函数    损失函数（Loss Function） ：是定义在单个样本上的，是指一个样本的误差。    代价函数（Cost Function） ：是定义在整个训练集上的，是所有样本误差的平均，也就是所有损失函数值的平均。 &ems 阅读全文
posted @ 2018-08-29 13:42 EEEEEcho 阅读(47842) 评论(3) 推荐(5)
神经网络中常用的几种激活函数的理解
摘要：1. 什么是激活函数 在神经网络中，我们经常可以看到对于某一个隐藏层的节点，该节点的激活值计算一般分为两步： （1）输入该节点的值为 \(x_1,x_2\) 时，在进入这个隐藏节点后，会先进行一个线性变换，计算出值 \(z^{[1]} = w_1 x_1 + w_2 x_2 + b^{[1]} = 阅读全文
posted @ 2018-08-16 16:18 EEEEEcho 阅读(57810) 评论(3) 推荐(6)
学习率(Learning rate)的理解以及如何调整学习率
摘要：1. 什么是学习率(Learning rate)？ 学习率(Learning rate)作为监督学习以及深度学习中重要的超参，其决定着目标函数能否收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。 这里以梯度下降为例，来观察一下不同的学习率对代价函数的收 阅读全文
posted @ 2018-08-13 21:49 EEEEEcho 阅读(163479) 评论(2) 推荐(3)
批量梯度下降(BGD)、随机梯度下降(SGD)以及小批量梯度下降(MBGD)的理解
摘要：梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）以及小批量梯度下降（Mini-Batch Gradient Descent）。其中小批量梯度下降法也常 阅读全文
posted @ 2018-08-10 11:57 EEEEEcho 阅读(103637) 评论(19) 推荐(38)
Ubuntu下tensorboard的使用
摘要：1. 找到运行程序的事件输出路径 找到路径并进入，例如我的是在路径/home/ly/codes下： 2. 打开tensorboard服务器 在终端输入（--logdir=自己所存的路径）： tensorboard --logdir=/home/ly/codes 终端显示： 打开浏览器，输入终端提供网 阅读全文
posted @ 2018-08-09 15:23 EEEEEcho 阅读(8498) 评论(0) 推荐(0)
Ubuntu中Google Chrome安装
摘要：转载自 "博客" 1. 方法一   1、在ubuntu中启动终端   2、在终端中，输入以下命令：   将下载源加入到系统的源列表。   如果返回“地址解析错误”等信息，可以百度搜索其他提供 Chrome 下载的源，用其 阅读全文
posted @ 2018-08-09 09:43 EEEEEcho 阅读(2423) 评论(0) 推荐(0)
关于双系统下Ubuntu不能访问Windows中某个盘的问题
摘要：1.问题描述   在Ubuntu系统下访问Windows系统中磁盘时出现无法访问的情况，具体如下显示：   该问题为磁盘挂载错误，需要进行修复。 2.解决办法   （1）打开终端：如果没有安装ntfs 3g，需要先进行安装：  & 阅读全文
posted @ 2018-08-09 09:00 EEEEEcho 阅读(961) 评论(0) 推荐(0)
numpy.random.shuffle()与numpy.random.permutation()的区别
摘要：参考API：https://docs.scipy.org/doc/numpy/reference/routines.random.html 1. numpy.random.shuffle()   API中关于该函数是这样描述的： Modify a sequence in plac 阅读全文
posted @ 2018-08-08 09:25 EEEEEcho 阅读(8410) 评论(0) 推荐(3)