摘要:
超参调试 深度神经网络需要调试的超参数(Hyperparameters)较多,包括: \(α\) :学习因子 \(β\) :动量梯度下降因子 \(\beta_1,\beta_2,\varepsilon\) :Adam算法参数 #layers:神经网络层数 #hidden units:各隐藏层神经元个 阅读全文
posted @ 2021-06-15 14:56
mmmhongyu
阅读(434)
评论(0)
推荐(0)
摘要:
优化算法 小批量梯度下降 (略) 之前我们介绍的神经网络训练过程是对所有m个样本,称为batch,通过向量化计算方式,同时进行的。如果m很大,例如达到百万数量级,训练速度往往会很慢,因为每次迭代都要对所有样本进行进行求和运算和矩阵运算。我们将这种梯度下降算法称为Batch Gradient Desc 阅读全文
posted @ 2021-06-15 14:52
mmmhongyu
阅读(444)
评论(0)
推荐(0)
摘要:
深度学习的实践层面 数据集的相关问题 在配置训练、验证和测试数据集的过程中做出正确决策会在很大程度上帮助大家创建高效的神经网络。训练神经网络时,我们需要做出很多决策,例如: 神经网络分多少层 每层含有多少个隐藏单元 学习速率是多少 各层采用哪些激活函数 创建新应用的过程中,我们不可能从一开始就准确预 阅读全文
posted @ 2021-06-15 14:47
mmmhongyu
阅读(219)
评论(0)
推荐(0)
摘要:
深层神经网络 目前为止我们学习了只有一个单独隐藏层的神经网络的正向传播和反向传播,还有逻辑回归,并且你还学到了向量化,这在随机初始化权重时是很重要。 本周所要做的是把这些理念集合起来,就可以执行你自己的深度神经网络。 复习下前三周的课的内容: 1.逻辑回归,结构如下图左边。一个隐藏层的神经网络,结构 阅读全文
posted @ 2021-06-15 14:40
mmmhongyu
阅读(672)
评论(0)
推荐(1)
摘要:
单层神经网络 神经网络概述 (省略) 本周你将学习如何实现一个神经网络。在我们深入学习具体技术之前,我希望快速的带你预览一下本周你将会学到的东西。如果这个视频中的某些细节你没有看懂你也不用担心,我们将在后面的几个视频中深入讨论技术细节。 现在我们开始快速浏览一下如何实现神经网络。上周我们讨论了逻辑回 阅读全文
posted @ 2021-06-15 14:14
mmmhongyu
阅读(2363)
评论(0)
推荐(0)
摘要:
神经网络的编程基础 逻辑回归 (省略学过的部分,只整理有些值得记录的地方,或者没学过的知识) 深度学习中的符号约定和之前学的机器学习当中的有些不同。 在深度学习中,逻辑回归的参数设为$w\in{R^}\(,其输出值为\)\hat y=sigmoid(wT+b)$,这个$b$类似于$\theta_0$ 阅读全文
posted @ 2021-06-15 09:28
mmmhongyu
阅读(293)
评论(0)
推荐(0)
摘要:
深度学习 (省略) (因为这一节讲的内容和吴恩达机器学习课程里面的内容重复,故而省略) 阅读全文
posted @ 2021-06-15 09:25
mmmhongyu
阅读(88)
评论(0)
推荐(0)
摘要:
应用实例:图片OCR 图像光学字符识别(optical character recognition)应用所作的事是,从一张给定的图片中识别文字。 这比从一份扫描文档中识别文字要复杂的多。 为了实现这样的应用,通常要经过以下过程: 文字检测(text detection):将图片上的文字与其他环境对象 阅读全文
posted @ 2021-06-15 09:23
mmmhongyu
阅读(188)
评论(0)
推荐(0)
摘要:
大规模机器学习 所谓大规模机器学习,即是处理大数据集的方法。近年来机器学习技术飞速发展,其重要原因是现在有了海量的数据来训练算法。这一章学习能够处理海量数据的算法。 大规模机器学习有其特有的问题,具体来说是计算代价的问题。 假设现有一个样本m=100000000的数据集,这对于现代机器学习问题来说, 阅读全文
posted @ 2021-06-15 09:21
mmmhongyu
阅读(219)
评论(0)
推荐(0)
摘要:
推荐系统 推荐系统广泛地应用在生产当中,如,亚马逊推荐新书给你,淘宝试图推荐新商品给你,等等。这些推荐系统,根据浏览你过去买过什么书,或过去买过什么商品来判断。这些系统会带来很大一部分收入,比如为亚马逊和像阿里巴巴这样的公司。因此,对推荐系统性能的改善,将对这些企业的有实质性和直接的影响。 但是推荐 阅读全文
posted @ 2021-06-15 09:18
mmmhongyu
阅读(149)
评论(0)
推荐(0)

浙公网安备 33010602011771号