摘要：
通过正则化避免过拟合。 深度神经网络通常拥有数万个参数，有时甚至有数百万个。这个深度神经网络带来了难以置信的自由度，意味着它们可以拟合各种各样的复杂数据集。 但是这种巨大的灵活性也使网络易于过拟合训练集。此时就需要正则化。 $\ell_1$和$\ell_2$正则化 可以使用$\ell_2$正则化来约 阅读全文
posted @ 2021-10-03 10:39
里列昂遗失的记事本
阅读(206)
评论(0)
推荐(0)
摘要：
动量优化 想象一下，一个保龄球在光滑的表面上沿着平缓的坡度滚动：它开始速度很慢，在很快会获得动量，直到最终达到终极速度（如果有摩擦或空气阻力）。相比之下，常规的梯度下降法只是在斜坡上采取小的、常规的步骤，因此算法将花费更多时间到达底部 回想一下梯度下降通过直接减去权重的成本函数$J(\theta)\ 阅读全文
posted @ 2021-09-30 09:13
里列昂遗失的记事本
阅读(302)
评论(0)
推荐(0)
摘要：
用Keras进行迁移学习 假如Fashion MNIST数据集包含了8个类别，例如，除凉鞋和衬衫之外的所有类别。有人在该数据集上建立并训练的Keras模型，并获得了相当不错的性能（精度>90%）。将此模型称为模型A。现在要处理另一项任务：有凉鞋和衬衫的图像，想要训练一个二元分类器（正=衬衫，负=凉鞋 阅读全文
posted @ 2021-09-28 20:15
里列昂遗失的记事本
阅读(69)
评论(0)
推荐(0)
摘要：
IMDB数据集 它包含来自互联网电影数据库（IMDB）的50000条严重两极分化的评论 数据集被分为用于训练的25000条评论与用于测试的25000条评论 训练集和测试集都包含50%的正面评论和50%的负面评论 加载IMDB数据集 import tensorflow as tf from tenso 阅读全文
posted @ 2021-09-27 21:15
里列昂遗失的记事本
阅读(346)
评论(0)
推荐(0)
摘要：
def f(x): return x ** 3 - 2 * x + 1 # 返回函数的值 def f1(s0, s1, s2): return (((s1 ** 2 - s2 ** 3) * f(s0) + (s2 ** 2 - s0 ** 2) * f(s1) + (s0 ** 2 - s1 ** 阅读全文
posted @ 2021-09-26 22:35
里列昂遗失的记事本
阅读(135)
评论(0)
推荐(0)
摘要：
梯度消失与梯度爆炸问题 反向传播算法的工作原理是从输出层到输入层次，并在此过程中传播误差梯度。一旦算法计算出损失函数相对于每个参数的梯度，可以使用这些梯度以梯度下降步骤来更新每个参数。 随着算法向下传播到较低层，梯度通常会越来越小。结果梯度下降更新使较低层的连接权重保持不变，训练不能收敛到一个良好的 阅读全文
posted @ 2021-09-26 21:15
里列昂遗失的记事本
阅读(512)
评论(0)
推荐(0)
摘要：
构造字典 DIAL_COODES=[ # 一个承载成对数据的列表，可以直接用在字典的构造方法中 (86,'China'), (91,'India'), (1,'United States'), (62,'Indonesia'), (55,'Brazil'), (92,'Pakistan'), (88 阅读全文
posted @ 2021-09-26 20:37
里列昂遗失的记事本
阅读(56)
评论(0)
推荐(0)
摘要：
def fun(x): return x ** 3 - 2 * x + 1 def solve(a, b, epsilon): lamd = (5 ** 0.5 - 1) / 2 delta = b - a p = a + (1 - lamd) * (b - a) q = a + lamd * (b 阅读全文
posted @ 2021-09-26 20:17
里列昂遗失的记事本
阅读(863)
评论(0)
推荐(0)
摘要：
利用顺序API构建回归MLP 用回归神经网络解决加州的住房问题 用Sickit-Learn中的fetch_california_housing()函数加载数据 from sklearn.datasets import fetch_california_housing from sklearn.mod 阅读全文
posted @ 2021-09-19 17:01
里列昂遗失的记事本
阅读(1085)
评论(0)
推荐(0)
摘要：
import os import tarfile import urllib DOWNLOAD_ROOT = 'https://raw.githubusercontent.com/ageron/handson-ml2/master/' HOUSING_PATH = os.path.join('dat 阅读全文
posted @ 2021-09-19 09:46
里列昂遗失的记事本
阅读(157)
评论(0)
推荐(0)
浙公网安备 33010602011771号