最爱丁珰

2025年2月21日

摘要： \(\text{AlexNet}\)最大的问题就是加的层很随意，这里加一点那里加一点，结构就不清晰，也就是说我们还不能够很好的回答“如何更深更大”这一个问题考虑一下这个问题如何回答。想一下我们可能的选项如下于是VGG就采用了最后一个选项那么为什么不用\(5\times 5\)的卷积层呢？实际上阅读全文

posted @ 2025-02-21 08:33 最爱丁珰阅读(78) 评论(0) 推荐(0)

7.1.4 训练AlexNet

摘要：在训练AlexNet时使用更小的学习率，主要原因可以从以下角度结合具体例子理解： 1. 网络更深更广，梯度传递更敏感 LeNet：仅有5层（2卷积+3全连接），参数少，梯度反向传播时链式法则的连乘次数少，梯度幅度相对稳定。 AlexNet：8层（5卷积+3全连接），参数数量大幅增加（如第一个全连接层阅读全文

posted @ 2025-02-21 08:25 最爱丁珰阅读(37) 评论(0) 推荐(0)

2025年2月20日

1.1.3 什么是协议

摘要： ![image](https://img2024.cnblogs.com/blog/2490134/202502/2490134-20250220200746459-822320241.png) 阅读全文

posted @ 2025-02-20 20:08 最爱丁珰阅读(12) 评论(0) 推荐(0)

6.6.2 模型训练

摘要： f isinstance(net, nn.Module): net.eval() # 设置为评估模式 if not device: device = next(iter(net.parameters())).device 对于这段代码，作用如下 net.eval()设置为评估模式之后，某些层（如 D 阅读全文

posted @ 2025-02-20 12:26 最爱丁珰阅读(43) 评论(0) 推荐(0)

6.2.6 特征映射和感受野

摘要：这里看英文原版更好语句更通顺，还有补充上面的图片其实就是想说明低层的CNN可以检测边缘什么的（右侧图像是中间的图像与左侧图像做卷积的结果）阅读全文

posted @ 2025-02-20 09:58 最爱丁珰阅读(9) 评论(0) 推荐(0)

2025年2月19日

第三课 Rossman销售预测

摘要：目录加载数据处理缺失数据划分训练集和验证集合并数据集特征工程构建模型定义损失函数模型训练模型优化加载数据处理缺失数据发现只有测试数据的Open有十一个空的（训练数据没有）。由于很少，我们直接将其找出，如下 cond = test['Open'].isnull() test[cond] 输出结果阅读全文

posted @ 2025-02-19 22:41 最爱丁珰阅读(23) 评论(0) 推荐(0)

2.1.5 节省内存

摘要：首先来介绍一下可变对象和不可变对象可变对象：整数，浮点数，字符串，元组等不可变对象：列表，字典，集合等然后看一下Python中内存分配的方式执行x=1会发生什么？此时，内存会分配一个地址给1，1是一个整型对象，而x是一个引用（不是对象！），指向1所在的位置，并不占用实际的内存空间，用图像表示阅读全文

posted @ 2025-02-19 22:07 最爱丁珰阅读(39) 评论(0) 推荐(0)

184 注意力模型直觉

摘要：之前我们学的RNN尝试先把整个句子全部都记下来，然后在进行翻译，所以可能出现一个问题，就是我们的模型没能够记住句子，这就是导致我们的\(\text{BLEU}\)分数下降。但是注意力机制让我们像人类一样翻译，也就是先翻译一部分，再翻译一部分，他和前者的\(\text{BLEU}\)分数曲线如下蓝色阅读全文

posted @ 2025-02-19 15:14 最爱丁珰阅读(17) 评论(0) 推荐(0)

186 语音识别

摘要：语音识别使用注意力机制，输入是不同时间帧的音频，如下但是有一个问题，就是语音识别中，很可能输入的长度要比（我们想要的）输出的长度长的多，这个时候可以利用类似“填充”的技巧让两者的长度一样，如下（假设输入的音频说的话是the quick brown fox）上图只是一个很简单的示例。现实中很可能使阅读全文

posted @ 2025-02-19 15:09 最爱丁珰阅读(18) 评论(0) 推荐(0)

185 注意力模型（看不懂是什么模型，有空了重新看视频）

摘要：我们利用\(\text{GRU}\)或者\(\text{LSTM}\)构建一个双向循环神经网络如下然后预测的时候我们使用普通的RNN，但是这个RNN的输入取决于源句子的每一个单词的加权和。我们用\(y\)表示预测的句子，\(a\)表示输入的句子，那么也就是说我们定义\(\alpha^{\left< 阅读全文

posted @ 2025-02-19 14:40 最爱丁珰阅读(22) 评论(0) 推荐(0)

公告