最爱丁珰

摘要： 这里的键可以理解成\(x\)，值可以理解成\(y\)，也就是说每一个\(x\)都会对应一个\(y\)（在这个情形下，\(x\)和\(y\)都可以是向量，而且维度不一定相同）；查询可以理解成一个我们想要预测的量\(z\)，想要预测\(z\)的输出\(y\)是多少（注意\(z\)的维度不一定要与\(x\ 阅读全文

摘要： Problem Set 1.1 Problem 1.1.1 \(1)\) 基本情况：若\(z=0\)，则\(yz=0\)，返回正确值 归纳假设：令\(d\)为一个常数，假设\(\forall z<d\)，算法返回正确值 归纳步骤：若\(z=d\)，利用数学归纳法 若\(z\)为偶数，则返回\(\te 阅读全文

摘要： torch.repeat_interleave 用于按指定规则重复张量的元素，支持按维度扩展或自定义每个元素的重复次数。以下是详细说明和示例： 作用 功能：沿特定维度重复张量的元素，支持两种模式： 统一重复次数：所有元素重复相同次数。 自定义重复次数：每个元素按单独指定的次数重复。 与 torch. 阅读全文

摘要： 可以发现\(\text{AlexNet}\)和VGG最后面的网络都是全连接层，但是有如下问题 基本上所有参数都集中在最后的全连接层（这样导致计算慢内存大还很容易过拟合，比如我们期望三层全连接层学习完所有特征，但是一层就把所有特征学习完了） 所以我们要替换掉最后的全连接层。我们可以使用\(1\time 阅读全文

摘要： \(\text{AlexNet}\)最大的问题就是加的层很随意，这里加一点那里加一点，结构就不清晰，也就是说我们还不能够很好的回答“如何更深更大”这一个问题 考虑一下这个问题如何回答。想一下我们可能的选项如下 于是VGG就采用了最后一个选项 那么为什么不用\(5\times 5\)的卷积层呢？实际上 阅读全文

摘要： 在训练AlexNet时使用更小的学习率，主要原因可以从以下角度结合具体例子理解： 1. 网络更深更广，梯度传递更敏感 LeNet：仅有5层（2卷积+3全连接），参数少，梯度反向传播时链式法则的连乘次数少，梯度幅度相对稳定。 AlexNet：8层（5卷积+3全连接），参数数量大幅增加（如第一个全连接层 阅读全文

摘要：  阅读全文

摘要： f isinstance(net, nn.Module): net.eval() # 设置为评估模式 if not device: device = next(iter(net.parameters())).device 对于这段代码，作用如下 net.eval()设置为评估模式之后，某些层（如 D 阅读全文

摘要： 这里看英文原版更好语句更通顺，还有补充 上面的图片其实就是想说明低层的CNN可以检测边缘什么的（右侧图像是中间的图像与左侧图像做卷积的结果） 阅读全文

摘要： 目录加载数据处理缺失数据划分训练集和验证集合并数据集特征工程构建模型定义损失函数模型训练模型优化 加载数据 处理缺失数据 发现只有测试数据的Open有十一个空的（训练数据没有）。由于很少，我们直接将其找出，如下 cond = test['Open'].isnull() test[cond] 输出结果 阅读全文