摘要：
# 1. 通常权重衰减等价于L2正则化 控制模型容量方法： - 模型变得比较小，即参数比较少。 - 参数值的选择范围比较小。 权重衰减通过限制参数值的选择范围来控制模型容量： $$ min\ \ell(\mathbf{w}, b) \ \ \ \ subject\ to\ \ ||\mathbf{w 阅读全文
posted @ 2023-06-04 21:29
做梦当财神
阅读(120)
评论(0)
推荐(0)
摘要：
$torchvision.transforms.functional.py$ 中to_tensor()函数源码： def to_tensor(pic) -> Tensor: """Convert a ``PIL Image`` or ``numpy.ndarray`` to tensor. This 阅读全文
posted @ 2023-03-20 10:59
做梦当财神
阅读(292)
评论(0)
推荐(0)
摘要：
讲述with torch.no_grad()前，先讲述requires_grad参数。 1. requires_grad 在 $torch$ 中，$tensor$ 有一个 requires_grad参数，如果设置为 $True$，则反向传播时，该 $tensor$ 就会自动求导。 $tensor$ 阅读全文
posted @ 2023-03-06 23:46
做梦当财神
阅读(331)
评论(0)
推荐(0)
摘要：
训练网络的时候希望保持一部分网络参数不变，只对其中一部分的参数进行调整；或训练部分分支网络，并不让其梯度对主网络的梯度造成影响，这时可以使用detach()切断一些分支的反向传播。 1. tensor.detach() 返回一个新的 $tensor$，从当前计算图中分离下来，但仍指向原 $tenso 阅读全文
posted @ 2023-03-06 23:14
做梦当财神
阅读(435)
评论(0)
推荐(0)
摘要：
```python torch.nn.MaxPool2d(kernel_size, stride=None, padding=0, dilation=1, return_indices=False, ceil_mode=False) ``` $2D$ 最大池化。 **参数：** - `kernel_ 阅读全文
posted @ 2022-12-29 12:23
做梦当财神
阅读(616)
评论(0)
推荐(1)
摘要：
1. torch.cat() torch.cat(tensors, dim=0) 在给定维度中拼接张量序列。 参数： tensors：张量序列。 dim：拼接张量序列的维度。 import torch a = torch.rand(2, 3) b = torch.rand(2, 3) c = tor 阅读全文
posted @ 2022-12-28 17:56
做梦当财神
阅读(500)
评论(0)
推荐(0)
摘要：
真实数据的维度通常很高。例如，彩色图像在高、宽 $2$ 个维度外还有 $RGB$（红、绿、蓝）$3$ 个颜色通道。我们将大小为 $3$ 称为通道数（$channel$）。 1. 多输入通道 卷积核的通道数要和输入通道数一样才能进行互相关运算。 计算过程：先在每个通道上，做互相关运算；再按通道相加得到 阅读全文
posted @ 2022-12-28 12:52
做梦当财神
阅读(354)
评论(0)
推荐(0)
摘要：
目录1. 填充2. 步幅3. 小结 假设输入形状是 \(n_h \times n_w\)，卷积核窗口形状是 \(k_h \times k_w\)，则输出形状是 \[(n_h - k_h + 1) \times (n_w - k_w + 1) \]这里介绍卷积层的两个超参数填充和步幅，它们可以改变输出 阅读全文
posted @ 2022-12-28 12:51
做梦当财神
阅读(170)
评论(0)
推荐(0)
摘要：
描述： 百分位数表示小于这个值的观察值的百分比。 numpy.percentile(a, q, axis) 参数： a：输入数组。 q：计算的百分位数，在 $0-100$ 之间。 axis：沿着它计算百分位数的轴。 interpolation：$str$，用于估计百分位数的方法。默认 $linear 阅读全文
posted @ 2022-12-08 14:24
做梦当财神
阅读(1126)
评论(0)
推荐(0)
摘要：
1. 问题 当时用 from module import *时，希望对从模块或包导出的符号进行精确控制。 2. 解决方案 定义变量 __all__来明确地列出需要导出的内容。 def spam(): pass def grok(): pass blah = 42 # 只导出 spam、grok __ 阅读全文
posted @ 2022-10-17 22:04
做梦当财神
阅读(73)
评论(0)
推荐(0)
浙公网安备 33010602011771号