随笔分类 -  PyTorch

对PyTorch的学习积累
摘要:Pytorch是深度学习领域中非常流行的框架之一,支持的模型保存格式包括.pt和.pth .bin .onnx。这几种格式的文件都可以保存Pytorch训练出的模型,但是它们的区别是什么呢? ### 模型的保存与加载到底在做什么? 我们在使用pytorch构建模型并且训练完成后,下一步要做的就是把这 阅读全文
posted @ 2023-07-28 16:35 反神经全栈 阅读(5889) 评论(0) 推荐(0)
摘要:Pytorch保存模型等相关参数,利用`torch.save()`,以及读取保存之后的文件。 ### 函数信息 ```python torch.save(obj, f, pickle_module=pickle, pickle_protocol=DEFAULT_PROTOCOL,_use_new_z 阅读全文
posted @ 2023-07-07 18:22 反神经全栈 阅读(3980) 评论(0) 推荐(0)
摘要:### 基本概念 标量、向量和张量是数学和物理中经常使用的概念,它们的主要区别在于它们所描述的量的性质和维度。 1. 标量(Scalar):标量是一个单独的数,它没有方向和大小之分。在物理学中,标量常常用于描述某个物理量的大小,比如温度、质量、时间等。标量可以用一个数字或符号表示,例如,温度为 20 阅读全文
posted @ 2023-06-30 16:04 反神经全栈 阅读(4198) 评论(0) 推荐(0)
摘要:`torch.multiprocessing.spawn` 是 PyTorch 中用于启动多进程的函数,可以用于分布式训练等场景。其函数签名如下: ```python torch.multiprocessing.spawn( fn, args=(), nprocs=1, join=True, dae 阅读全文
posted @ 2023-06-26 19:08 反神经全栈 阅读(6592) 评论(0) 推荐(0)
摘要:首先导入依赖的torch包。 ```python import torch ``` 我们设: + seq_len(序列的最大长度):5 + batch_size(批量大小):2 + d_model(每个单词被映射为的向量的维度):10 + heads(多头注意力机制的头数):5 + d_k(每个头的 阅读全文
posted @ 2023-06-26 13:29 反神经全栈 阅读(2061) 评论(0) 推荐(1)
摘要:### 函数简介 Pytorch中的view函数主要用于Tensor维度的重构,即返回一个有相同数据但不同维度的Tensor。 根据上面的描述可知,view函数的操作对象应该是Tensor类型。如果不是Tensor类型,可以通过`tensor = torch.tensor(data)`来转换。 ## 阅读全文
posted @ 2023-06-26 10:07 反神经全栈 阅读(1382) 评论(0) 推荐(0)
摘要:torch.sum()对输入的tensor数据的某一维度求和,一共两种用法。 方法1详解 torch.sum(input, *, dtype=None) → Tensor input:输入的张量 案例 x = torch.randn(2, 3) print(x) y = torch.sum(x) p 阅读全文
posted @ 2023-02-25 20:58 反神经全栈 阅读(4678) 评论(0) 推荐(0)