摘要:偶然发现前文: 【转载】 PyTorch下训练数据小文件转大文件读写(附有各种存储格式对比) 在谈论pytorch的文件读取问题,因为以前是搞TensorFlow的,后来由于编写效率和生态环境问题转为了pytorch,但是同时也发现pytorch不像TensorFlow那样有专用的文件存储格式,因为
阅读全文
摘要:版权声明:本文为CSDN博主「Liekkas Kono」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接: https://blog.csdn.net/shiwanghualuo/article/details/120778553 引言 Tensorflow
阅读全文
摘要:把某个RGB格式的图片以字节码的形式读入到内存中,然后使用PIL 和 CV2 来进行读写,并转成np.array 格式。 代码: from PIL import Image import cv2 import numpy as np from io import BytesIO f_path = '
阅读全文
摘要:原文地址: https://www.cnblogs.com/flydean/p/14720858.html 简介 之前讲到了NumPy中有多种数据类型,每种数据类型都是一个dtype(numpy.dtype )对象。今天我们来详细讲解一下dtype对象。 dtype的定义 先看下dtype方法的定义
阅读全文
摘要:原文地址: https://www.cnblogs.com/dreamboy2000/p/15350478.html 常用方法 #记住引入numpy时要是用别名np,则所有的numpy字样都要替换 #查询数值类型 >>>type(float) dtype('float64') # 查询字符代码 >>
阅读全文
摘要:原文地址: https://www.cnblogs.com/hhh5460/p/5129032.html 这篇文章我们玩玩numpy的数值数据类型转换 导入numpy >>> import numpy as np 一、随便玩玩 生成一个浮点数组 >>> a = np.random.random(4)
阅读全文
摘要:原文地址: https://www.php.cn/faq/465632.html 区别:大端模式中字数据的高字节存储在低地址中,而字数据的低字节则存放在高地址中;而与大端存储模式相反,在小端存储模式中,低地址中存放的是字数据的低字节,高地址存放的是字数据的高字节。 大端模式和小端模式的区别在C语言中
阅读全文
摘要:版权声明:本文为CSDN博主「Yannick_J」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/don_chiang709/article/details/91489003 运行下面语句清缓存时,报Permis
阅读全文
摘要:参考: 驳“低代码开发取代程序员”论 为什么专业开发者也需要低代码? 推荐视频: https://www.grapecity.com.cn/casestudies/bjym 相关公开课: 《低代码编程扩展实践分享》北京驭梦科技有限公司 我们使用低代码开发技术为第三方冷链物流(3PL冷链)企业提供定制
阅读全文
摘要:本文主要内容如题: 在使用pytorch官方给出的torchvision中的预训练模型参数时为保证收敛性要求使用原始的数据预处理方式 具体的pytorch官方讨论: https://github.com/pytorch/vision/pull/782 原文最初的讨论是数据预训练是否在模型训练的时候显
阅读全文
摘要:代码: https://gist.github.com/pmeier/f5e05285cd5987027a98854a5d155e27 import argparse import multiprocessing from math import ceil import torch from tor
阅读全文
摘要:在 https://github.com/pytorch/vision/issues/3657 中对原始预处理过程中的具体代码形式进行了讨论: 给出了对原始方法猜测后的具体的预处理数据的代码形式: import torch from torchvision import datasets, tran
阅读全文
摘要:魔法常数magic constant、黄金数值的来历及讨论: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225] 在前文已经讨论: 在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值: mean=[0.48
阅读全文
摘要:ImageNet数据集是Vision领域最重要的数据集之一,十分经典也十分常用,但是该数据集体量较大,而且由于在外网下载速度较慢,其中最为重要的一点是该数据集只提供给高校科研工作者,这也就意味着你必须有一个edu的邮箱才可以下载该数据集。 需要注意的是该数据不可用于商用。 数据集的官网地址: htt
阅读全文
摘要:在深度学习的视觉领域中魔法常数一直都存在,而且一直在广泛应用,但是一直也都找不到它的出处,不经意间找到了它的出处。 相关地址: https://pytorch.org/vision/stable/models.html 本文主要介绍一下这个黄金魔法常数的应用之广。 mean=[0.485, 0.45
阅读全文
摘要:安装pytorch时我们一般都是会一并选择安装自带的视觉模型库 torchvision , 该库不仅有经典的视觉模型结构同时还提供了对应参数的下载功能,可以说torchvision库是十分方便于研究视觉的pytorch使用者来使用的。 给出pytorch的视觉库torchvision的GitHub地
阅读全文
摘要:参考前文: https://www.cnblogs.com/devilmaycry812839668/p/15578068.html 从前文我们知道pytorch中是分层进行管理显存的,最小的管理单位是512B,然后上一层是2MB,那么如果我们按照这个原理写一个碎片化的显存分配,就可以实现2GB数据
阅读全文
摘要:原文地址: http://www.shijinglei.com/2020/04/20/pytorch%E9%87%8A%E6%94%BE%E6%98%BE%E5%AD%98/ 最近遇到一个问题,用pytorch跑一个 不固定输入的模型inference,一张图片一张图片的测试。有两张图片分辨率相同,
阅读全文
摘要:参考: 在pytorch中有几个关于显存的关键词: 在pytorch中显存为缓存和变量分配的空间之和叫做reserved_memory,为变量分配的显存叫做memory_allocated,由此可知reserved_memory一定大于等于memory_allocated,但是pytorch获得总显
阅读全文
摘要:参考: https://blog.csdn.net/qq_37189298/article/details/110945128 代码: import torch from torch import cuda import time x = torch.zeros([1,1024,1024,128*2
阅读全文
摘要:参考 : https://blog.csdn.net/weixin_45292794/article/details/108227437 https://blog.csdn.net/jzwong/article/details/110954725 两个pytorch的网络参数统计工具: 1. tor
阅读全文
摘要:参考: https://cloud.tencent.com/developer/article/1626387 据说在pytorch中使用torch.cuda.empty_cache()可以释放缓存空间,于是做了些尝试: 上代码: import torch import time import os
阅读全文
摘要:每个行业都有每个行业的专业网站,不同行业之间往往不互通,比如搞机器学习的就要去CCF的A会网站上找,在dblp,arxiv上找东西,但是电子产品维修领域呢,前段时间自己电脑坏掉了,搞的自己都会成半个维修师傅了,在这过程中发现了电子维修领域的专业网站,分享如下: 网址: https://www.chi
阅读全文
摘要:自己几年前买的暗影2pro前几个月坏掉了,无法充电,而且偶发性掉电,经过长时间研究发现该款电脑存在挑电池和电源适配器的问题。 相关资料: https://www.chinafix.com/thread-1262013-1-1.html#pid18112313 神奇的事情发生了,这个HP2pro暗影笔
阅读全文
摘要:经过长时间研究发现这是一个误区,对于HP暗影系统的笔记本,换非原厂的电源适配器极大功率导致笔记本无法开机或运行不稳定,甚至一定概率上会对笔记本造成性能上的损坏。 资料: 地址: https://www.chinafix.com/thread-1158922-1-1.html
阅读全文
摘要:本文是使用NVIDIA原生管理工具查询NVIDIA显卡使用情况的一些记录(使用远程管理工具的效率没有使用原生管理接口nvml的效率高,有效率需求者建议使用python版本捆绑的nvml库,具体:https://www.cnblogs.com/devilmaycry812839668/p/155654
阅读全文
摘要:本文所述如题; 给出两个python版本的NVIDIA显卡管理查询工具 1. py3nvml github下载地址: https://github.com/fbcotter/py3nvml Requires Python 3.5+. Installation From PyPi: $ pip ins
阅读全文
摘要:参考: https://blog.csdn.net/TracelessLe/article/details/107405544 发现了一个python版本的可以查看和管理NVIDIA显卡的工具pynvml,安装方法: pip install nvidia-ml-py 在这个库的基础上自己写了一个小程
阅读全文
摘要:版权声明:本文为CSDN博主「子木呀」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/qq_41687938/article/details/119994398 tasks用于在launch前执行任务,launc
阅读全文
摘要:相关: Linux环境下配置vscode的C/C++编译环境 本文主要参考: https://zhuanlan.zhihu.com/p/385276301 在VScode中如果要进行C/C++编译需要安装插件: 编写C语言代码: mainX.c #include<stdio.h> void main
阅读全文
摘要:本文所要做的事情不做过多解释,本文前提是使用本地window10上的VScode远程调试Ubuntu上的代码,在该过程中我们需要查看可视化显示,为此我们使用VSCODE插件来实现X11转发。 VScode上如何实现X11转发的文章已经很多了,这个配置过程也不过多解释,推荐参考文章: https://
阅读全文
摘要:这两天收到了NVIDIA公司推送的新闻: https://developer.nvidia.com/zh-cn/blog/gpu-dashboards-in-jupyter-lab/?ncid=em-news-389201&mkt_tok=MTU2LU9GTi03NDIAAAGAVW_jBS5rBg
阅读全文
摘要:最近看了一篇19年ICLR的论文,感觉蛮经典的,这里留存下自己做的PPT。 实证方法研究神经网络的论文。 链接地址: https://arxiv.org/pdf/1803.03635.pdf
阅读全文
摘要:windows10没有系统自带的X11服务器,使用了几款X11的windows下X11服务器软件后发现了一个好用的软件——VcXsrv。 下载地址: https://sourceforge.net/projects/vcxsrv/ 相关资料: https://blog.csdn.net/sy3734
阅读全文
摘要:版权声明:本文为CSDN博主「Flynnsin」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/qq_45830608/article/details/121062661
阅读全文
摘要:由于有多个主机在使用,而且物理位置不在一起,所以以前往往要使用VNC软件来进行远程连接,但是其延迟比较高,使用感受不是很好,而且由于我所使用的多个主机均是Ubuntu系统,于是想到了是否可以使用X11进行屏幕转播,毕竟使用X11转播的话在局域网中进行信号传递就可以,而那些VNC软件往往都是使用远程服
阅读全文
摘要:前一阵看直播推货入手了一款hdmi视频采集卡,如下: 使用这个视频采集卡发现两个问题: 1. 延迟。使用这个采集卡放视频还是可以的,视频播放还算流畅,但是鼠标拖动有较高延迟,使用该视频采集卡即使是使用鼠标开网页也是会有很大延迟,感受很不好。 2. 色彩度低。 颜色失真。 最后发现上面的这两个问题完全
阅读全文
摘要:相关链接: https://www.cnblogs.com/devilmaycry812839668/p/15228316.html 机器问题: 1. 电池时而能充电时而不能充电,有时候使用7天后不能充电,有时候使用10天后不能充电,有时候是使用15天以后不能充电。不能充电后电池电量掉到0%,即使是
阅读全文
摘要:前几天看新闻国产操作系统银河麒麟有了新的更新于是上手搞了一个。 该系统自带驱动,其中包括NVIDIA的显卡驱动,十分神奇,不过这也造成了一个问题就是你自己不好再安装驱动了。 自己手动安装银河麒麟的NVIDIA-driver-460, 报错,如下: 手动修复一直没有成功,最后发现本机自带了一个修复工具
阅读全文
摘要:版权声明:本文为CSDN博主「CPUOS520」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/liuhao_02/article/details/115555014 1、首先打开UltraISO软件,一般选择较
阅读全文
摘要:上半年买了个兆芯CPU的小mini电脑,一直没有换Windows系统,这两天想着就换了过来,具体配置如下: 1. 使用Python死循环代码烧机,性能和我14年买的i5-4200M的Intel CPU性能相当,虽然已经过去了7年,但是能到达这个水平说明国产CPU开个QQ、音乐、网页视频还是可以的。
阅读全文