11 2021 档案

pytorch不像TensorFlow那样有专用的文件存储格式真的是不足吗?pytorch该如何处理大量小文件的读取呢?
摘要:偶然发现前文: 【转载】 PyTorch下训练数据小文件转大文件读写(附有各种存储格式对比) 在谈论pytorch的文件读取问题,因为以前是搞TensorFlow的,后来由于编写效率和生态环境问题转为了pytorch,但是同时也发现pytorch不像TensorFlow那样有专用的文件存储格式,因为 阅读全文

posted @ 2021-11-30 00:19 Angry_Panda 阅读(446) 评论(0) 推荐(0)

【转载】 PyTorch下训练数据小文件转大文件读写(附有各种存储格式对比)
摘要:版权声明:本文为CSDN博主「Liekkas Kono」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接: https://blog.csdn.net/shiwanghualuo/article/details/120778553 引言 Tensorflow 阅读全文

posted @ 2021-11-29 23:37 Angry_Panda 阅读(656) 评论(0) 推荐(0)

PIL 和 python-opencv 从内存字节码中读取图片并转为np.array格式
摘要:把某个RGB格式的图片以字节码的形式读入到内存中,然后使用PIL 和 CV2 来进行读写,并转成np.array 格式。 代码: from PIL import Image import cv2 import numpy as np from io import BytesIO f_path = ' 阅读全文

posted @ 2021-11-29 14:37 Angry_Panda 阅读(1259) 评论(1) 推荐(0)

【转载】 NumPy之:数据类型对象dtype
摘要:原文地址: https://www.cnblogs.com/flydean/p/14720858.html 简介 之前讲到了NumPy中有多种数据类型,每种数据类型都是一个dtype(numpy.dtype )对象。今天我们来详细讲解一下dtype对象。 dtype的定义 先看下dtype方法的定义 阅读全文

posted @ 2021-11-28 07:19 Angry_Panda 阅读(351) 评论(0) 推荐(0)

【转载】 关于Numpy数据类型对象(dtype)使用详解
摘要:原文地址: https://www.cnblogs.com/dreamboy2000/p/15350478.html 常用方法 #记住引入numpy时要是用别名np,则所有的numpy字样都要替换 #查询数值类型 >>>type(float) dtype('float64') # 查询字符代码 >> 阅读全文

posted @ 2021-11-27 20:44 Angry_Panda 阅读(253) 评论(0) 推荐(0)

【转载】 numpy数据类型dtype转换
摘要:原文地址: https://www.cnblogs.com/hhh5460/p/5129032.html 这篇文章我们玩玩numpy的数值数据类型转换 导入numpy >>> import numpy as np 一、随便玩玩 生成一个浮点数组 >>> a = np.random.random(4) 阅读全文

posted @ 2021-11-27 20:39 Angry_Panda 阅读(418) 评论(0) 推荐(0)

【转载】 大端模式和小端模式的区别是什么?
摘要:原文地址: https://www.php.cn/faq/465632.html 区别:大端模式中字数据的高字节存储在低地址中,而字数据的低字节则存放在高地址中;而与大端存储模式相反,在小端存储模式中,低地址中存放的是字数据的低字节,高地址存放的是字数据的高字节。 大端模式和小端模式的区别在C语言中 阅读全文

posted @ 2021-11-27 20:08 Angry_Panda 阅读(851) 评论(0) 推荐(0)

【转载】 解决 sudo echo x > 时的 Permission denied错误
摘要:版权声明:本文为CSDN博主「Yannick_J」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/don_chiang709/article/details/91489003 运行下面语句清缓存时,报Permis 阅读全文

posted @ 2021-11-27 11:08 Angry_Panda 阅读(709) 评论(0) 推荐(0)

EDI企业订单报文系统——冷链物流管理系统——低代码的应用
摘要:参考: 驳“低代码开发取代程序员”论 为什么专业开发者也需要低代码? 推荐视频: https://www.grapecity.com.cn/casestudies/bjym 相关公开课: 《低代码编程扩展实践分享》北京驭梦科技有限公司 我们使用低代码开发技术为第三方冷链物流(3PL冷链)企业提供定制 阅读全文

posted @ 2021-11-27 09:56 Angry_Panda 阅读(302) 评论(1) 推荐(0)

在使用pytorch官方给出的torchvision中的预训练模型参数时为保证收敛性要求使用原始的数据预处理方式
摘要:本文主要内容如题: 在使用pytorch官方给出的torchvision中的预训练模型参数时为保证收敛性要求使用原始的数据预处理方式 具体的pytorch官方讨论: https://github.com/pytorch/vision/pull/782 原文最初的讨论是数据预训练是否在模型训练的时候显 阅读全文

posted @ 2021-11-23 20:42 Angry_Panda 阅读(234) 评论(0) 推荐(0)

在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值的复现: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225]
摘要:代码: https://gist.github.com/pmeier/f5e05285cd5987027a98854a5d155e27 import argparse import multiprocessing from math import ceil import torch from tor 阅读全文

posted @ 2021-11-23 15:13 Angry_Panda 阅读(213) 评论(0) 推荐(0)

在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值的具体计算形式: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225]
摘要:在 https://github.com/pytorch/vision/issues/3657 中对原始预处理过程中的具体代码形式进行了讨论: 给出了对原始方法猜测后的具体的预处理数据的代码形式: import torch from torchvision import datasets, tran 阅读全文

posted @ 2021-11-23 10:32 Angry_Panda 阅读(163) 评论(0) 推荐(0)

在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值的来历及讨论: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225]
摘要:魔法常数magic constant、黄金数值的来历及讨论: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225] 在前文已经讨论: 在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值: mean=[0.48 阅读全文

posted @ 2021-11-22 22:48 Angry_Panda 阅读(537) 评论(0) 推荐(0)

ImageNet数据集下载
摘要:ImageNet数据集是Vision领域最重要的数据集之一,十分经典也十分常用,但是该数据集体量较大,而且由于在外网下载速度较慢,其中最为重要的一点是该数据集只提供给高校科研工作者,这也就意味着你必须有一个edu的邮箱才可以下载该数据集。 需要注意的是该数据不可用于商用。 数据集的官网地址: htt 阅读全文

posted @ 2021-11-22 22:07 Angry_Panda 阅读(16209) 评论(0) 推荐(1)

在深度学习的视觉VISION领域数据预处理的魔法常数magic constant、黄金数值: mean=[0.485, 0.456, 0.406],std=[0.229, 0.224, 0.225]
摘要:在深度学习的视觉领域中魔法常数一直都存在,而且一直在广泛应用,但是一直也都找不到它的出处,不经意间找到了它的出处。 相关地址: https://pytorch.org/vision/stable/models.html 本文主要介绍一下这个黄金魔法常数的应用之广。 mean=[0.485, 0.45 阅读全文

posted @ 2021-11-22 16:54 Angry_Panda 阅读(635) 评论(0) 推荐(0)

PyTorch视觉模型库torchvision.models介绍
摘要:安装pytorch时我们一般都是会一并选择安装自带的视觉模型库 torchvision , 该库不仅有经典的视觉模型结构同时还提供了对应参数的下载功能,可以说torchvision库是十分方便于研究视觉的pytorch使用者来使用的。 给出pytorch的视觉库torchvision的GitHub地 阅读全文

posted @ 2021-11-21 22:35 Angry_Panda 阅读(3754) 评论(0) 推荐(0)

PyTorch显存机制分析——显存碎片问题
摘要:参考前文: https://www.cnblogs.com/devilmaycry812839668/p/15578068.html 从前文我们知道pytorch中是分层进行管理显存的,最小的管理单位是512B,然后上一层是2MB,那么如果我们按照这个原理写一个碎片化的显存分配,就可以实现2GB数据 阅读全文

posted @ 2021-11-21 14:09 Angry_Panda 阅读(2230) 评论(0) 推荐(0)

【转载】 Pytorch手动释放显存
摘要:原文地址: http://www.shijinglei.com/2020/04/20/pytorch%E9%87%8A%E6%94%BE%E6%98%BE%E5%AD%98/ 最近遇到一个问题,用pytorch跑一个 不固定输入的模型inference,一张图片一张图片的测试。有两张图片分辨率相同, 阅读全文

posted @ 2021-11-19 22:28 Angry_Panda 阅读(1622) 评论(1) 推荐(0)

PyTorch显存机制分析
摘要:参考: 在pytorch中有几个关于显存的关键词: 在pytorch中显存为缓存和变量分配的空间之和叫做reserved_memory,为变量分配的显存叫做memory_allocated,由此可知reserved_memory一定大于等于memory_allocated,但是pytorch获得总显 阅读全文

posted @ 2021-11-19 16:39 Angry_Panda 阅读(2085) 评论(0) 推荐(0)

Pytorch训练时显存分配过程探究
摘要:参考: https://blog.csdn.net/qq_37189298/article/details/110945128 代码: import torch from torch import cuda import time x = torch.zeros([1,1024,1024,128*2 阅读全文

posted @ 2021-11-19 11:25 Angry_Panda 阅读(1191) 评论(0) 推荐(0)

pytorch之网络参数统计 torchstat & torchsummary
摘要:参考 : https://blog.csdn.net/weixin_45292794/article/details/108227437 https://blog.csdn.net/jzwong/article/details/110954725 两个pytorch的网络参数统计工具: 1. tor 阅读全文

posted @ 2021-11-19 08:31 Angry_Panda 阅读(3818) 评论(0) 推荐(0)

pytorch的显存释放机制torch.cuda.empty_cache()
摘要:参考: https://cloud.tencent.com/developer/article/1626387 据说在pytorch中使用torch.cuda.empty_cache()可以释放缓存空间,于是做了些尝试: 上代码: import torch import time import os 阅读全文

posted @ 2021-11-18 11:13 Angry_Panda 阅读(6201) 评论(0) 推荐(3)

电脑、笔记本、手机维修经验分享网站,专业领域网站
摘要:每个行业都有每个行业的专业网站,不同行业之间往往不互通,比如搞机器学习的就要去CCF的A会网站上找,在dblp,arxiv上找东西,但是电子产品维修领域呢,前段时间自己电脑坏掉了,搞的自己都会成半个维修师傅了,在这过程中发现了电子维修领域的专业网站,分享如下: 网址: https://www.chi 阅读全文

posted @ 2021-11-18 10:47 Angry_Panda 阅读(673) 评论(1) 推荐(0)

惠普暗影精灵2pro挑电池和电源适配器
摘要:自己几年前买的暗影2pro前几个月坏掉了,无法充电,而且偶发性掉电,经过长时间研究发现该款电脑存在挑电池和电源适配器的问题。 相关资料: https://www.chinafix.com/thread-1262013-1-1.html#pid18112313 神奇的事情发生了,这个HP2pro暗影笔 阅读全文

posted @ 2021-11-18 10:29 Angry_Panda 阅读(454) 评论(0) 推荐(0)

笔记本挑电源适配器吗,是不是电压相同情况下保证功率大于等于原装适配器就可以保证笔记本正常运行???
摘要:经过长时间研究发现这是一个误区,对于HP暗影系统的笔记本,换非原厂的电源适配器极大功率导致笔记本无法开机或运行不稳定,甚至一定概率上会对笔记本造成性能上的损坏。 资料: 地址: https://www.chinafix.com/thread-1158922-1-1.html 阅读全文

posted @ 2021-11-18 10:21 Angry_Panda 阅读(411) 评论(1) 推荐(0)

NVIDIA显卡原生管理查询功能nvidia-smi的部分使用功能
摘要:本文是使用NVIDIA原生管理工具查询NVIDIA显卡使用情况的一些记录(使用远程管理工具的效率没有使用原生管理接口nvml的效率高,有效率需求者建议使用python版本捆绑的nvml库,具体:https://www.cnblogs.com/devilmaycry812839668/p/155654 阅读全文

posted @ 2021-11-17 09:02 Angry_Panda 阅读(782) 评论(0) 推荐(0)

python版本的两款NVIDIA显卡管理查询工具
摘要:本文所述如题; 给出两个python版本的NVIDIA显卡管理查询工具 1. py3nvml github下载地址: https://github.com/fbcotter/py3nvml Requires Python 3.5+. Installation From PyPi: $ pip ins 阅读全文

posted @ 2021-11-17 08:23 Angry_Panda 阅读(699) 评论(0) 推荐(0)

Python使用pynvml查看GPU信息
摘要:参考: https://blog.csdn.net/TracelessLe/article/details/107405544 发现了一个python版本的可以查看和管理NVIDIA显卡的工具pynvml,安装方法: pip install nvidia-ml-py 在这个库的基础上自己写了一个小程 阅读全文

posted @ 2021-11-16 21:58 Angry_Panda 阅读(6657) 评论(0) 推荐(0)

【转载】 Ubuntu下使用VSCode的launch.json及tasks.json编写
摘要:版权声明:本文为CSDN博主「子木呀」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/qq_41687938/article/details/119994398 tasks用于在launch前执行任务,launc 阅读全文

posted @ 2021-11-15 23:13 Angry_Panda 阅读(375) 评论(1) 推荐(0)

VScode调试C++工程
摘要:相关: Linux环境下配置vscode的C/C++编译环境 本文主要参考: https://zhuanlan.zhihu.com/p/385276301 在VScode中如果要进行C/C++编译需要安装插件: 编写C语言代码: mainX.c #include<stdio.h> void main 阅读全文

posted @ 2021-11-15 14:47 Angry_Panda 阅读(325) 评论(0) 推荐(0)

VSCODE远程调试中如何开启X11转发实现APP屏幕转发
摘要:本文所要做的事情不做过多解释,本文前提是使用本地window10上的VScode远程调试Ubuntu上的代码,在该过程中我们需要查看可视化显示,为此我们使用VSCODE插件来实现X11转发。 VScode上如何实现X11转发的文章已经很多了,这个配置过程也不过多解释,推荐参考文章: https:// 阅读全文

posted @ 2021-11-15 10:36 Angry_Panda 阅读(1068) 评论(1) 推荐(0)

Jupyter 实验室中的 GPU 仪表板
摘要:这两天收到了NVIDIA公司推送的新闻: https://developer.nvidia.com/zh-cn/blog/gpu-dashboards-in-jupyter-lab/?ncid=em-news-389201&mkt_tok=MTU2LU9GTi03NDIAAAGAVW_jBS5rBg 阅读全文

posted @ 2021-11-14 22:11 Angry_Panda 阅读(661) 评论(0) 推荐(0)

论文分享: 彩票假设
摘要:最近看了一篇19年ICLR的论文,感觉蛮经典的,这里留存下自己做的PPT。 实证方法研究神经网络的论文。 链接地址: https://arxiv.org/pdf/1803.03635.pdf 阅读全文

posted @ 2021-11-13 13:05 Angry_Panda 阅读(86) 评论(0) 推荐(0)

VcXsrv: 一个好用的Windows X11 Server
摘要:windows10没有系统自带的X11服务器,使用了几款X11的windows下X11服务器软件后发现了一个好用的软件——VcXsrv。 下载地址: https://sourceforge.net/projects/vcxsrv/ 相关资料: https://blog.csdn.net/sy3734 阅读全文

posted @ 2021-11-13 00:16 Angry_Panda 阅读(2206) 评论(0) 推荐(0)

【转载】 Mobaxterm 中文输入Backspace按键问题
摘要:版权声明:本文为CSDN博主「Flynnsin」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/qq_45830608/article/details/121062661 阅读全文

posted @ 2021-11-11 19:10 Angry_Panda 阅读(571) 评论(0) 推荐(0)

使用X11进行屏幕转播是否有价值? 最好用的远控软件是什么?
摘要:由于有多个主机在使用,而且物理位置不在一起,所以以前往往要使用VNC软件来进行远程连接,但是其延迟比较高,使用感受不是很好,而且由于我所使用的多个主机均是Ubuntu系统,于是想到了是否可以使用X11进行屏幕转播,毕竟使用X11转播的话在局域网中进行信号传递就可以,而那些VNC软件往往都是使用远程服 阅读全文

posted @ 2021-11-11 16:00 Angry_Panda 阅读(716) 评论(0) 推荐(0)

低端hdmi视频采集卡的替代方案——向日葵远控
摘要:前一阵看直播推货入手了一款hdmi视频采集卡,如下: 使用这个视频采集卡发现两个问题: 1. 延迟。使用这个采集卡放视频还是可以的,视频播放还算流畅,但是鼠标拖动有较高延迟,使用该视频采集卡即使是使用鼠标开网页也是会有很大延迟,感受很不好。 2. 色彩度低。 颜色失真。 最后发现上面的这两个问题完全 阅读全文

posted @ 2021-11-11 11:03 Angry_Panda 阅读(559) 评论(1) 推荐(0)

个人17年购入的HP 暗影2pro笔记本开机掉电,电池无法充电,无法开机
摘要:相关链接: https://www.cnblogs.com/devilmaycry812839668/p/15228316.html 机器问题: 1. 电池时而能充电时而不能充电,有时候使用7天后不能充电,有时候使用10天后不能充电,有时候是使用15天以后不能充电。不能充电后电池电量掉到0%,即使是 阅读全文

posted @ 2021-11-10 14:06 Angry_Panda 阅读(676) 评论(1) 推荐(0)

国产操作系统——银河麒麟V10 SP1使用小结
摘要:前几天看新闻国产操作系统银河麒麟有了新的更新于是上手搞了一个。 该系统自带驱动,其中包括NVIDIA的显卡驱动,十分神奇,不过这也造成了一个问题就是你自己不好再安装驱动了。 自己手动安装银河麒麟的NVIDIA-driver-460, 报错,如下: 手动修复一直没有成功,最后发现本机自带了一个修复工具 阅读全文

posted @ 2021-11-01 19:46 Angry_Panda 阅读(18430) 评论(1) 推荐(0)

【转载】 银河麒麟V10系统安装U盘制作
摘要:版权声明:本文为CSDN博主「CPUOS520」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/liuhao_02/article/details/115555014 1、首先打开UltraISO软件,一般选择较 阅读全文

posted @ 2021-11-01 18:14 Angry_Panda 阅读(5519) 评论(0) 推荐(0)

国产CPU——兆芯(先开)KX-6640MA 使用感受
摘要:上半年买了个兆芯CPU的小mini电脑,一直没有换Windows系统,这两天想着就换了过来,具体配置如下: 1. 使用Python死循环代码烧机,性能和我14年买的i5-4200M的Intel CPU性能相当,虽然已经过去了7年,但是能到达这个水平说明国产CPU开个QQ、音乐、网页视频还是可以的。 阅读全文

posted @ 2021-11-01 12:09 Angry_Panda 阅读(7788) 评论(1) 推荐(0)

导航