随笔分类 -  硬件

TF16精度简介
摘要：TF16 是指 TensorFlow 的混合精度（Mixed Precision）训练中使用的 16 位浮点数格式。它通常与 FP16（16 位浮点数） 和 BF16（Brain Floating Point 16 位浮点数） 相结合使用。TF16 是 TensorFlow 中对这些 16 位浮点格 阅读全文
posted @ 2024-08-19 15:57 海_纳百川 阅读(209) 评论(0) 推荐(0)
bf16精度简介
摘要：bfloat16 (bf16)，即Brain Floating Point 16-bit，是一种16位浮点数格式，主要用于深度学习和机器学习中的高效计算。它是在Google的TPU（Tensor Processing Unit）硬件中引入的，并已被其他硬件架构（如NVIDIA A100、Intel 阅读全文
posted @ 2024-08-19 15:36 海_纳百川 阅读(1609) 评论(0) 推荐(0)
centos下挂在硬盘报错不支持exfat解决办法
摘要：错误情况：centos7 打开移动硬盘报错 file type exfat not configured in kernel ExFAT support on CentOS7 一、查看硬盘情况 1、fdisk -l 查看目前所有插在系统上的磁盘情况 Centos系统挂载的磁盘格式为gpt 2、df- 阅读全文
posted @ 2024-01-23 09:51 海_纳百川 阅读(3166) 评论(0) 推荐(0)
nvidia-smi显示GPU上无进程但GPU显存却被占用
摘要：问题：有时我们在使用GPU的时候，因为某个原因，导致GPU被占，但有无法通过nvidia-smi 看到进程编号，就会产生一个现象，GPU被未知程序所占用，我们只能使用GPU的一部分，针对这种现象怎么解决呢 方法1. 重启电脑，如果win系统的话，直接关机重启即可；如果是linux系统，有图形界面的话 阅读全文
posted @ 2023-07-27 16:48 海_纳百川 阅读(4102) 评论(0) 推荐(0)
CPU架构初级概念
摘要：一般常见的CPU架构包括： x86: 最常见的桌面和服务器CPU架构，如Intel的x86系列和AMD的x86-64（amd64）架构。 ARM: 一种广泛应用于移动设备和嵌入式系统的CPU架构，如ARM Cortex系列。 MIPS: 一种用于嵌入式系统和网络设备的CPU架构，曾经在早期的路由器和 阅读全文
posted @ 2023-05-17 09:42 海_纳百川 阅读(52) 评论(0) 推荐(0)
nvidia专业计算卡参数-v100/T4/A100
摘要：显卡型号架构CUDA核心数Tensor核心数核心/内存时钟频率显存容量显存类型显存带宽TDP外形尺寸价格（美元） Tesla V100 Volta 5120 640 1.38/1.71 GHz 16 GB 或 32 GB HBM2 900 GB/s 250 W 4.4" x 10.5" $9,000 阅读全文
posted @ 2023-05-06 16:06 海_纳百川 阅读(3194) 评论(0) 推荐(1)
NVIDIA桌面显卡规格表
摘要：GeForce 40系列 查看价格: 京东商城 爱淘宝 显卡型号 核心代号 制造工艺 (nm) 流处理器/RT核心/Tensor核心 核心频率 (MHz) 加速频率 (MHz) 显存位宽 (-bit) 显存容量 显存频率 (GHz) 整卡功耗 (W) RTX 4090 AD102-300-A1 4N 阅读全文
posted @ 2023-05-06 15:37 海_纳百川 阅读(557) 评论(0) 推荐(0)
ubuntu设置系统启动顺序
摘要：我的电脑安装的是ubutnu+windows双系统,在开机的时候系统默认启动顺序可以在ubuntu系统中设置,方法为" vim /etc/default/grub 将GRUB_DEFAULT=0修改为想要默认启动的系统序号，设置完后保存； Ubuntu默认为第一个，序号为0，win10系统一般在第3 阅读全文
posted @ 2023-04-27 09:04 海_纳百川 阅读(1499) 评论(0) 推荐(0)
VRAM和GPU的区别
摘要：vram和gpu区别，vram这个很多人还不知道, 1、VRAM就是广义上说的显存。 2、这不是什么品牌，是显卡上的随机存取存储器。 3、比如你显卡有4G显存，这个4G就是VRAM的大小。 4、VRAM不是品牌，VRAM的意思就是显存。 5、V代表Video Card（显卡），RAM代表就是内存，V 阅读全文
posted @ 2023-04-26 09:35 海_纳百川 阅读(1527) 评论(0) 推荐(0)
FPGA常见部署介绍和实践
摘要：原标题：注意！使用FPGA“代替”CPU，说法不准确！ 问题「用 FPGA 代替 CPU」中，这个「代替」的说法不准确。我们并不是不用 CPU 了，而是用 FPGA 加速适合它的计算任务，其他任务仍然在 CPU 上完成，让 FPGA 和 CPU 协同工作。 为什么使用 FPGA，相比 CPU、GPU 阅读全文
posted @ 2023-04-24 16:20 海_纳百川 阅读(465) 评论(0) 推荐(0)
FPGA是什么-发展原理介绍
摘要：今天看了陆奇最近关于大模型的分享,其中提取微软(openai)在做chatgpt训练时,多台服务器之间的通信并非采用的网卡形式,而是使用的fpga进行,这也令我新增了一个知识盲区,于是去了解了,以下是陆奇原文: 做大模型是很难的，很大难度是infra（基础设施）。我在微软的时候，我们每个服务器都不用 阅读全文
posted @ 2023-04-24 14:47 海_纳百川 阅读(116) 评论(0) 推荐(0)
Centos7 查看磁盘i/o, 定位占用i/o读写高的进程
摘要：Centos7 查看磁盘i/o, 定位占用i/o读写高的进程 概要： 1、iostat 用法 2、先用iostat查看磁盘io 是否读写负载很高 3、找出使用io高的进程的工具 iotop 4、lsof查看端口占用情况 概要： iostat 主要用于输出磁盘IO 和 CPU的统计信息。 iostat 阅读全文
posted @ 2022-12-12 14:21 海_纳百川 阅读(1848) 评论(0) 推荐(0)
ubuntu下配置360随身wifi驱动
摘要：配置前准备： 打开普通用户命令行，修改一下root根用户密码， sudo passwd root 然后用根用户进行登录。 一：在主机上插上360wifi2代无线网卡，启动ubuntu操作系统，在命令行输入 lsusb ，查看无线网卡的基本信息。 由上面的信息可以知道360随身WIFI 2代的芯片信息 阅读全文
posted @ 2022-11-24 19:25 海_纳百川 阅读(837) 评论(0) 推荐(0)
GPU 利用率低常见原因分析及优化
摘要：一、GPU 利用率的定义 本文的 GPU 利用率主要指 GPU 在时间片上的利用率，即通过 nvidia-smi 显示的 GPU-util 这个指标。统计方式为：在采样周期内，GPU 上面有 kernel 执行的时间百分比。 二、GPU 利用率低的本质 常见 GPU 任务运行流程图如下： 如上图所示 阅读全文
posted @ 2022-09-06 12:53 海_纳百川 阅读(784) 评论(0) 推荐(0)
《原创》吃透显卡-从面到里的解读
摘要： 阅读全文
posted @ 2022-05-26 23:05 海_纳百川 阅读(47) 评论(0) 推荐(0)

本站总访问量次