上一页 1 ··· 4 5 6 7 8 9 10 11 12 ··· 79 下一页
摘要: 混合精度训练通常会结合使用单精度浮点数(float32)和半精度浮点数(float16),以提高训练效率和减少内存占用。 代码中关键在于两个地方: 1. 在with autocast():下,模型的前向传播和损失计算放在自动混合精度加速环境中进行。 2. 使用scaler对象进行混合精度训练的管理。 阅读全文
posted @ 2024-03-16 11:42 Dsp Tian 阅读(128) 评论(0) 推荐(0)
摘要: 昨天一切正常,今天ubuntu启动突然卡住了,一直停在黑屏光标界面。 在网上看到原因可能和nvidia驱动有关。 输入nvidia-smi报出题目中的错误。 一般这种错误都是在刚安装nvidia驱动后第一次启动可能出现,见我这篇文章。 不过这次是突然出现的,不是安装驱动后出现的,所以不是安装nvid 阅读全文
posted @ 2024-02-24 21:52 Dsp Tian 阅读(3779) 评论(0) 推荐(0)
摘要: Schur 补是一种矩阵分解方法,通过将一个大的矩阵分解为几个较小的矩阵来简化计算,通常能够提高矩阵求逆的速度。 对于形如下面的矩阵: 可以把矩阵划分为左上、右上、左下、右下四个分块矩阵。 得到矩阵: 根据A和D的奇异性,可以分两种情况。 如果A可逆,则有: 如果D可逆,则有: 公式两边同时求逆,得 阅读全文
posted @ 2024-02-16 15:19 Dsp Tian 阅读(296) 评论(0) 推荐(0)
摘要: Q-Learning是一种基于值函数的强化学习算法,这里用该算法解决走迷宫问题。 算法步骤如下: 1. 初始化 Q 表:每个表格对应状态动作的 Q 值。这里就是一个H*W*4的表,4代表上下左右四个动作。 2. 选择动作: 根据 Q 表格选择最优动作或者以一定概率随机选择动作。 3. 执行动作,得到 阅读全文
posted @ 2024-02-15 13:08 Dsp Tian 阅读(1079) 评论(0) 推荐(0)
摘要: 编译有些python库时可能会报这个错。 解决方法是: 将setup.py中的“cmdclass={'build_ext': BuildExtension}”改为“cmdclass={'build_ext': BuildExtension.with_options(use_ninja=False)} 阅读全文
posted @ 2024-02-07 10:36 Dsp Tian 阅读(1069) 评论(0) 推荐(0)
摘要: 一般出现这种问题都是cuda、pytorch或vs版本没配对上。 这里出现问题的文件为torch中的cast.h。 我看网上很多给的解决方法是修改下面代码: template <template <typename...> class Tuple, typename... Ts> class tup 阅读全文
posted @ 2024-02-07 10:24 Dsp Tian 阅读(405) 评论(0) 推荐(0)
摘要: 下面这个命令: ps -e | grep gsd | awk '{print $1}' | xargs -I{} sh -c 'cat /proc/{}/status && echo " "' > status.txt 用于获取系统中所有进程名称中包含"gsd"的进程的状态,并将结果保存到名为"st 阅读全文
posted @ 2024-02-01 21:57 Dsp Tian 阅读(105) 评论(0) 推荐(0)
摘要: 可能是编译指令加入了下面三个其中一个: -Ofast -ffast-math -ffinite-math-only 去掉上面的指令或者单独加入下面的指令均可使isnan生效。 -fno-finite-math-only 注意这个要加在最后,如果先加-fno-finite-math-only,后加-f 阅读全文
posted @ 2024-02-01 21:41 Dsp Tian 阅读(106) 评论(0) 推荐(0)
摘要: BA作为视觉SLAM中后端优化的一个核心点还是比较重要的。 BA根据优化量的不同可以分为三种形式。 Full BA:观测点和位姿同时优化,一般是视觉SLAM后端的核心。 Motion BA:已知观测点,优化位姿,一般用来定位。之前的文章中有用到BA单做位姿计算的方法。 Struct BA:已知位姿, 阅读全文
posted @ 2024-01-13 17:15 Dsp Tian 阅读(156) 评论(0) 推荐(0)
摘要: 正交分解可以将多个向量分解为互相正交的多个向量。 可以用QR分解方法或施密特正交化方法,施密特正交化方法一般数值不稳定。 假设有{V1...Vn}向量组,施密特正交化算法原理如下: 结果中{β1...βn}为一组正交基,{η1...ηn}为其标准正交基。 matlab代码如下: clear all; 阅读全文
posted @ 2024-01-13 13:59 Dsp Tian 阅读(268) 评论(0) 推荐(0)
上一页 1 ··· 4 5 6 7 8 9 10 11 12 ··· 79 下一页