DemonSlayer

摘要： ### Nvidia剪枝方案介绍 目前大多数的剪枝研究处于以下两个方面 1. 绝大多数剪枝是非结构化的，属于细粒度稀疏。而细粒度稀疏其实没有那么好的加速效果 2. Coarse-grained sparsity的稀疏效果有限 （"Coarse-grained sparsity"是一种稀疏性类型，它指 阅读全文

摘要： ### 数据集介绍 Cifar10数据集是经典的图像分类数据。首先下载数据并制作成**Dataset**和**DataLoader** 1. **Dataset**：`Dataset`是一个抽象类，它定义了数据的存储和访问方法。它的主要任务是加载和预处理数据。用户可以从此类派生出自定义的数据集类，以 阅读全文

摘要： # 常用剪枝工具 ### pytorch官方案例 `import torch.nn.utils.prune as prune` ```python import torch from torch import nn import torch.nn.utils.prune as prune impor 阅读全文

摘要： # 2.1修剪标准 ## 2.1.1基于权重大小的修剪标准 参考上一节，对权重做绝对值按大小修剪，或者做L1/L2范数来进行修剪 ## 2.1.2基于梯度幅度来修剪 基于前面可知，我们按照值的大小来修剪，把值小的裁剪掉了，或者说某个权重在训练过程中一直不变，直观上感觉没有那么重要。但其实这样是不对的 阅读全文

摘要： # 1非结构化剪枝 ## 1.1.1细粒度剪枝 细粒度剪枝是一种特定类型的剪枝方法，它指的是单个权重级别的剪枝。在细粒度剪枝中，模型中的每一个权重都会被独立地考虑是否需要被剪枝。这种方法的优点是可以非常精确地控制模型的大小和复杂性，因为可以精确地选择哪些权重需要被剪枝。然而，这也是一种计算复杂度较高 阅读全文

摘要： A.三个游泳者 三个游泳者决定在游泳池办聚会！中午，他们从游泳池的最左边开始游。 第一个游泳者恰好花费$a$分钟游一个完整的来回，第二个恰好$b$分钟，第三个恰好$c$分钟。因此，第一个游泳者在游泳池最左边的时间点恰好为，\(0,a,2a,3a,...,\)，第二个为$0,b,2b,3b,...,$ 阅读全文

摘要： 今日总结： | 代码量 | 400行左右 | | | | | 博客量 | 一篇 | | 所学时间 | 8小时左右 | | 了解到的知识点 | 软件测试第一章，背单词等 | 软件测试入门基础 软件测试的目的是尽可能发现并排除软件中潜藏的错误，提高软件的可靠性 IEEE将软件可靠性定义为：系统在特定环境 阅读全文

摘要： 今日总结： | 代码量 | 400行左右 | | | | | 博客量 | 一篇 | | 所学时间 | 8小时左右 | | 了解到的知识点 | 机器学习week1，背单词等 | 什么是机器学习？ 第一个机器学习的定义来自于Arthur Samuel。他定义机器学习为，在进行特定编程的情况下，给予计算机 阅读全文

摘要： 1.可用性 可用性与系统故障及其后果相关。当系统不再提供其规范中所说的服务时，就出现了系统故障。系统用户可以观察到此类故障。 可用性是指系统正常运行时间的比例，是通过两次故障之间的时间长度或在系统崩溃情况下能够恢复正常运行的速度来衡量的 刺激源用户 刺激很多用户同时访问，系统出现崩溃 制品系统 环境 阅读全文

摘要： 今日总结： | 代码量 | 400行左右 | | | | | 博客量 | 一篇 | | 所学时间 | 8小时左右 | | 了解到的知识点 | 操作系统的四个特征，背单词等 | 操作系统的四个特征 操作系统的特征：并发，共享，虚拟，异步 并发： 并发指两个或多个事件在同一时间间隔内发生。这些事件宏观上 阅读全文