什么是激活函数 激活函数，属于神经网络中的概念。 激活函数，就像神经元的开关，决定了输入信号能否被传递，以及以什么形式传递。 为应对不同的场景，激活函数不断发展出了各种实现。它们存在的意义，就是为信号传递赋予不同种类的“非线性”特征，从而让神经网络能够表达更为丰富的含义。 本文旨在梳理常见的 40 ...

最近在配置YOLO（You Only Look Once）进行物体检测和图像分割任务时，发现默认安装的情况下，YOLO使用的是CPU进行计算。 这对于需要处理大量图像或实时检测的任务来说，效率明显不足。 本文将详细介绍如何将YOLO从CPU模式切换到GPU模式，显著提升运行效率。 1. 配置步骤 1 ...

前言 本文讨论的GBDT算法，也是基于决策树 开始探索 scikit-learn 老规矩，先上代码，看看GBDT的用法 from sklearn.datasets import load_iris from sklearn.ensemble import GradientBoostingClassi ...

前言 彩笔运维勇闯机器学习，今天我们来讨论一下lasso回归，本期又是一起数学推理过程展示 坐标下降法 目标找到一组参数，使目标函数值最小。比如\(f(x,y)=3x^2+5xy+10y^2\)，要找到\(x,y\)使得\(f(x,y)\)取值最小 \[x_j^{(k+1)} = \arg \min ...

前言 彩笔运维勇闯机器学习，今天我们来讨论一下梯度下降法 梯度 首先要搞明白什么是梯度，那就要先从导数说起 导数 函数\(y=f(x)\)的自变量\(x\)在一点\(x_0\)上产生一个增量\(\Delta x\)时，函数输出值的增量\(\Delta y=f(x_0 + \Delta x)-f(x_ ...

前言 随机森林的出现，是为了解决决策树对训练数据过拟合的问题而出现的。决策树在训练的工程中，可以让每一个叶子节点的不确定性降为0（即熵或者基尼指数为0），这样做可能把训练数据中的偶然性、异常值或噪声也当成了“规 律”去学习了 对于复杂高维的数据，随机森林的算法可以更好的泛化能力 开始探索 sciki ...

温馨提示：本文共有8472个字，平均阅读时间约为34分钟 大家可以快速查看自己感兴趣的内容点击下面的目录： 目录模型简介整体架构Encoder结构输入阶段输入嵌入（Input Embedding）位置编码（Position Encoding）输入向量构建Attention结构自注意力机制 Self- ...

前言 决策树是一种常用的机器学习模型，用于分类和回归任务，它通过模拟“树”的结构来对数据进行决策。本节我们详细讨论的是决策树中的分类任务 开始探索 scikit-learn 假设以下运维场景 CPU 低：<40% 中：40%~70% 高：>70% 内存 低：<60% 中：60%~85% 高：>85% ...

目录机器学习基本理论机器学习三要素机器学习方法分类建模流程特征工程什么是特征工程特征工程有什么特征选择特征转换特征构造特征降维常用方法模型评估和模型选择损失函数经验误差欠拟合和过拟合正则化交叉验证模型求解算法解析法梯度下降法牛顿法和拟牛顿法模型评价指标回归模型评价指标分类模型评价指标 机器学习基本理 ...

本文较为全面的说明了Nsight Compute工具的使用方法，以及Report各个页面信息的详细含义，能帮助用户快速的掌握Compute工具的初步使用方法！ ...

前言 从本节开始，我们的机器学习之旅进入了下一个篇章。之前讨论的是回归算法，回归算法主要用于预测数据。而本节讨论的是分类问题，简而言之就是按照规则将数据分类 而要讨论的逻辑回归，虽然名字叫做回归，它要解决的是分类问题 开始探索 scikit-learn 还是老规矩，先来个例子，再讨论原理 假设以下场 ...

本文介绍了一个基于深度学习的石头剪刀布手势识别系统，采用YOLOv5/v8/v11/v12等模型实现高精度识别。系统包含用户登录、注册、模型选择等功能模块，通过PyQt5构建交互界面。实验对比显示，YOLOv12在COCO数据集上mAP达40.6%，参数量仅2.6M，综合性能最优。在自制7,000张... ...

前言 今天我们来讨论拟合的问题 在之前的篇幅，主要讨论的是线性回归的问题，不管是一元、多元、多项式，本质都是线性回归问题。线性回归在机器学习中属于“监督学习”，也就是使用已有的、预定义的“训练数据”集合，训练系统，在解释未知数据时，也能够很好的解释 而模型训练完成之后，可能会有3中状态：“欠拟合”、 ...

前言 在之前的讨论中，讨论的都是线性回归，自变量与结果可以通过一条直线来解释。而今天讨论的问题，自变量与结果可能需要曲线来拟合，也就是所谓的 \(x^n\)，n>=2 开始探索 老规矩，先运行起来，再探索原理 1. scikit-learn import numpy as np from sklea ...

前言 今天我们来讨论一下回归算法当中的数学实现。本人数学也是渣，大学时期概率论一直挂到清考才勉强通过，+_+ !!，如今勇闯机器学习，硬着头皮重新学习了微积分和线代，也是为了记录自己最近的状态，避免过段时间忘记了。描述的时候有不周全的地方，请各位大佬们多担待了 本节将会运用一些数学知识来解释一下相关 ...

前言 书接上文，上一小节简单介绍了多元回归的基本原理、使用方式，本小节来实践：qps与cpu、内存、磁盘io、网络io之间的关系 获取数据 参考一元线性回归的获取方式 from flow import * from datetime import datetime start_time = date ...

前言 之前讨论了一元线性回归，主要是qps与cpu的关系，但是现实中cpu只是系统指标的一部分，还有内存、io、网络等等，本小节就来讨论一下，通过多个系统参数对于qps的影响 算法 多元线性回归，就是讨论多个自变量对结果造成的影响 开始探索 老规矩，先来看一看怎么快速使用多元线性回归 1. scik ...

前言 书接上文，上一小节简单介绍了一元回归的基本原理、使用方式，作为运维，实践才是最重要的，那本小节就来实践一下我们之前的话题：探索cpu与qps的关系 获取数据 1. cpu数据 由于我的监控数据在阿里云的prometheus上面，并且阿里云也提供了一种查询方式，通过本地搭建的prometheus ...

前言 在运维职业生涯中，qps是一个绕不开的话题，leader经常在问，我们的qps是多少，系统能不能抗住啊？？？老板在问，我们的qps是多少，有没有降本的空间啊？？？面试的时候，面试官问，你们的qps是多少啊。。。。 如果我能预测qps与系统压力之间的关系，那一定很不错吧？关于leader，我们的 ...

在之前的博客中我们提到过，设l为在标签Y上定义的0-1多分类弃权损失的代理损失，则我们可以在此基础上进一步定义弃权代理损失L。在这篇博客中，让我们把注意力转移一个新的方向——代理损失函数的泛化误差界（generalization error gap）。差值R_L(hat{h}) - widehat{... ...