小小喽啰 - 博客园

2020年9月8日

摘要：哪些模型对标准化处理比较敏感？机器学习中有部分模型是基于距离度量进行模型预测和分类的。由于距离对特征之间不同取值范围非常敏感，所以基于距离读量的模型是十分有必要做数据标准化处理的。最典型基于距离度量的模型包括k近邻、kmeans聚类、感知机和SVM。另外，线性回归类的几个模型一般情况下也是需要做阅读全文

posted @ 2020-09-08 15:13 小小喽啰阅读(2251) 评论(0) 推荐(0)

决策树_信息熵

摘要：决策树优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感，可以处理不相关特征数据。缺点：可能会产生过度匹配问题。适用数据类型：数值型和标称型决策树的一般流程(1) 收集数据：可以使用任何方法。(2) 准备数据：树构造算法只适用于标称型数据，因此数值型数据必须离散化。(3) 分析数据：可以阅读全文

posted @ 2020-09-08 10:55 小小喽啰阅读(621) 评论(0) 推荐(0)

KNN_01

摘要：最简单的KNN分类：即是每个测试数据逐个去减训练集数据，使用的是欧氏距离，然后选取k个距离最小的数据作为邻居，看看这几个邻居属于那种类别最多，就属于哪种类别 k-近邻算法优点：精度高、对异常值不敏感、无数据输入假定。缺点：计算复杂度高、空间复杂度高。适用数据范围：数值型和标称型。 k-近邻算法的一般阅读全文

posted @ 2020-09-08 10:48 小小喽啰阅读(224) 评论(0) 推荐(0)

2020年9月7日

XGBoost 参数说明

摘要：一、XGBoost参数 xgboost参数可以分为三种类型：通用参数、booster参数以及学习目标参数 General parameters：参数控制在提升（boosting）过程中使用哪种booster，常用的booster有树模型（tree）和线性模型（linear model）。 Boost 阅读全文

posted @ 2020-09-07 19:01 小小喽啰阅读(2630) 评论(0) 推荐(0)

sklearn.decomposition.PCA 主成分分析参数详解

摘要：官网：https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html 官网语法如下： class sklearn.decomposition.PCA(n_components=None, *, copy 阅读全文

posted @ 2020-09-07 17:01 小小喽啰阅读(5076) 评论(0) 推荐(1)

np.mat()将数据转化为矩阵

摘要： np.mat(a) 可将a转化为矩阵，a的类型可以是df.values,数组，list等等，用mat函数转换为矩阵之后可以才进行一些线性代数的操作 import numpy as np np.eye(5) ''' array([[1., 0., 0., 0., 0.], [0., 1., 0., 0 阅读全文

posted @ 2020-09-07 15:24 小小喽啰阅读(2679) 评论(0) 推荐(0)

PCA主成分分析（降维）（转）

摘要： 2021-04-26增加一、PCA所需知识 1. 向量表示与基变换我们先来介绍些线性代数的基本知识。 1.1 内积两个向量的 A 和 B 内积我们知道形式是这样的：内积运算将两个向量映射为实数，其计算方式非常容易理解，但我们无法看出其物理含义。接下来我们从几何角度来分析，为了简单起见，我们假阅读全文

posted @ 2020-09-07 15:19 小小喽啰阅读(886) 评论(0) 推荐(0)

方阵（方块矩阵）

摘要：方块矩阵，或简称方阵，是行数及列数皆相同的矩阵所有正交矩阵都是方块矩阵单位矩阵是方块矩阵环的单位元阅读全文

posted @ 2020-09-07 14:53 小小喽啰阅读(1016) 评论(0) 推荐(0)

单位矩阵

摘要：一、单位矩阵的定义主对角线上的元素都为1，其余元素全为0的n阶矩阵称为n阶单位矩阵，记为或，通常用 I 或 E 来表示在线性代数中，大小为n的单位矩阵是主对角线上均为1，其余地方都是0的n x n的方阵，它用表示：同时单位矩阵也可以简单地记为一个对角线矩阵：二、单位矩阵的性质根据矩阵乘法的阅读全文

posted @ 2020-09-07 14:49 小小喽啰阅读(4869) 评论(0) 推荐(0)

向量的内积（也叫点积）

摘要：代数定义：设二维空间内有两个向量和，定义它们的数量积（又叫内积、点积）为以下实数：更一般地，n维向量的内积定义如下：其中两个维度相同的向量的内积也可以表示为：几何定义（只适用于2维和3维空间）：运算律：交换律：分配律：结合律：，其中m是实数公式是很容易理解，但是意义呢？内积运算阅读全文

posted @ 2020-09-07 13:49 小小喽啰阅读(28136) 评论(0) 推荐(0)