随笔分类 - databook
数据采集
摘要：所谓数据转置，就是是将原始数据表格沿着对角线翻折，使原来的行变成新的列，原来的列变成新的行，从而更方便地进行数据分析和处理。 pandas中DataFrame的转置非常简单，每个DataFrame对象都有一个T属性，通过这个属性就能得到转置之后的DataFrame。下面介绍几个数据转置常用的场景，感
阅读全文
摘要：日期处理相关内容之前pandas基础系列中有一篇专门介绍过，本篇补充两个常用的技巧。 1. 多列合并为日期 当收集来的数据中，年月日等信息分散在多个列时，往往需要先合并成日期类型，然后才能做分析处理。合并多列转换为日期类型，可以直接用 to_datetime函数来处理： import pandas
阅读全文
摘要：映射列值是指将一个列中的某些特定值映射为另外一些值，常用于数据清洗和转换。 使用映射列值的场景有很多，以下是几种常见的场景： 将字符串类型的列中的某些值映射为数字。例如，将“男”和“女”分别映射为 0 和 1，以便进行机器学习算法的训练和预测。 将缩写替换为全称。例如，将“USA”和“UK”分别替换
阅读全文
摘要：字符串转数字的用途和场景很多，其中主要包括以下几个方面： 数据清洗：在进行数据处理时，经常会遇到一些数据类型不匹配的问题，比如某些列中的字符串类型被误认为是数字类型，此时需要将这些字符串类型转换为数字类型，才能进行后续的数值计算或统计分析。 数据整理：有时候输入的原始数据可能存在格式问题，例如有些数
阅读全文
摘要：在实际应用中，数据集中经常会存在缺失值，也就是某些数据项的值并未填充或者填充不完整。缺失值的存在可能会对后续的数据分析和建模产生影响，因此需要进行处理。 pandas提供了多种方法来处理缺失值，例如删除缺失值、填充缺失值等。删除缺失值可能会导致数据量减少，填充缺失值则能够尽量保留原始数据集的完整性，
阅读全文
摘要：拆分列是pandas中常用的一种数据操作，它可以将一个包含多个值的列按照指定的规则拆分成多个新列，方便进行后续的分析和处理。拆分列的使用场景比较广泛，以下是一些常见的应用场景： 处理日期数据：在日期数据中，经常会将年、月、日等信息合并成一列，通过拆分列可以将其拆分成多个新列，方便进行时间序列分析。
阅读全文
摘要：反转pandas DataFrame的行列顺序是一种非常实用的操作。在实际应用中，当我们需要对数据进行排列或者排序时，通常会使用到Pandas的行列反转功能。这个过程可以帮助我们更好地理解数据集，发现其中的规律和趋势。同时，行列反转还可以帮助我们将数据可视化，使得图表更加易于理解。 除了常规的数据分
阅读全文
摘要：重命名 pandas 数据中列的名称是一种常见的数据预处理任务。这通常是因为原始数据中的列名称可能不够清晰或准确。例如，列名可能包含空格、大写字母、特殊字符或拼写错误。 使用 pandas 的 rename函数可以帮助我们更改列名，从而使数据更加清晰和易于理解。此外，重命名列名还可以确保您的代码在维
阅读全文
摘要：本篇介绍的是pandas选择列数据的一个小技巧。之前已经介绍了很多选择列数据的方式，比如loc，iloc函数，按列名称选择，按条件选择等等。 这次介绍的是按照列的数据类型来选择列，按类型选择列可以帮助你快速选择正确的数据类型，提高数据分析的效率。 1. 类型种类 pandas列的数据类型主要有4大种
阅读全文
摘要：在 pandas 中，如果遇到数据量特别大的情况，随机挑选 DataFrame 的子集可以帮助我们更深入地了解数据，从而更好地进行数据分析和决策。 随机挑选子集的用途主要有： 评估数据质量：随机挑选 DataFrame 的子集可以帮助我们检查数据集的质量，以便进一步探索和挖掘数据。例如，我们可以通过
阅读全文
摘要：日常分析数据时，只有单一数据文件的情况其实很少见，更多的情况是，我们从同一个数据来源定期或不定期的采集了很多数据文件；或者从不同的数据源采集多种不同格式的数据文件。 在这样的情况下，分析数据之前，需要将不同的数据集合并起来。合并数据一般有两个维度，一是同构的数据集合并后行数增加；一是异构的数据集合并
阅读全文
摘要：学习pandas的过程中，为了尝试pandas提供的各类功能强大的函数，常常需要花费很多时间去创造测试数据。 在pandas中，快速创建测试数据可以更快的评估 pandas 函数。通过生成一组测试数据，可以评估例如 read_csv、read_excel、groupby等函数，以确保这些函数在处理不
阅读全文
摘要：概述 NumPy是一个开源的科学计算库，它提供了高效的数值计算和数组操作功能，主要包括： 多维数组的创建、操作和索引。 数组的切片、拼接和转置。 数组的乘法、除法、求导、积分、对数等基本运算。 数组的逐元素操作、求平均值、中位数、众数等统计量。 数组作为列表、元组等数据类型进行传递和返回。 与其他数
阅读全文
摘要：目前为止，介绍的numpy数组基本都是关于数值的，其实，numpy本身就是一个用于数值计算的基础库。 不过，除了数值计算之外，numpy也能够支持结构化数组。 1. 关联不同类型数据 numpy的数组为了提高计算性能，要求数组的数据类型要一致。但是现实情况下，我们经常遇到不是纯数值的数组，比如： n
阅读全文
摘要：numpy 数组通常是用于数值计算的多维数组，而排序功能可以快速、准确地对数据进行排序，从而得到更加清晰、易于分析的结果。 在数据分析和处理过程中，常常需要对数据进行排序，以便更好地理解和发现其中的规律和趋势。 排序会应用在很多场景中，比如： 数据分类：将数据按照一定的特征进行分类，可以通过 num
阅读全文
摘要：数组索引是指在numpy数组中引用特定元素的方法。numpy的数组索引又称为fancy indexing，比其他编程语言的索引强大很多。 1. 选取数据 numpy的索引除了像其他语言一样选择一个元素，还可以间隔着选取多个元素，也可以用任意的顺序选取元素。 比如一维数组： arr = np.rand
阅读全文
摘要：在numpy中，数组可以看作是一系列数值的有序集合，可以通过下标访问其中的元素。处理数组的过程中，经常需要用到数组过滤功能。 过滤功能可以在处理数据时非常有用，因为它可以使数据更加干净和可读性更强。例如，在进行数据分析时，通常需要去除异常值，过滤掉不必要的元素可以使数据更加易于分析和处理。 nump
阅读全文
摘要：numpy的广播计算是指在多维数组上进行的一种高效计算方式。 它可以将计算任务分配到每个维度上，并且可以在计算过程中进行数据共享和同步，从而提高计算效率和精度。 广播计算在数值计算、科学计算、机器学习等领域都有广泛的应用。 例如，在数值计算中，广播计算可以用于求解大规模的非线性方程组；在科学计算中，
阅读全文
摘要：上一篇介绍的通用计算是关于多个numpy数组的计算， 本篇介绍的聚合计算一般是针对单个数据集的各种统计结果，同样，使用聚合函数，也可以避免繁琐的循环语句的编写。 元素的和 数组中的元素求和也就是合计值。 调用方式 聚合计算有两种调用方式，一种是面向对象的方式，作为numpy数组对象的方法来调用： i
阅读全文
摘要：numpy提供了简单灵活的接口，用于优化数据数组的计算。 通用计算最大的优势在于通过向量化操作，将循环推送至numpy之下的编译层，从而取得更快的执行效率。 numpy的通用计算让我们计算数组时就像计算单独一个变量一样， 不用写循环去遍历数组中的各个元素。 比如，对于一般的python二维数组，我们
阅读全文
浙公网安备 33010602011771号