摘要: 我们知道,使用 SQL 语句能够完成对 table 的增删改查操作,Pandas 同样也可以实现 SQL 语句的基本功能。本节主要讲解 Pandas 如何执行 SQL 操作。首先加载一个某连锁咖啡厅地址分布的数据集,通过该数据集对本节内容进行讲解。 import pandas as pd url = 阅读全文
posted @ 2021-12-05 13:48 菩提浪子 阅读(868) 评论(0) 推荐(0)
摘要: 索引(index)是 Pandas 的重要工具,通过索引可以从 DataFame 中选择特定的行数和列数,这种选择数据的方式称为“子集选择”。在 Pandas 中,索引值也被称为标签(label),它在 Jupyter 笔记本中以粗体字进行显示。索引可以加快数据访问的速度,它就好比数据的书签,通过它 阅读全文
posted @ 2021-12-05 13:47 菩提浪子 阅读(6113) 评论(0) 推荐(0)
摘要: Excel 是由微软公司开发的办公软件之一,它在日常工作中得到了广泛的应用。在数据量较少的情况下,Excel 对于数据的处理、分析、可视化有其独特的优势,因此可以显著提升您的工作效率。但是,当数据量非常大时,Excel 的劣势就暴露出来了,比如,操作重复、数据分析难等问题。Pandas 提供了操作 阅读全文
posted @ 2021-12-05 13:45 菩提浪子 阅读(905) 评论(0) 推荐(0)
摘要: 当使用 Pandas 做数据分析的时,需要读取事先准备好的数据集,这是做数据分析的第一步。Panda 提供了多种读取数据的方法: read_csv() 用于读取文本文件 read_json() 用于读取 json 文件 read_sql_query() 读取 sql 语句的, 本节将对上述方法做详细 阅读全文
posted @ 2021-12-05 13:44 菩提浪子 阅读(1492) 评论(0) 推荐(0)
摘要: Pandas 在数据分析、数据可视化方面有着较为广泛的应用,Pandas 对 Matplotlib 绘图软件包的基础上单独封装了一个plot()接口,通过调用该接口可以实现常用的绘图操作。本节我们深入讲解一下 Pandas 的绘图操作。Pandas 之所以能够实现了数据可视化,主要利用了 Matpl 阅读全文
posted @ 2021-12-05 13:42 菩提浪子 阅读(196) 评论(0) 推荐(0)
摘要: 通常情况下,数据集中会存在许多同一类别的信息,比如相同国家、相同行政编码、相同性别等,当这些相同类别的数据多次出现时,就会给数据处理增添许多麻烦,导致数据集变得臃肿,不能直观、清晰地展示数据。 针对上述问题,Pandas 提供了分类对象(Categorical Object),该对象能够实现有序排列 阅读全文
posted @ 2021-12-05 13:41 菩提浪子 阅读(519) 评论(0) 推荐(0)
摘要: 随机抽样,是统计学中常用的一种方法,它可以帮助我们从大量的数据中快速地构建出一组数据分析模型。在 Pandas 中,如果想要对数据集进行随机抽样,需要使用 sample() 函数。sample() 函数的语法格式如下: DataFrame.sample(n=None, frac=None, repl 阅读全文
posted @ 2021-12-05 13:40 菩提浪子 阅读(212) 评论(0) 推荐(0)
摘要: 顾名思义,时间序列(time series),就是由时间构成的序列,它指的是在一定时间内按照时间顺序测量的某个变量的取值序列,比如一天内的温度会随时间而发生变化,或者股票的价格会随着时间不断的波动,这里用到的一系列时间,就可以看做时间序列。时间序列包含三种应用场景,分别是: 特定的时刻(timest 阅读全文
posted @ 2021-12-05 13:39 菩提浪子 阅读(1183) 评论(0) 推荐(0)
摘要: Pandas 通过 concat() 函数能够轻松地将 Series 与 DataFrame 对象组合在一起,函数的语法格式如下: pd.concat(objs,axis=0,join='outer',join_axes=None,ignore_index=False) 参数说明如下所示: 参数名称 阅读全文
posted @ 2021-12-05 13:34 菩提浪子 阅读(549) 评论(0) 推荐(0)
摘要: Pandas 提供的 merge() 函数能够进行高效的合并操作,这与 SQL 关系型数据库的 MERGE 用法非常相似。从字面意思上不难理解,merge 翻译为“合并”,指的是将两个 DataFrame 数据表按照指定的规则进行连接,最后拼接成一个新的 DataFrame 数据表。 merge() 阅读全文
posted @ 2021-12-05 13:33 菩提浪子 阅读(616) 评论(0) 推荐(0)
摘要: 在数据分析中,经常会遇到这样的情况:根据某一列(或多列)标签把数据划分为不同的组别,然后再对其进行数据分析。比如,某网站对注册用户的性别或者年龄等进行分组,从而研究出网站用户的画像(特点)。在 Pandas 中,要完成数据的分组操作,需要使用 groupby() 函数,它和 SQL 的GROUP B 阅读全文
posted @ 2021-12-05 13:32 菩提浪子 阅读(1380) 评论(0) 推荐(0)
摘要: 在一些数据分析业务中,数据缺失是我们经常遇见的问题,缺失值会导致数据质量的下降,从而影响模型预测的准确性,这对于机器学习和数据挖掘影响尤为严重。因此妥善的处理缺失值能够使模型预测更为准确和有效。 为什么会存在缺失值? 前面章节的示例中,我们遇到过很多 NaN 值,关于缺失值您可能会有很多疑问,数据为 阅读全文
posted @ 2021-12-05 13:31 菩提浪子 阅读(417) 评论(0) 推荐(0)
摘要: 在《Python Pandas窗口函数》一节,我们重点介绍了窗口函数。我们知道,窗口函数可以与聚合函数一起使用,聚合函数指的是对一组数据求总和、最大值、最小值以及平均值的操作,本节重点讲解聚合函数的应用。 应用聚合函数 首先让我们创建一个 DataFrame 对象,然后对聚合函数进行应用。 impo 阅读全文
posted @ 2021-12-05 13:30 菩提浪子 阅读(721) 评论(0) 推荐(0)
摘要: 为了能更好地处理数值型数据,Pandas 提供了几种窗口函数,比如移动函数(rolling)、扩展函数(expanding)和指数加权函数(ewm)。窗口函数应用场景非常多。举一个简单的例子:现在有 10 天的销售额,而您想每 3 天求一次销售总和,也就说第五天的销售额等于(第三天 + 第四天 + 阅读全文
posted @ 2021-12-05 13:29 菩提浪子 阅读(1403) 评论(0) 推荐(0)
摘要: Pandas 的本质是统计学原理在计算机领域的一种应用实现,通过编程的方式达到分析、描述数据的目的。而统计函数则是统计学中用于计算和分析数据的一种工具。在数据分析的过程中,使用统计函数有助于我们理解和分析数据。本节将学习几个常见的统计函数,比如百分比函数、协方差函数、相关系数等。 百分比变化(pct 阅读全文
posted @ 2021-12-05 13:28 菩提浪子 阅读(621) 评论(0) 推荐(0)
摘要: 在数据分析过程中,很多时候需要从数据表中提取出相应的数据,而这么做的前提是需要先“索引”出这一部分数据。虽然通过 Python 提供的索引操作符"[]"和属性操作符"."可以访问 Series 或者 DataFrame 中的数据,但这种方式只适应与少量的数据,为了解决这一问题,Pandas 提供了两 阅读全文
posted @ 2021-12-05 13:27 菩提浪子 阅读(643) 评论(0) 推荐(0)
摘要: 在用 Pandas 做数据分析的过程中,总需要打印数据分析的结果,如果数据体量较大就会存在输出内容不全(部分内容省略)或者换行错误等问题。Pandas 为了解决上述问题,允许你对数据显示格式进行设置。下面列出了五个用来设置显示格式的函数,分别是: get_option() set_option() 阅读全文
posted @ 2021-12-05 13:25 菩提浪子 阅读(721) 评论(0) 推荐(0)
摘要: Pandas 提供了一系列的字符串函数,因此能够很方便地对字符串进行处理。在本节,我们使用 Series 对象对常用的字符串函数进行讲解。常用的字符串处理函数如下表所示: 函数名称函数功能和描述 lower() 将的字符串转换为小写。 upper() 将的字符串转换为大写。 len() 得出字符串的 阅读全文
posted @ 2021-12-05 13:24 菩提浪子 阅读(366) 评论(0) 推荐(0)
摘要: “去重”通过字面意思不难理解,就是删除重复的数据。在一个数据集中,找出重复的数据删并将其删除,最终只保存一个唯一存在的数据项,这就是数据去重的整个过程。删除重复数据是数据分析中经常会遇到的一个问题。通过数据去重,不仅可以节省内存空间,提高写入性能,还可以提升数据集的精确度,使得数据集不受重复数据的影 阅读全文
posted @ 2021-12-05 12:31 菩提浪子 阅读(3060) 评论(0) 推荐(0)
摘要: Pands 提供了两种排序方法,分别是按标签排序和按数值排序。本节讲解 Pandas 的排序操作。下面创建一组 DataFrame 数据,如下所示: import pandas as pd import numpy as np #行标签乱序排列,列标签乱序排列 unsorted_df=pd.Data 阅读全文
posted @ 2021-12-05 12:30 菩提浪子 阅读(322) 评论(0) 推荐(0)
摘要: 遍历是众多编程语言中必备的一种操作,比如 Python 语言通过 for 循环来遍历列表结构。那么 Pandas 是如何遍历 Series 和 DataFrame 结构呢?我们应该明确,它们的数据结构类型不同的,遍历的方法必然会存在差异。对于 Series 而言,您可以把它当做一维数组进行遍历操作; 阅读全文
posted @ 2021-12-05 12:28 菩提浪子 阅读(765) 评论(0) 推荐(0)
摘要: 重置索引(reindex)可以更改原 DataFrame 的行标签或列标签,并使更改后的行、列标签与 DataFrame 中的数据逐一匹配。通过重置索引操作,您可以完成对现有数据的重新排序。如果重置的索引标签在原 DataFrame 中不存在,那么该标签对应的元素值将全部填充为 NaN。 重置行列标 阅读全文
posted @ 2021-12-05 12:26 菩提浪子 阅读(1582) 评论(0) 推荐(0)
摘要: 如果想要应用自定义的函数,或者把其他库中的函数应用到 Pandas 对象中,有以下三种方法: 1) 操作整个 DataFrame 的函数:pipe() 2) 操作行或者列的函数:apply() 3) 操作单一元素的函数:applymap() 如何从上述函数中选择适合的函数,这取决于函数的操作对象。下 阅读全文
posted @ 2021-12-05 12:25 菩提浪子 阅读(804) 评论(0) 推荐(0)
摘要: 描述统计学(descriptive statistics)是一门统计学领域的学科,主要研究如何取得反映客观现象的数据,并以图表形式对所搜集的数据进行处理和显示,最终对数据的规律、特征做出综合性的描述分析。Pandas 库正是对描述统计学知识完美应用的体现,可以说如果没有“描述统计学”作为理论基奠,那 阅读全文
posted @ 2021-12-05 12:23 菩提浪子 阅读(213) 评论(0) 推荐(0)
摘要: 认识DataFrame结构 DataFrame 一个表格型的数据结构,既有行标签(index),又有列标签(columns),它也被称异构数据表,所谓异构,指的是表格中每列的数据类型可以不同,比如可以是字符串、整型或者浮点型等。其结构图示意图,如下所示: 表格中展示了某个销售团队个人信息和绩效评级( 阅读全文
posted @ 2021-12-05 12:21 菩提浪子 阅读(220) 评论(0) 推荐(0)
摘要: eries 结构,也称 Series 序列,是 Pandas 常用的数据结构之一,它是一种类似于一维数组的结构,由一组数据值(value)和一组标签组成,其中标签与数据值之间是一一对应的关系。Series 可以保存任何数据类型,比如整数、字符串、浮点数、Python 对象等,它的标签默认为整数,从 阅读全文
posted @ 2021-12-05 12:20 菩提浪子 阅读(446) 评论(0) 推荐(0)
摘要: Python 官方标准发行版并没有自带 Pandas 库,因此需要另行安装。除了标准发行版外,还有一些第三方机构发布的 Python 免费发行版, 它们在官方版本的基础上开发而来,并有针对性的提前安装了一些 Python 模块,从而满足某些特定领域的需求,比如专门适应于科学计算领域的 Anacond 阅读全文
posted @ 2021-12-05 12:17 菩提浪子 阅读(237) 评论(0) 推荐(0)