Python数据分析库pandas ------ pandas 删除重复元素、用映射替换添加元素、重命名轴索引、离散化、异常值检测和过滤、排序

 数据转换

　删除重复元素

　　DataFrame对象的duplicated()函数可用来检测重复的行，返回元素为布尔型的Series对象。 每个元素对

应一行，如果该行与其他行重复（也就是说该行不是第一次出现），则元素为True; 如果跟前面不重复，则元

素就为False。

　　返回元素为布尔值的Series对象用处很大，特别适用于过滤操作。通常，所有重复的行都需要从DataFrame

对象中删除。pandas库的drop_duplicates()函数实现了删除功能，该函数返回的是删除重复行后的DataFmme对

象。

 

dframe = pd.DataFrame({ 'color': ['white','white','red','red','white'],'value': [2,1,3,3,2]})
print(dframe)
print(dframe.duplicated())
# 返回元素为布尔值的Series对象用处很大，特别适用于过滤操作。
print( dframe[dframe.duplicated()])
print(dframe.drop_duplicates())
输出：
   color  value
0  white      2
1  white      1
2    red      3
3    red      3
4  white      2
0    False
1    False
2    False
3     True
4     True
dtype: bool
   color  value
3    red      3
4  white      2
   color  value
0  white      2
1  white      1
2    red      3

 

　用映射替换元素

　　要用新元素替换不正确的元素，需要定义一组映射关系。在映射关系中，旧元素作为键，新元素作为值。

　　DataFrame对象中两种旧颜色被替换为正确的元素。还有一种常见情况，是把NaN替换为其他值，比如0。

这种情况下，仍然可以用replace()函数，它能优雅地完成该项操作。

frame8 = pd.DataFrame({
    'item': ['ball', 'mug', 'pen', 'pencil', 'ashtray'],
    'color': ['white', 'rosso', 'verde', 'black', 'yellow'],
    'price': [5.56, 4.20, 1.30, 0.56, 2.75]
})
print(frame8)
newcolors = {
    'rosso': 'red',
    'verde': 'green'
}
print(frame8.replace(newcolors))

ser = pd.Series([13, np.nan, 4, 6, np.nan, 3])
print(ser.replace(np.nan, 0))

　　输出结果：

　　

 

　用映射添加元素

　　下面只是部分功能的展示，详情请参考官方文档。

frame9  = pd.DataFrame({
    'item':['ball','mug','pen','pencil','ashtray'],
    'color':['white','red','green','black','yellow']
})
print(frame9)
price = {
    'ball' : 5.56,
    'mug' : 4.20,
    'bottle1' : 1.30,
    'scissors' : 3.41,
    'pen' : 1.30,
    'pencil' : 0.56,
    'ashtray' : 2.75
}
frame9['price'] = frame9['item'].map(price)  # 这里是按‘item’的对应关系添加
print(frame9)

　　输出结果：

　　

　　官方文档案例：

df = pd.DataFrame({
    'A': ['bat', 'foo', 'ibat'],
    'B': ['abc', 'bar', 'xyz']
})
# r'^ba.$'是匹配最后三个字符中前面量为ba的；$匹配结尾的
print(df.replace(to_replace=r'^ba.$', value='new', regex=True))

　　输出结果：（上面关于正则的知识点请点击参考博客）

　　

 

　重命名轴索引

 　　对于只有单个元素要替换的最简单情况，可以对传入的参数做进一步限定，而无需把多个变 量都写出来，

也避免产生多次赋值操作。对于多个元素替换最好用字典先写好。

reindex = {
    0:'first',
    1:'second',
    2:'third',
    3:'fourth',
    4:'fifth'
}
print(frame9.rename(reindex))
recolumn ={
        'item':'object',
        'price':'value'
}
print(frame9.rename(index=reindex,columns=recolumn))  # 不会改变原数据frame9
print(frame9)
print(frame9.rename(index={1:'first'},columns={'item':'object'}))
# inplace=True用于指定在原数据frame9上面改
frame9.rename(index={1:'first'},columns={'item':'object'},inplace=True)
print(frame9)

　　输出结果：

　　           

 

 　离散化和面元划分

 　　每个面元的出现次数，即每个类别有多少个元素，可使用value_counts()函数。

 　　cut 是等差划分面元， qcut 是根据分位数划分面元。

ages = [20, 22, 25, 27, 21, 23, 37, 31, 61, 45, 41, 32]
bins = [18, 25, 35, 60, 100]
# cut(x, bins, right=True, labels=None, retbins=False, precision=3,
#         include_lowest=False, duplicates='raise')
cat = pd.cut(ages, bins)
print(cat, "\n-----* 1 *-----\n")
# cat.codes 输出每个元素对应的面元编码
print(cat.codes, "\n-----* 2 *-----\n")
print(pd.value_counts(cat), "\n-----* 3 *-----\n")  # 查看每个面元中元素的数量
cuts = pd.cut(ages, bins, right=False)  # 使用right=False可以修改开端和闭端
print(cuts, "\n-----* 4 *-----\n")
cut1 = pd.cut(ages, bins, right=False, labels=list('abcd'))
print(cut1, "\n-----* 5 *-----\n")

print(pd.cut(ages, 5), "\n-----* 6 *-----\n")  # 如果cut传入的是数字n，那么就会均分成n份。
print(pd.value_counts(pd.cut(ages, 4)), "\n-----* 7 *-----\n")
# qcut
# qcut(x, q, labels=None, retbins=False, precision=3, duplicates='raise')
# 基于分位数的离散化函数。将变量离散成
# 基于等级或基于样本分位数的相等大小的面元。
print(pd.qcut(ages, 5), "\n-----* 8 *-----\n")
print(pd.value_counts(pd.qcut(ages, 4)), "\n-----* 9 *-----\n")

 

　　输出结果：

　　

　　

　　

 

 　异常值检测和过滤

　　假设将比标准差大3倍的元素视作异常值。用std()函数就可以求得DataFrame对象每一列的标准差。

data = pd.DataFrame(np.random.randn(1000,3))
print(data.describe())
print(data.std())
print(data[(np.abs(data)>(3*data.std())).any(1)])  # 过滤条件 any(1)只要有一个大于3*sigma就满足条件

　　

 

　排序

nframe = pd.DataFrame(np.arange(25).reshape(5,5))
new_order = np.random.permutation(5)  #乱序整数[0-4]  如果是100 [0-99]
print(nframe.take(new_order))  #排序
print(np.random.permutation(100))
print(nframe.take([3,4,2]))  #只对一部分排序
sample = np.random.randint(len(nframe),size =3)  #随机整数
print(nframe.take(sample))

　　输出结果：