进行数据处理的6个 Python 代码块分享

2022-07-15,,,

前言:

大家好,今天和大家分享自己总结的6个常用的 python 数据处理代码,对于经常处理数据的coder最好熟练掌握。

1、选取有空值的行

在观察数据结构时,该方法可以快速定位存在缺失值的行。

df = pd.dataframe({'a': [0, 1, 2],
                   'b': [0, 1, none],
                   'c': [0, none, 2]})
df[df.isnull().t.any()]

输出:

  a   b   c           a   b   c
0 0 0.0 0.0         1 1 1.0 nan
1 1 1.0 nan   -->   2 2 nan 2.0
2 2 nan 2.0

2、快速替换列值

实际数据处理经常会根据一些限定条件来替换列中的值。

df = pd.dataframe({'name':['python', 'java', 'c']})

# 第一种方式
df['name'].replace('java', 'javascript', inplace=true)
# 第二种方式
df.loc[df['name'].str.contains('java'), 'name'] = 'javascript'

输出:

     name                   name
0  python          0      python
1    java    --->  1  javascript
2       c          2           c

3、对列进行分区

很多情况下,对于数值类型的数据,我们需要分区来计算每个区间数据出现的频率。这时用 pd.cut 就能很好的解决这一问题。

import random

age = random.sample(range(90), 20)
cut_res = pd.cut(age, bins=[0, 18, 35, 60, 90])
# cut_res type:<class 'pandas.core.arrays.categorical.categorical'>
cut_res.value_counts()

输出:

(0, 18]     6
(18, 35]    1
(35, 60]    6
(60, 90]    7

4、将一列分为多列

在文本数据清洗时,一些列中存在分隔符(‘’, ‘,’, ‘:’)分隔的值,我们只需将该列根据分隔符进行 split 即可。

import pandas as pd

df = pd.dataframe({'address': ['四川省 成都市',
                               '湖北省 武汉市',
                               '浙江省 杭州市']})
res = df['address'].str.split(' ', expand=true)  
res.columns = ['province', 'city']

输出:

  province city
0 四川省    成都市
1 湖北省    武汉市
2 浙江省    杭州市

expand参数选择是否扩展为 dataframe,false 则返回 series

5、中文筛选

同样在清洗过程中,往往会出现一些不需要的中文字段,这时直接用 str.contains 筛选即可。

df = pd.dataframe({'mobile_phone':
                   ['15928765644',
                    '15567332235',
                    '暂无']})
df[~df['mobile_phone'].str.contains('[\u4e00-\u9fa5]')]

输出:

  mobile_phone         mobile_phone
0 15928765644        0 15928765644
1 15567332235   -->  1 15567332235
2 暂无

6、更改列的位置

有时我们需要调整列的位置,当数据列较少时,可以用下面的方式

df = pd.dataframe({'name': ['a', 'b', 'c'],
                   'age': [10, 20, 30],
                   'gender': [0, 1, 0]})
df = df[['name', 'gender', 'age']]

输出:

 name age gender    name gender age
0   a  10 0        0   a 0       10
1   b  20 1   -->  1   b 1       20
2   c  30 0        2   c 0       30

如果列较多,那么,一个个列举出来会比较繁琐,推荐下面插入的方式。

col = df['gender']
df.drop('gender', axis=1, inplace=true)
df.insert(1, 'gender', col)

到此这篇关于进行数据处理的6个 python 代码块分享的文章就介绍到这了,更多相关python 数据处理内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!

《进行数据处理的6个 Python 代码块分享.doc》

下载本文的Word格式文档,以方便收藏与打印。