[编程经验] Pandas中比较好用的几个方法
话说我现在好久不做深度学习的东西了，做了一段时间是的NLP，以为可以去尝试各种高大上的算法，然而现在还并没有，反而觉得更像是做数据挖掘的。。平时遇到的比较多的问题，大多数都是数据清洗的工作，这时候工具就显得很重要，有一个好的工具能起到事半功倍的效果，比如突然有个idea，然后自己开始呼哧呼哧的造轮子，最后才发现，哦，原来都有现成的方法，本来一行代码就可以搞定的问题，到最后写了几十行。 正所谓，“欲闪其事，必先利其器”啊。 好了，废话不多说，下面介绍几个神奇的方法。
- 数据筛选
先把数据导入进来，数据一共有4列，分别是日期，星期，品牌和数量，一共有14行数据。
import pandas as pd
data = pd.read_table("test.txt")
print(data.head(2))
print(data.shape)
"""
日期 星期 品牌 数量
0 1 3 1 20
1 1 3 5 48
(14, 4)
"""然后我们可以查看一下品牌列有几种可能，看到有1,2,3,4,5一共五种品牌。
brand = data['品牌']
print(set(brand.values.tolist()))
"""
{1, 2, 3, 4, 5}
"""好，如果我现在想查看品牌1的数据，怎么做呢。可以这样
brand_1 = data[data['品牌'].isin([1])]
print(brand_1)
"""
日期 星期 品牌 数量
0 1 3 1 20
2 2 4 1 16
4 3 5 1 1411
9 4 6 1 1176
"""看一下，这里用了isin()方法，这样就得到了品牌1的全部数据，可能也有人说，还有一种做法，就是用Groupby，好，Groupby是pandas中用来做分组统计的方法。不知道？没关系，下面介绍
这里还有要2件事情，可不可以查看多个品牌的数据？可以，这样做就行了
brand_n = data[data['品牌'].isin([1, 2])]
print(brand_n)
"""
日期 星期 品牌 数量
0 1 3 1 20
2 2 4 1 16
4 3 5 1 1411
5 3 5 2 811
9 4 6 1 1176
10 4 6 2 824
"""isin()方法传入的是一个list就可以，好，如果我想查看除了品牌1以外的数据，怎么做？ 用pandas 很简单。这样就可以
brand_ex_1 = data[~data['品牌'].isin([1])]
print(brand_ex_1)
"""
日期 星期 品牌 数量
1 1 3 5 48
3 2 4 3 20
5 3 5 2 811
6 3 5 3 1005
7 3 5 4 773
8 3 5 5 1565
10 4 6 2 824
11 4 6 3 802
12 4 6 4 1057
13 4 6 5 1107
"""2 . 数据分组
好，然后说一下，groupby，groupby就是group data by xx。按照xx把数据分为几个组。先看个栗子，首先把数据按日期分组。
data_grouped = data.groupby(by='日期')
print("共有 {} 组".format(data_grouped.ngroups))
# 共有 4 组
print(data_grouped.ngroup(ascending=True))
"""
0 3
1 3
2 2
3 2
4 1
5 1
6 1
7 1
8 1
9 0
10 0
11 0
12 0
13 0
"""查看分组后的索引
indices = data_grouped.indices
day_1 = indices[3]
print(day_1)
"""
[4 5 6 7 8]
"""还可以这样
for i, j in data_grouped:
print(i, j.index)
"""
1 Int64Index([0, 1], dtype='int64')
2 Int64Index([2, 3], dtype='int64')
3 Int64Index([4, 5, 6, 7, 8], dtype='int64')
4 Int64Index([9, 10, 11, 12, 13], dtype='int64')
"""分组之后的数据还是一个DataFrame对象，所以可以调用index方法。
如果要对分组后的数据做统计分析，可以这样来做
import pandas as pd
data = pd.read_table("test.txt")
data_grouped = data.groupby(by='日期')['数量'].mean()
print(data_grouped)这样就可以查看每一天数量的平均值了。
3. appy方法
如果我想给数量这一列，每个值都乘以2，可以怎么做呢？ 方法很多，这里介绍一下，如何用apply来做，
import pandas as pd
data = pd.read_table("test.txt")
def double_df(x):
return 2 * x
data_double = data['数量'].apply(double_df)
print(data_double)
"""
0 40
1 96
2 32
3 40
4 2822
5 1622
6 2010
7 1546
8 3130
9 2352
10 1648
11 1604
12 2114
13 2214
Name: 数量, dtype: int64
"""这样就可以很简单的完成这个倍乘的任务，但是输出貌似不是我们想要的，因为我们还想保留其他列，那应该怎么做呢。
import pandas as pd
data = pd.read_table("test.txt")
def double_df(x):
return 2 * x
data_copy = data.copy()
data_copy['数量'] = data['数量'].apply(double_df)
print(data_copy)
"""
日期 星期 品牌 数量
0 1 3 1 40
1 1 3 5 96
2 2 4 1 32
3 2 4 3 40
4 3 5 1 2822
5 3 5 2 1622
6 3 5 3 2010
7 3 5 4 1546
8 3 5 5 3130
9 4 6 1 2352
10 4 6 2 1648
11 4 6 3 1604
12 4 6 4 2114
13 4 6 5 2214
"""这里可以先复制一份data, 然后给复制的数据中的“数量”这一列用data中数量的列apply函数，这样就不会有数据损失了。
好，这是apply的基本应用，如果我们想对两列数据使用apply函数，应该怎么做。开始我也不会，那天突然有这样的想法，因为我的数据是在两列都有，然后我想统计两列的性质，无奈不知道怎么用，然后在stackflow上找到了答案。这里分享给大家
def double_df(a, b):
return "{:.03f}".format(a / b)
data_apply = data.apply(lambda row:
double_df(row['星期'],
row['品牌']),
axis=1)
print(data_apply)
"""
0 3.000
1 0.600
2 4.000
3 1.333
4 5.000
5 2.500
6 1.667
7 1.250
8 1.000
9 6.000
10 3.000
11 2.000
12 1.500
13 1.200
dtype: object
"""或者这样
def double_df(rows):
return "{:.03f}".format(rows['星期'] / rows['品牌'])
data_apply = data.apply(double_df, axis=1)
print(data_apply)
"""
0 3.000
1 0.600
2 4.000
3 1.333
4 5.000
5 2.500
6 1.667
7 1.250
8 1.000
9 6.000
10 3.000
11 2.000
12 1.500
13 1.200
dtype: object
"""同样，你要是想的到原始的全部数据，最好复制一份，不然可能会报错，有兴趣可以去试试。
4. 删除Pandas中的NaN和空格
对于缺失数据的处理，无非两种方法，一种是直接删掉不要了，一种是添加进去一些别的数据，那Pandas怎么删除缺失值？本来Pandas提供了dropna方法，直接一个方法就搞定了，但是有时候缺失值不是Nan，而是空格或者别的什么，死活删不掉，我就遇到过，然后折腾啊折腾，一直报ValueError的错误，但是我明明用了dropna了，说明数据还是没有清洗干净。好，下面这个方法，是我搜集到的网上现有的三种删除缺失值的方法，可以直接用。
def delet_pandas_na(in_df, columns_name, method='one'):
if method == 'one':
out_df = in_df.copy()
out_df[columns_name] = \
in_df[columns_name].apply(
lambda x: np.NaN if len(str(x)) < 1 else x)
out_df_res = out_df[out_df[columns_name].notnull()]
return out_df_res
elif method == 'two':
out_df = (in_df[columns_name].isnull()) | \
(in_df[columns_name].apply(
lambda x: str(x).isspace()))
out_df_res = in_df[~out_df]
return out_df_res
else:
in_df.dropna(inplace=True)
indices_to_keep = ~in_df.isin([np.nan,
np.inf,
-np.inf]).any(1)
return in_df[indices_to_keep].astype(np.float64)好了。有什么不明白的，随时可以问我。
腾讯云开发者
