首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Pandas 4 个小 trick,都很实用!

1 读取时抽样 1%

对于动辄就几十或几百个 G 的数据,在读取这么大数据时,有没有办法随机选取一小部分数据,然后读入内存,快速了解数据和开展 EDA ?

使用 Pandas 的 skiprows 和 概率知识,就能做到。

下面解释具体怎么做。

如下所示,读取某 100 G 大小的 big_data.csv 数据

言外之意,只有全部数据的 1% 才有机会选入内存中。

使用这种方法,读取的数据量迅速缩减到原来的 1% ,对于迅速展开数据分析有一定的帮助。

2 replace 做清洗

Pandas 的强项在于数据分析,自然就少不了对数据清洗的支持。

今天学习一个快速清洗数据的小技巧,在某列上使用 replace 方法和正则,快速完成值的清洗。

源数据:

打印结果:

看到 sales 列的值,有整型,浮点型+RMB后变为字符串型,还有美元+整型,美元+浮点型。

我们的目标:清洗掉 , 符号,转化这一列为浮点型。

一行代码搞定:(点击代码区域,向右滑动,查看完整代码)

使用正则替换,将要替换的字符放到列表中 ,替换为空字符,即 ;

最后使用 转为 float

打印结果:

Done ~

如果不放心,再检查下值的类型:

打印结果:

3 宽 DF 变长

为什么需要宽 DF 变长 ?

构造一个 DataFrame:

打印结果:

5.2 表示 12345 区域的 价格,并且 , , ,这三列都是一种水果,那么如何把这三列合并为一列?

使用 pd.melt

具体参数取值,大家根据此例去推敲:

打印结果:

以上就是长 DataFrame,对应的原 DataFrame 是宽 DF.

看明白吗?

4 转 datetime

告诉年和 dayofyear,怎么转 datetime?

原 DataFrame

打印结果:

转 datetime 的 trick。

Step 1: 创建整数

打印结果:

Step 2: to_datetime

注意 "%Y%j" 中转化格式 j

打印结果:

以上就是 Pandas 做数据分析的 4 个 trick。码字不易,点个在看。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20200319A03X7I00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券