前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Pandas 选出指定类型的所有列,统计列的各个类型的数量

Pandas 选出指定类型的所有列,统计列的各个类型的数量

作者头像
萝 卜
发布2022-05-12 20:01:47
1K0
发布2022-05-12 20:01:47
举报

前言

通过本文,你将知晓如何利用 Pandas 选出指定类型的所有列用于后续的探索性数据分析,这个方法在处理大表格时非常有用(如列非常多的金融类数据),如果能够较好的掌握精髓,将能大大提升数据评估与清洗的能力,为后续建模提供高质量的数据

这个技巧并没有什么原理性的东西,所以这里直接呈现代码。

代码实战

数据读入

统计列的各个类型的数量

选出类型为 object 的所有列

在机器学习与数学建模中,数据类型为 float 或者 int 的才好放入模型,像下图这样含有不少杂音的可不是我们想要的。当然,include=[“int”, “float”] 便表示选出这两个类型的所有列,你可以自行举一反三。

对 object 列们进行探索性数据分析

通过打印出来的信息,我们可以很快知道每一个 object 列大概需要怎么清洗,但许多优秀的数据分析师并不会马上着手操作,而是都先记录下来,最后再一起操作,毕竟可能有可以复用的代码或可以批量进行的快捷操作😀

这是笔者在进行金融数据分析清洗时的记录(根据上面的步骤后发现的需要对 object 类型列进行的操作)

  • terms:字符串 month 去掉,可能需要适当的分箱
  • int_rate(interesting rate):去掉百分号
  • emp_length:工作年限混入了 <,+ 等无关字符串,如 10+,<1 years 等,需要 先replace 然后再 map 或者 apply 替换一下
  • title:该列分类太多,快两万,占到了数据集的 2/3,查找一些业务看看是否属于需要删去的无关变量
  • addr_state:地址变量虽然只有 50 个分类,但似乎也无太大作用,删去
  • earliest_cr_time:该列有 526 类,可能需要根据业务知识进行离散化分箱
  • home_ownership:房屋所有情况,全款支付了的给个1,其余的都给 0
  • 未完待续…

先列出来再统一操作的好处是当发现处理错误或者需要更改方法时,还能快速找到自己当时的思路。

Pandas 的技巧看似琐碎,但积累到一定程度后,便可以发现许多技巧都存在共通之处。小事情重复做也会成为大麻烦,所以高手都懂得分类处理。

贯通了 3 个核心,我们才能省时省事,成为别人眼中的高手:

  • 大量重复的工作懂得批处理。
  • 反复要做的固定操作固化成 " 模板 “,” 套路 "。
  • 碰到异常情况,知道如何准确高效的解决。

我们下个操作见~

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2020-12-01,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 数据分析与商业实践 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 代码实战
  • 数据读入
  • 统计列的各个类型的数量
  • 选出类型为 object 的所有列
  • 对 object 列们进行探索性数据分析
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档