Python基础 | 为什么需要Pandas的DataFrame类型

Pandas是我们平时进行数据分析时,经常会使用到的一个库,提供了非常丰富的数据类型和方法,以简化对数据的处理和分析。前面几篇文章已经介绍了Python自带的list()以及强大的numpy提供的ndarray类型,这些数据类型还不够强大吗?为什么还需要新的数据类型呢?

在学习新的知识的时候,一方面需要了解这个新的概念是什么,另外还需要了解为什么需要学习这个新的知识,以往的知识不能解决问题吗?不能满足需要吗?只有搞明白了为什么的问题,才能灵活的应用新的知识和技能解决问题。

1. 问题描述

假设现在有这样的一个需求,需要在某电影网站上采集基本的电影数据,字段有电影名称、电影URL连接地址以及电影的评分三个字段。试想一下应该选择什么样的数据类型来存储这些数据?

首先大家可能想到的是list()类型,很快就会写出下面的代码:

videos = []
item = ['哪吒之魔童降世', 'http://www.videos.com', '9.9']
videos.append(item)

# [['哪吒之魔童降世', 'http://www.videos.com', '9.9']]

虽然能够存储这些数据,但是想要基于这些数据进行某些查找和修改操作,将会变得非常麻烦,如按评分排序、超找包含特定关键字的记录等。对于numpy.ndarray()来说,也是面临同样的问题。

上面介绍的这种形式的数据,是一种常见的需要存储和进行处理的一些数据,但是list()和numpy.ndarray()都无法很好的处理这些数据,因此需要一种新的、更加方便的数据类型,而这种数据类型就是pandas给我们提供的DataFrame类型。

2. Pandas的DataFrame类型

Pandas是Python开发中常用的第三方库,DataFrame是其中最常用的数据类型,是一种存放数据的容器。而在python中存放数据常见的有list()以及numpy中功能更加强大的numpy.ndarray(),但是为什么还要使用DataFrame呢?

首先编写采集电影基本数据的代码:

df = pandas.DataFrame(columns=['video_name', 'video_url', 'video_score'])
for i in range(1,112):
    url = 'https://www.meiju.net/search.php?page={}&searchtype=5&tid=2'.format(i)
    soup = BeautifulSoup(requests.get(url).content, 'html.parser')
    for item in soup.select('div.hy-video-list li > a'):
        row = edict()
        row.video_name = item['title']
        row.video_url = item['href']
        
        score_tag = item.select_one('span.score')
        if score_tag is not None:
            row.video_score = score_tag.text
        
        df = df.append(row, ignore_index=True)

有了DataFrame这个类型之后,我们可以做什么呢?

可以按照评分对数据进行快速排序:

df.sort_values('video_score', ascending=False)

除了上面介绍的之外,还有很多更加强大的功能和方法,后续文章将根据一些案例持续进行介绍。

3. 结语

本文介绍了用Pandas的DataFrame类型来存储电影数据集的数据,并介绍了DataFrame提供的非常方便的数据操作。

where2go 团队


原文发布于微信公众号 - 算法与编程之美(algo_coding)

原文发表时间:2019-08-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券