专栏首页IT派使用 Python 分析 14 亿条数据

使用 Python 分析 14 亿条数据

使用 pytubes,numpy 和 matplotlib

Google Ngram viewer是一个有趣和有用的工具,它使用谷歌从书本中扫描来的海量的数据宝藏,绘制出单词使用量随时间的变化。举个例子,单词 Python (区分大小写)

这幅图来自:books.google.com/ngrams/grap…,描绘了单词 'Python' 的使用量随时间的变化。

它是由谷歌的 n-gram 数据集驱动的,根据书本印刷的每一个年份,记录了一个特定单词或词组在谷歌图书的使用量。然而这并不完整(它并没有包含每一本已经发布的书!),数据集中有成千上百万的书,时间上涵盖了从 16 世纪到 2008 年。数据集可以免费从这里下载。

我决定使用 Python 和我新的数据加载库 PyTubes 来看看重新生成上面的图有多容易。

挑战

1-gram 的数据集在硬盘上可以展开成为 27 Gb 的数据,这在读入 python 时是一个很大的数据量级。Python可以轻易地一次性地处理千兆的数据,但是当数据是损坏的和已加工的,速度就会变慢而且内存效率也会变低。

总的来说,这 14 亿条数据(1,430,727,243)分散在 38 个源文件中,一共有 2 千 4 百万个(24,359,460)单词(和词性标注,见下方),计算自 1505 年至 2008 年。

当处理 10 亿行数据时,速度会很快变慢。并且原生 Python 并没有处理这方面数据的优化。幸运的是,numpy 真的很擅长处理大体量数据。 使用一些简单的技巧,我们可以使用 numpy 让这个分析变得可行。

在 python/numpy 中处理字符串很复杂。字符串在 python 中的内存开销是很显著的,并且 numpy 只能够处理长度已知而且固定的字符串。基于这种情况,大多数的单词有不同的长度,因此这并不理想。

Loading the data

下面所有的代码/例子都是运行在 8 GB 内存 的 2016 年的 Macbook Pro。 如果硬件或云实例有更好的 ram 配置,表现会更好。

1-gram 的数据是以 tab 键分割的形式储存在文件中,看起来如下:

  1. Python 1587 4 2
  2. Python 1621 1 1
  3. Python 1651 2 2
  4. Python 1659 1 1

每一条数据包含下面几个字段:

  1. 1. Word
  2. 2. Year of Publication
  3. 3. Total number of times the word was seen
  4. 4. Total number of books containing the word

为了按照要求生成图表,我们只需要知道这些信息,也就是:

  1. 1. 这个单词是我们感兴趣的?
  2. 2. 发布的年份
  3. 3. 单词使用的总次数

通过提取这些信息,处理不同长度的字符串数据的额外消耗被忽略掉了,但是我们仍然需要对比不同字符串的数值来区分哪些行数据是有我们感兴趣的字段的。这就是 pytubes 可以做的工作:

  1. import tubes
  2. FILES = glob.glob(path.expanduser("~/src/data/ngrams/1gram/googlebooks*"))
  3. WORD = "Python"
  4. one_grams_tube = (tubes.Each(FILES)
  5. .read_files()
  6. .split()
  7. .tsv(headers=False)
  8. .multi(lambda row: (
  9. row.get(0).equals(WORD.encode('utf-8')),
  10. row.get(1).to(int),
  11. row.get(2).to(int)
  12. ))
  13. )

差不多 170 秒(3 分钟)之后, onegrams_ 是一个 numpy 数组,里面包含差不多 14 亿行数据,看起来像这样(添加表头部为了说明):

  1. ╒═══════════╤════════╤═════════╕
  2. │ Is_Word │ Year │ Count │
  3. ╞═══════════╪════════╪═════════╡
  4. │ 0 │ 1799 │ 2 │
  5. ├───────────┼────────┼─────────┤
  6. │ 0 │ 1804 │ 1 │
  7. ├───────────┼────────┼─────────┤
  8. │ 0 │ 1805 │ 1 │
  9. ├───────────┼────────┼─────────┤
  10. │ 0 │ 1811 │ 1 │
  11. ├───────────┼────────┼─────────┤
  12. │ 0 │ 1820 │ ... │
  13. ╘═══════════╧════════╧═════════╛

从这开始,就只是一个用 numpy 方法来计算一些东西的问题了:

每一年的单词总使用量

谷歌展示了每一个单词出现的百分比(某个单词在这一年出现的次数/所有单词在这一年出现的总数),这比仅仅计算原单词更有用。为了计算这个百分比,我们需要知道单词总量的数目是多少。

幸运的是,numpy让这个变得十分简单:

  1. last_year = 2008
  2. YEAR_COL = '1'
  3. COUNT_COL = '2'
  4. year_totals, bins = np.histogram(
  5. one_grams[YEAR_COL],
  6. density=False,
  7. range=(0, last_year+1),
  8. bins=last_year + 1,
  9. weights=one_grams[COUNT_COL]
  10. )

绘制出这个图来展示谷歌每年收集了多少单词:

很清楚的是在 1800 年之前,数据总量下降很迅速,因此这回曲解最终结果,并且会隐藏掉我们感兴趣的模式。为了避免这个问题,我们只导入 1800 年以后的数据:

  1. one_grams_tube = (tubes.Each(FILES)
  2. .read_files()
  3. .split()
  4. .tsv(headers=False)
  5. .skip_unless(lambda row: row.get(1).to(int).gt(1799))
  6. .multi(lambda row: (
  7. row.get(0).equals(word.encode('utf-8')),
  8. row.get(1).to(int),
  9. row.get(2).to(int)
  10. ))
  11. )

这返回了 13 亿行数据(1800 年以前只有 3.7% 的的占比)

Python 在每年的占比百分数

获得 python 在每年的占比百分数现在就特别的简单了。

使用一个简单的技巧,创建基于年份的数组,2008 个元素长度意味着每一年的索引等于年份的数字,因此,举个例子,1995 就只是获取 1995 年的元素的问题了。

这都不值得使用 numpy 来操作:

  1. word_rows = one_grams[IS_WORD_COL]
  2. word_counts = np.zeros(last_year+1)
  3. for _, year, count in one_grams[word_rows]:
  4. word_counts[year] += (100*count) / year_totals[year]

绘制出 word_counts 的结果:

形状看起来和谷歌的版本差不多

实际的占比百分数并不匹配,我认为是因为下载的数据集,它包含的用词方式不一样(比如:Python_VERB)。这个数据集在 google page 中解释的并不是很好,并且引起了几个问题:

  • 人们是如何将 Python 当做动词使用的?
  • 'Python' 的计算总量是否包含 'Python_VERB'?等

幸运的是,我们都清楚我使用的方法生成了一个与谷歌很像的图标,相关的趋势都没有被影响,因此对于这个探索,我并不打算尝试去修复。

性能

谷歌生成图片在 1 秒钟左右,相较于这个脚本的 8 分钟,这也是合理的。谷歌的单词计算的后台会从明显的准备好的数据集视图中产生作用。

举个例子,提前计算好前一年的单词使用总量并且把它存在一个单独的查找表会显著的节省时间。同样的,将单词使用量保存在单独的数据库/文件中,然后建立第一列的索引,会消减掉几乎所有的处理时间。

这次探索 确实 展示了,使用 numpy 和 初出茅庐的 pytubes 以及标准的商用硬件和 Python,在合理的时间内从十亿行数据的数据集中加载,处理和提取任意的统计信息是可行的,

语言战争

为了用一个稍微更复杂的例子来证明这个概念,我决定比较一下三个相关提及的编程语言:Python,Pascal,Perl.

源数据比较嘈杂(它包含了所有使用过的英文单词,不仅仅是编程语言的提及,并且,比如,python 也有非技术方面的含义!),为了这方面的调整, 我们做了两个事情:

  1. 只有首字母大写的名字形式能被匹配(Python,不是 python)
  2. 每一个语言的提及总数已经被转换到了从 1800 年到 1960 年的百分比平均数,考虑到 Pascal 在 1970 年第一次被提及,这应该有一个合理的基准线。

结果:

对比谷歌 (没有任何的基准线调整):

运行时间: 只有 10 分钟多一点

代码: gist.github.com/stestagg/91…

以后的 PyTubes 提升

在这个阶段,pytubes 只有单独一个整数的概念,它是 64 比特的。这意味着 pytubes 生成的 numpy 数组对所有整数都使用 i8 dtypes。在某些地方(像 ngrams 数据),8 比特的整型就有点过度,并且浪费内存(总的 ndarray 有 38Gb,dtypes 可以轻易的减少其 60%)。 我计划增加一些等级 1,2 和 4 比特的整型支持(github.com/stestagg/py…)

更多的过滤逻辑 - Tube.skip_unless() 是一个比较简单的过滤行的方法,但是缺少组合条件(AND/OR/NOT)的能力。这可以在一些用例下更快地减少加载数据的体积。

更好的字符串匹配 —— 简单的测试如下:startswith, endswith, contains, 和 isoneof 可以轻易的添加,来明显地提升加载字符串数据是的有效性。

本文分享自微信公众号 - IT派(transfer_3255716726)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-06-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 一文简短介绍Caffe

    导语:在经过三天之后,我们的活动人数已经达到50人了,感谢大家对小编的支持,同时在本文末附上活动的众筹榜单(同日另一篇文)。希望能跟小伙伴们度过愉快的6天! 深...

    IT派
  • 机器学习算法一览

    认识人工智能,还需要理清几个概念之间的关系:人工智能是一个大的概念,是让机器像人一样思考甚至超越人类;而机器学习是实现人工智能的一种方法,是使用算法来解析数据、...

    IT派
  • 每个数据科学家都应该学习4个必备技能

    IT派 - {技术青年圈} 持续关注互联网、大数据、人工智能领域 摘要: 作为一个数据科学家你必须要掌握的四个必备技能,值得每个想要成为数据科学家和已经成为...

    IT派
  • 【实战】使用 Python 分析 14 亿条数据

    Google Ngram viewer是一个有趣和有用的工具,它使用谷歌从书本中扫描来的海量的数据宝藏,绘制出单词使用量随时间的变化。举个例子,单词 Pytho...

    昱良
  • 使用 Python 分析 14 亿条数据

    Google Ngram viewer是一个有趣和有用的工具,它使用谷歌从书本中扫描来的海量的数据宝藏,绘制出单词使用量随时间的变化。举个例子,单词 Pytho...

    小小科
  • LeetCode 45. 跳跃游戏 II(贪心/BFS,难)

    来源:力扣(LeetCode) 链接:https://leetcode-cn.com/problems/jump-game-ii 著作权归领扣网络所有。商业...

    Michael阿明
  • 日常工作用Python能解决哪些问题?

    Python语言相关的岗位非常多,有运维,有自动化测试,有后端开发,有机器学习,如果想要快速上手,并且有不错的就业,那就推荐数据分析。

    昱良
  • 日常工作用Python能解决哪些问题?

    Python语言相关的岗位非常多,有运维,有自动化测试,有后端开发,有机器学习,如果想要快速上手,并且有不错的就业,那就推荐数据分析。

    小小詹同学
  • “中国数据创新行”上海站交接仪式暨2017上海静安国际大数据论坛今天举行

    7月6日上午,由国家发展改革委、国家工信部、中央网信办为指导,上海市经济信息化委与静安区政府共同主办,市北高新集团与上海数据交易中心共同承办的“中国数据创新行”...

    数据猿
  • 真正的数据科学家 必备七大技术

    如果你有志于做一个数据专家,你就应该保持一颗好奇心,总是不断探索,学习,问各种问题。在线入门教程和视频教程能帮你走出第一步,但是最好的方式就是通过熟悉各种已经在...

    用户1667431

扫码关注云+社区

领取腾讯云代金券