专栏首页PPV课数据科学社区【翻译】数据科学的多语言协作编程方式:Python + R + SQL

【翻译】数据科学的多语言协作编程方式:Python + R + SQL

在这篇文章中,我将试图使用一种新的方法来介绍数据科学编程。 R vs. Python question中集中谈论了数据科学编程的问题,每个人都有自己关于编程的看点,包括受人尊敬的自然杂志(Programming – Pick up Python)。

在这里,我试图让我们跳出R vs. Python类型的争论,转而尝试同时教授R, Python and SQL。为了做到这一点,我们需要首先看看数据科学的第一个大命题(数据科学中我们正在解决的问题),然后看看这些问题是怎么通过不同的途径进而细分为小问题并最终被解决的。这样,我们就可以掌握多种方法,并在需要的时候将它们结合起来。 多语言协作方式很复杂,这是人们对于这种多语言协作方式(掌握多种语言)的第一印象。

为什么要同时教三种语言呢?(为了简便描述,在这里我把SQL看做一种语言)

这里是一些背景

除了数据科学,我还和别人一起创办了一家用于教授孩子们计算机科学的社会企业Feynlabs。在Feynlabs里,我们一直在寻找能够加速学习代码的方法,其中一个方法是将多种语言进行对比和比较,这个方法是管用的。对数据科学来说,这个方法同样具有意义,这是因为一个学习者可以从不同方向潜在的接近数据科学。

对于学习数据科学编程来说,这种方式可以帮助学习者从与他们较为相似的现有基础上开始构建多语言编程方法,然后通过这种方法将现有基础和新的想法联系在一起。从教学观点来看,这一方法与David Asubel的思想非常相似:“影响学习的最重要因素就是学习者已经拥有了什么知识。”David Asubel强调了在学习新知识的过程中先验知识的重要性。

首先,我们要讨论的是我们现在试图解决的是什么问题,以及这个问题如何被细分。

我也建议把这种方式看做 Data Science for IoT course/certification的一部分,但是同时我也希望我能把它当成一个单独的模块来教授——比如用伦敦和美国研讨会模式,如果你想要知道更多,请立即在邮件列表里注册。HERE。 Data Science for IoT course/certification http://www.opengardensblog.fut … .html HERE http://www.futuretext.com/ 这两个网址在原文中是文字锚链接的形式。

数据科学——我们正在试图解决的问题

数据科学涉及到从数据中提取知识。在理想情况下,我们需要来自多种数据来源的大量数据。数据科学位于一个多学科交叉的位置:程序设计、统计、算法、数据分析等。要解决数据科学问题,最快的方式是尽快开始数据分析。但是数据科学也需要对理论的良好理解——尤其是机器学习的理论方法。 一个数据科学家通常使用类似OSEMN(获得,清洗,探索,建模,解释)的方法来解决一个问题。这些步骤和一个典型的数据仓库是有共同点的,它也和经典的ETL(提取、转换、加载)方法类似。然而,建模和解释阶段是数据科学所特有的。建模需要理解机器学习算法,并知道它们是如何组合起来的。例如:无监督算法(降维、聚类)和基础算法(回归、分类)。 为了理解数据科学,我同样对编程背景提出一些期望。人们不会期待一个数据科学家从“Hello World”开始学起,当然从另一方面来说,一种语言的语法经常是超额的。语言有怪癖,它们从世界各地得到最新的工具包。

所以,如果我们试图首先看看数据科学问题(在获得,清洗,探索,建模,解释之前)背景阶段——这是比较容易适应语言编程的阶段。机器学习有两个阶段:建模阶段和预测阶段。我们首先建议一个模型(通常是批处理模式——它需要更长的时间),然后,我们进行了动态/实时模式的模型预测。因此,要了解编程的科学数据,我们可以把学习分为四个阶段:工具本身(IDE),数据管理,建模和可视化。

工具包,IDE和背景

在了解了基本语法后——这使得了解这种语言的包或库更为容易,Python和R都有很大数目的包(比如Statsmodels)——通常分布在库中。这两种语言都是可解释的,它们有好的IDE(脚本调试工具),比如Python的Spyder, iPython,以及R的RStudio。如果使用Python,你可能会使用类似scikit-learn的库以及类似 Anaconda distribution的分布。如果使用R,你可以使用RStudio并使用R的CRAN软件包管理系统安装特定的包。

数据管理

除了R和Python,你也需要使用SQL。我提到SQL是因为SQL在数据清理阶段起到了关键作用。有人称此阶段为数据科学的入门工作,它需要大量的时间。SQL同样在类似Apache Drill的Hadoop程序上扮演角色,Apache Drill允许用户使用SQL查询语言查询存放在Hadoop上的数据并输出分析结果。 使用SQL,你可以在数据集范围中处理数据。但是,一旦这些数据处在编程范围内,你需要根据编程语言的不同确定对待数据的方法。

在R中,所有东西都是一个向量,并且R的数据结构和功能是量化的。这意味着,R的绝大部分功能都是在向量上工作的(即在所有的元素上工作,而不是在循环中的单一元素),因此,在R中,你读取你的数据框中的数据并使用一个内置模型(这里是线性回归的包)。在Python中,如果你没有使用类似scikit-learn的库,你需要独自做出许多决定,这会很难。然而,如果你使用一个类似scikit-learn的库,你会得到一个一致的,有据可查的接口模式。它通过使你只需着重于包的用法而轻松不少。

数据探索和可视化

在数据建模阶段之后,我们进入了数据探索和可视化阶段。对于Python来说,熊猫包(pandas package)是一个数据探索的有力工具。HERE是一个关于PYTHON PANDA的快速而简单的介绍(YouTube视频),类似的,R采用dplyr和ggplot2包数据探索和可视化。 HERE http://www.opengardensblog.fut … .html 这个网址在原文中是文字锚链接的形式。

一个不断寻找最优的多协作的工作方式

最后,大部分的讨论可以看做是一个寻找最优方式的过程。例如,在R中,大型计算需要将数据用矩阵的方式(例如n×n个矩阵操作)加载。但是,使用如Revolution Analytics般的平台,这种数据加载方式可以被突破。尤其是随着微软对Revolution Analytics平台分析部门的收购,同时鉴于微软拥有创造优秀开发工具的历史,我们有理由期望R会发展的越来越简单。

此外,由于R和Python都在为数据科学服务的Hadoop的范畴内工作,我们希望通过HDFS连接用于Python的Hadoop和用于R的Hadoop,进而充分利用Hadoop的架构。同样的,有人认为我们如今已处在一个由Spark和Storm所实现的、Hadoop和MapReduce综合使用的世界,对实时计算领域尤其如此,并且至少有一些Hadoop的功能可以通过Spark取代。

HERE是一个关于Apache Spark的很好的介绍,以及一篇关于如何在Spark中开始使用Python的文章。有趣的是,Spark编程指南中包括与三种语言的交互(Scala, Java和Python),但是并没有提到R,但是开源的力量促使我们拥有了使R和Spark交互的SparkR。

HERE http://www.infoq.com/articles/ … ction 这种涵盖了多种语言的工作方式也有一些支持平台,例如 Beaker notebook平台。你同样也可以通过在命令行上工作达到一样的效果,例如Data Science at the Command Line中的例子。 Beaker notebook http://beakernotebook.com/ Data Science at the Command Line http://shop.oreilly.com/product/0636920032823.do

总结

当我们关注更广范围内的数据科学问题并比较不同的方法怎样用于解决数据科学问题时,我们即便在简洁的博客文章中同样可以得到很多见解。你只需要明白对于数据科学来说这些语言是如何相互适应的,以及理解它们之间的主要不同。(如R中的向量) 同时我们也要了解优秀的IDE和包等“软件”对编程的影响,并懂得利用它们。 多语言协作方式改变了我们的规则,作为数据科学家,需要混合和匹配出一个科技的调色板——有时需要跨越多个语言。

翻译:星星 PPV课原创编译 转载请注明出处 原文链接:http://www.ppvke.com/Answer/?/question/586

PPV课其他精彩文章:


1、回复“干货”查看干货 数据分析师完整知识结构

2、回复“答案”查看大数据Hadoop面试笔试题及答案

3、回复“设计”查看这是我见过最逆天的设计,令人惊叹叫绝

4、回复“可视化”查看数据可视化专题-数据可视化案例与工具

5、回复“禅师”查看当禅师遇到一位理科生,后来禅师疯了!!知识无极限

6、回复“啤酒”查看数据挖掘关联注明案例-啤酒喝尿布

7、回复“栋察”查看大数据栋察——大数据时代的历史机遇连载

8、回复“数据咖”查看数据咖——PPV课数据爱好者俱乐部省分会会长招募

9、回复“每日一课”查看【每日一课】手机在线视频集锦

PPV课大数据ID: ppvke123 (长按可复制)

大数据人才的摇篮!专注大数据行业人才的培养。每日一课,大数据(EXCEL、SAS、SPSS、Hadoop、CDA)视频课程。大数据资讯,每日分享!数据咖—PPV课数据爱好者俱乐部!

本文分享自微信公众号 - PPV课数据科学社区(ppvke123)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2015-06-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【活动】广州大数据技术与应用研讨会:数据化运营如何驱动智慧型企业

    【活动背景】 如今的大数据时代,很多企业已经开始以数据化运营来驱动企业重大战略决策和业务发展,获得了卓越的成绩,成为行业里数据化运营的领先者。虽...

    小莹莹
  • 干货 | 全球100款大数据工具汇总(收藏备用)

    导读:你熟悉多少工具?今天我们将常用的100款工具推荐给您,若您有更多更好的工具欢迎留言! ? 1、 Talend Open Studio 是第一家针对的数据集...

    小莹莹
  • R语言和 Python —— 一个错误的分裂

    最近有一些文章提出与年龄相关的问题:“崭露头角的年轻数据科学家们是学习R语言还是Python更好?” 答案似乎都是“视情况而定”,在现实中没有必要在R和Pyt...

    小莹莹
  • 【书籍】数据科学经典书籍

    数据问题需要数据科学来解决! 什么是数据科学?没有一个统一的定义。简而言之,数据科学就是研究和解决数据问题。 不管你是数据挖掘工程师,还是数据分析师,还是算法工...

    陆勤_数据人网
  • R语言和 Python —— 一个错误的分裂

    最近有一些文章提出与年龄相关的问题:“崭露头角的年轻数据科学家们是学习R语言还是Python更好?” 答案似乎都是“视情况而定”,在现实中没有必要在R和Pyt...

    小莹莹
  • 数据还在“周更”的快消巨人雀巢,将全球供应链预测误差降低了50%

    大数据文摘
  • 干货 | 14张高清Python数据科学家(数据分析&机器学习)代码速查表

    来源 | https://www.jianshu.com/u/be48b04ecc3e

    用户2769421
  • 关于机器学习你要了解的 5 件事

    请注意,这篇文章的标题不是关于机器学习的"最重要的5件事情"或"前5件事";这只是"5件事"。它不具有权威性的,也并不是事无巨细的,仅仅是5件可能有用的东西的集...

    昱良
  • 用Python执行SQL、Excel常见任务?10个方法全搞定!

    数据从业者有许多工具可用于分割数据。有些人使用 Excel,有些人使用SQL,有些人使用Python。对于某些任务,使用 Python 的优点是显而易见的。以更...

    用户2769421
  • 干货 | 14张高清Python数据科学家(数据分析&机器学习)代码速查表

    来源 | https://www.jianshu.com/u/be48b04ecc3e

    用户2769421

扫码关注云+社区

领取腾讯云代金券