腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

斑斓

张逸的技术分享

专栏作者

256

文章

255813

阅读量

60

订阅数

PySpark分析二进制文件

spark linux python https

客户需求客户希望通过spark来分析二进制文件中0和1的数量以及占比。如果要分析的是目录，则针对目录下的每个文件单独进行分析。分析后的结果保存与被分析文件同名的日志文件中，内容包括0和1字符的数量与占比。要求：如果值换算为二进制不足八位，则需要在左侧填充0。可以在linux下查看二进制文件的内容。命令： xxd –b –c 1 filename 命令参数-c 1是显示1列1个字符，-b是显示二进制。遇到的坑开发环境的问题要在spark下使用python，需要事先使用pip安装pyspark。

2018-03-07

1.7K0

Spark Submit的ClassPath问题

需求场景：我们的产品需要与客户的权限系统对接，即在登录时使用客户的认证系统进行认证。集成认证的方式是调用客户提供的jar包，调用userService的authenticate方法。同时，还需要在classpath中提供密钥的key文件。从需求看，这个集成并不复杂，且客户也提供了较翔实的接口文档与示例案例，开发工作量非常小。唯一的阻碍是客户有安全要求，内部的Jar包及其他文件都不能拷贝出来，而我们的开发环境是不能连接客户内网的。客户提供的Jar包并没有通过Maven来管理，我们只能采用直接导入的方式。在

2018-03-07

4.1K0

我们的产品架构

大数据 spark sql

本文是我在中生代技术群分享的话题《创业一年经历的技术风雨》中的第一部分《产品架构与技术选型》的第一部分。整体架构我们的产品代号为Mort（这个代号来自电影《马达加斯加》那只萌萌的大眼猴），是基于

2018-03-07

9030

Martin Odersky访谈录所思

ThoughtWorks的「TW洞见」在4月发布了对Scala之父Martin Odersky的访谈。Odersky的回答显得言简意赅，仔细分析，仍然能从中收获不少隐含的信息（虽然可能是负面的信息）。提问的中心主要是语言之争。Scala是一门极具吸引力的语言，似乎天生具备一种气质，轻易能够吸粉，但招黑的能力也不遑多让。它似乎是从象牙塔里钻研出来的，但又在许多大型项目和产品中得到了实践。有人转向了她，又有人之后背弃了它。如果说Ruby的助力是Rails，那么推动着Scala在社区中成长的，其实到处可见Spa

2018-03-07

8260

Spark强大的函数扩展功能

在数据分析领域中，没有人能预见所有的数据运算，以至于将它们都内置好，一切准备完好，用户只需要考虑用，万事大吉。扩展性是一个平台的生存之本，一个封闭的平台如何能够拥抱变化？在对数据进行分析时，无论是算法也好，分析逻辑也罢，最好的重用单位自然还是：函数。故而，对于一个大数据处理平台而言，倘若不能支持函数的扩展，确乎是不可想象的。Spark首先是一个开源框架，当我们发现一些函数具有通用的性质，自然可以考虑contribute给社区，直接加入到Spark的源代码中。我们欣喜地看到随着Spark版本的演化，确实涌

2018-03-07

2.1K0

Spark 1.4为DataFrame新增的统计与数学函数

Spark一直都在快速地更新中，性能越来越快，功能越来越强大。我们既可以参与其中，也可以乐享其成。目前，Spark 1.4版本在社区已经进入投票阶段，在Github上也提供了1.4的分支版本。最近，Databricks的工程师撰写了博客，介绍了Spark 1.4为DataFrame新增的统计与数学函数。这篇博客介绍的函数主要包括：随机数据生成（Random Data Generation）概要与描述性统计（Summary and descriptive statistics）协方差与相关性（Sa

2018-03-07

1.2K0

Spark发布1.3.0版本

3月13日，Spark 1.3.0版本与我们如约而至。这是Spark 1.X发布计划中的第四次发布，距离1.2版本发布约三个月时间。据Spark官方网站报道，此次发布是有史以来最大的一次发布，共有174位开发者为代码库做出贡献，提交次数超过1000次。此次版本发布的最大亮点是新引入的DataFrame API。对于结构型的DataSet，它提供了更方便更强大的操作运算。事实上，我们可以简单地将DataFrame看做是对RDD的一个封装或者增强，使得Spark能够更好地应对诸如数据表、JSON数据等结构型数

2018-03-07

8360

Spark SQL访问Postgresql

spark sql postgresql

随着Spark SQL的正式发布，以及它对DataFrame的支持，它可能会取代HIVE成为越来越重要的针对结构型数据进行分析的平台。随着Spark SQL的正式发布，以及它对DataFrame的支

2018-03-07

1.6K0

选型的目光瞄准Spark

在Spark社区，众多参与者已经在为Spark 1.4.0(RC2)推出的特性投票了。我之遗憾，在于我们暂时还未参与这项工程的创造工作；我之欣喜，在于我们可以毫无顾虑地借用它；最后，得以帮助这座大集市在人声鼎沸中彰显不羁的个性。 ♦ ♦ 在大数据分析平台，我们选择了Spark。这源于它的效率，它的快速演化，更在于我对它的偏爱。在理性挑选的基础上，感情的抉择成了火箭发射时最后一级的助力。从最早对0.9版本的使用到现在的1.3.1，我亲眼所见Spark迅猛的发展。它发力于通用与性能两大亮点之上，使得自己在众多

2018-03-07

6190

大数据 | Spark中实现基础的PageRank

大数据 spark

吴军博士在《数学之美》中深入浅出地介绍了由Google的佩奇与布林提出的PageRank算法，这是一种民主表决式网页排名技术。书中提到PageRank的核心思想为：在互联网上，如果一个网页被很多其他网页所链接，说明它受到普遍的承认和信赖，那么它的排名就高。同时，该算法还要对来自不同网页的链接区别对待，排名越高的网页，则其权重会更高，即所谓网站贡献的链接权更大。例如网页Y被X1，X2，X3，X4四个网页所链接，且这四个网页的权重分别为0.001，0.01，0.02，0.04，则网页Y的Rank值=0.0

2018-03-07

1.3K0

框架 | Spark中的combineByKey

在数据分析中，处理Key，Value的Pair数据是极为常见的场景，例如我们可以针对这样的数据进行分组、聚合或者将两个包含Pair数据的RDD根据key进行join。从函数的抽象层面看，这些操作具有共同的特征，都是将类型为RDD[(K,V)]的数据处理为RDD[(K,C)]。这里的V和C可以是相同类型，也可以是不同类型。这种数据处理操作并非单纯的对Pair的value进行map，而是针对不同的key值对原有的value进行联合（Combine）。因而，不仅类型可能不同，元素个数也可能不同。 Spark为此提

2018-03-07

9540

大数据 | 理解Spark的核心RDD

大数据 spark

与许多专有的大数据处理平台不同，Spark建立在统一抽象的RDD之上，使得它可以以基本一致的方式应对不同的大数据处理场景，包括MapReduce，Streaming，SQL，Machine Learning以及Graph等。这即Matei Zaharia所谓的“设计一个通用的编程抽象（Unified Programming Abstraction）。这正是Spark这朵小火花让人着迷的地方。要理解Spark，就需得理解RDD。 RDD是什么？ RDD，全称为Resilient Distributed Da

2018-03-07

8230

【大数据】Spark的硬件配置

大数据 spark

从MapReduce的兴起，就带来一种思路，就是希望通过大量廉价的机器来处理以前需要耗费昂贵资源的海量数据。这种方式事实上是一种架构的水平伸缩模式——真正的以量取胜。毕竟，以现在的硬件发展来看，CPU的核数、内存的容量以及海量存储硬盘，都慢慢变得低廉而高效。然而，对于商业应用的海量数据挖掘或分析来看，硬件成本依旧是开发商非常关注的。当然最好的结果是：既要马儿跑得快，还要马儿少吃草。 Spark相对于Hadoop的MapReduce而言，确乎要跑得迅捷许多。然而，Spark这种In-Memory的计算模式，是

2018-03-07

2.2K0

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态