作者 | Greg DeArment 译者 | 马可薇 策划 | Tina Palantir 开发的独特软件实现了以数据为驱动的操作和决策，其客户多为国际政府和情报机构。尽管公司最初选择了 GitOps 作为对开发者友好的工作流程，但这一决策的实施远比预期要难。Palantir 的解决方案很明确：搭建一个更为优秀的内部开发者平台对 GitOps 进行扩展，不过要实现这个目的还有些工作要做。 从 2017 年开始，这五年来作为公司基础设施及阿波罗平台（Apollo）的生产平台负责人， Greg D
Palantir是全球知名的大数据公司，去年国外媒体报道称Palantir公司正考虑IPO事宜，全球知名投行摩根士丹利预计Palantir公司的估值在360亿美元到410亿美元之间。
本文中我们将探讨数据框的概念，以及它们如何与PySpark一起帮助数据分析员来解读大数据集。
全球最神秘的大数据公司Palantir最近有新消息曝出，一直在帮助联邦卫生部门开发一款可以用来管理各种疫苗数据、并发现可能阻止注射情况的软件。
在本文中，我们将详细介绍如何在Python / pyspark环境中使用graphx进行图计算。GraphX是Spark提供的图计算API，它提供了一套强大的工具，用于处理和分析大规模的图数据。通过结合Python / pyspark和graphx，您可以轻松地进行图分析和处理。
想象一下，每秒有超过8500条微博被发送，900多张照片被上传到Instagram上，超过4200个Skype电话被打，超过78000个谷歌搜索发生，超过200万封电子邮件被发送（根据互联网实时统计）。
PySpark 在 DataFrameReader 上提供了csv("path")将 CSV 文件读入 PySpark DataFrame 并保存或写入 CSV 文件的功能dataframeObj.write.csv("path")，在本文中，云朵君将和大家一起学习如何将本地目录中的单个文件、多个文件、所有文件读入 DataFrame，应用一些转换，最后使用 PySpark 示例将 DataFrame 写回 CSV 文件。
Apache Spark是一个大数据处理引擎，与MapReduce相比具有多个优势。通过删除Hadoop中的大部分样板代码，Spark提供了更大的简单性。此外，由于Spark处理内存中的大多数操作，因此它通常比MapReduce更快，在每次操作之后将数据写入磁盘。
Spark无疑是当今数据科学和大数据领域最流行的技术之一。尽管它是用Scala开发的，并在Java虚拟机(JVM)中运行，但它附带了Python绑定，也称为PySpark，其API深受panda的影响。在功能方面，现代PySpark在典型的ETL和数据处理方面具有与Pandas相同的功能，例如groupby、聚合等等。
我们正在以前所未有的速度生成数据。老实说，我跟不上世界各地里产生的巨大数据量!我敢肯定你已经了解过当今时代数据的产量。McKinsey, Gartner, IBM,等公司都给出了他们公司的数据。
数据报道，曾经成功找到本·拉登的美国大数据公司Palantir这次的任务是帮助美国的卫生部门监控疫苗。据《华尔街日报》报道，Palantir正帮助美国联邦政府建立一个名为Tiberius的系统，该系统主要作用是追踪新冠病毒疫苗的生产、分销和管理。
Apache Parquet属于Hadoop生态圈的一种新型列式存储格式，既然属于Hadoop生态圈，因此也兼容大多圈内计算框架（Hadoop、Spark），另外Parquet是平台、语言无关的，这使得它的适用性很广，只要相关语言有对应支持的类库就可以用；
PySpark StructType 和 StructField 类用于以编程方式指定 DataFrame 的schema并创建复杂的列，如嵌套结构、数组和映射列。StructType是StructField的集合，它定义了列名、列数据类型、布尔值以指定字段是否可以为空以及元数据。
在前面的文章Fayson介绍了《如何在CDH中使用PySpark分布式运行GridSearch算法》，本篇文章Fayson主要介绍如何在CDSW上向CDH集群推送Gridsearch算法进行分布式计算。
本文通过介绍Apache Spark在Python中的应用来讲解如何利用PySpark包执行常用函数来进行数据处理工作。
官方文档链接：https://spark.apache.org/docs/2.2.0/ml-features.html
Spark编程指南 译者说在前面：最近在学习Spark相关的知识，在网上没有找到比较详细的中文教程，只找到了官网的教程。出于自己学习同时也造福其他初学者的目的，把这篇指南翻译成了中文，笔者水平有限，文章中难免有许多谬误，请高手不吝赐教。 本文翻译自Spark Programming Guide,由于笔者比较喜欢Python，在日常中使用也比较多，所以只翻译了Python部分，不过Java和Scala大同小异。 概述 从高层次上来看，每一个Spark应用都包含一个驱动程序，用于执行用户的main函数以及在集群
Pandas 是每位数据科学家和 Python 数据分析师都熟悉的工具库，它灵活且强大具备丰富的功能，但在处理大型数据集时，它是非常受限的。
PySpark SQL 提供 read.json("path") 将单行或多行（多行）JSON 文件读取到 PySpark DataFrame 并 write.json("path") 保存或写入 JSON 文件的功能，在本教程中，您将学习如何读取单个文件、多个文件、目录中的所有文件进入 DataFrame 并使用 Python 示例将 DataFrame 写回 JSON 文件。
问题导读 1.什么是Kubernetes？ 2.在Kubernetes集群尝试新功能，该如何实现？ 3.观看群集上创建的Spark资源，该如何操作？ 在开始之前我们需要知道 什么是Kubernetes Kubernetes（通常写成“k8s”）是最开始由google设计开发最后贡献给Cloud Native Computing Foundation的开源容器集群管理项目。它的设计目标是在主机集群之间提供一个能够自动化部署、可拓展、应用容器可运营的平台。Kubernetes通常结合docker容器工具工
2015年， 大数据 市场的发展迅猛，放眼国际，总体市场规模持续增加，随着人工 智能 、 物联网 的发展，几乎所有人将目光瞄准了“数据”产生的价值。行业厂商Cloudera、DataStax以及DataGravity等大数据公司已经投入大量资金研发相关技术，Hadoop供应商Hortonworks与数据 分析 公司New Relic甚至已经上市。而国内，国家也将大数据纳入国策。 我们在年底盘点了2015年大数据行业九大关键词，管窥这一年行业内的发展。 1 BI——挑战 2015年对于商业智能(BI)分析市
By Gregory Larsen, 2016/01/01 (首次发布于: 2014/01/29) 关于系列 本文属于进阶系列：T-SQL进阶：超越基础 跟随Gregory Larsen的T-SQL DML进阶系列，其涵盖了更多的高级方面的T-SQL语言，如子查询。 在您开始创建超出基本Transact-SQL语句的更复杂的SQL代码时，您可能会发现需要使用其他SELECT语句的结果来限制查询。 当在父Transact-SQL语句中嵌入SELECT语句时，这些嵌入式SELECT语句被称为子查询或相关子查询。
如果你不想docker在你的构建中直接调用，有一套丰富的 Maven 和 Gradle 插件可以为你完成这项工作。这里仅仅是少数。
在矩阵分解在协同过滤推荐算法中的应用中，我们对矩阵分解在推荐算法中的应用原理做了总结，这里我们就从实践的角度来用Spark学习矩阵分解推荐算法。
导读： 美国国防部长卡特曾赴硅谷招募顶尖科技人才。近年来的信息大爆炸使得五角大楼不得不将目光聚焦硅谷，以打击反恐。神秘的大数据平台Palantir就是美国CIA、FBI等寻求的合作对象。Palant
关于PySpark，我们知道它是Python调用Spark的接口，我们可以通过调用Python API的方式来编写Spark程序，它支持了大多数的Spark功能，比如SparkDataFrame、Spark SQL、Streaming、MLlib等等。只要我们了解Python的基本语法，那么在Python里调用Spark的力量就显得十分easy了。下面我将会从相对宏观的层面介绍一下PySpark，让我们对于这个神器有一个框架性的认识，知道它能干什么，知道去哪里寻找问题解答，争取看完这篇文章可以让我们更加丝滑地入门PySpark。话不多说，马上开始！
RDD（弹性分布式数据集） 是 PySpark 的基本构建块，它是容错、不可变的 分布式对象集合。
之前担任数据工程师时，由于不熟悉机器学习的流程，团队分工又很细，沟通不畅，机器学习工程师也没有和我谈论数据质量的问题，对于异常值，我采用的做法只是简单地过滤掉，或者将其置为0，而没有考虑到一些异常值可能会影响模型的准确度。因此作为一名数据工程师，了解机器学习的完整流程，还是很有必要的。
RDD（弹性分布式数据集） 是 PySpark 的基本构建块，是spark编程中最基本的数据对象； 它是spark应用中的数据集，包括最初加载的数据集，中间计算的数据集，最终结果的数据集，都是RDD。 从本质上来讲，RDD是对象分布在各个节点上的集合，用来表示spark程序中的数据。以Pyspark为例，其中的RDD就是由分布在各个节点上的python对象组成，类似于python本身的列表的对象的集合。区别在于，python集合仅在一个进程中存在和处理，而RDD分布在各个节点，指的是【分散在多个物理服务器上的多个进程上计算的】 这里多提一句，尽管可以将RDD保存到硬盘上，但RDD主要还是存储在内存中，至少是预期存储在内存中的，因为spark就是为了支持机器学习应运而生。 一旦你创建了一个 RDD，就不能改变它。
PySpark是Python和Apache Spark的结合，是一种用于大数据处理的强大工具。它提供了使用Python编写大规模数据处理和分析代码的便利性和高效性。本篇博客将向您介绍PySpark的基本概念以及如何入门使用它。
RDD是Spark编程中最基本的数据对象， 无论是最初加载的数据集，还是任何中间结果的数据集，或是最终的结果数据集，都是RDD。 在Pyspark中，RDD是由分布在各节点上的python对象组成，如列表，元组，字典等。 RDD主要是存储在内存中（亦可持久化到硬盘上），这就是相对于Hadoop的MapReduce的优点，节省了重新读取硬盘数据的时间。
PySpark是一种适合在大规模数据上做探索性分析，机器学习模型和ETL工作的优秀语言。若是你熟悉了Python语言和pandas库，PySpark适合你进一步学习和使用，你可以用它来做大数据分析和建模。
对于音乐流媒体业务来说，确定可能流失的用户（即有可能从付费降级到取消服务的用户）是关键。
在电商中，了解用户在不同品类的各个产品的购买力是非常重要的！这将有助于他们为不同产品的客户创建个性化的产品。在这篇文章中，笔者在真实的数据集中手把手实现如何预测用户在不同品类的各个产品的购买行为。
PySpark作为工业界常用于处理大数据以及分布式计算的工具，特别是在算法建模时起到了非常大的作用。PySpark如何建模呢？这篇文章手把手带你入门PySpark，提前感受工业界的建模过程！
笔者最近需要使用pyspark进行数据整理，于是乎给自己整理一份使用指南。pyspark.dataframe跟pandas的差别还是挺大的。
假设你有1亿条记录，有时候用到75%数据量，有时候用到10%。也许你该考虑10%的使用率是不是导致不能发挥最优性能模型的最关键原因。
pyspark读取hive数据非常简单，因为它有专门的接口来读取，完全不需要像hbase那样，需要做很多配置，pyspark提供的操作hive的接口，使得程序可以直接使用SQL语句从hive里面查询需要的数据，代码如下：
PySpark和Pandas之间改进性能和互操作性的其核心思想是将Apache Arrow作为序列化格式，以减少PySpark和Pandas之间的开销。
在最后一部分中，我们将讨论一个演示应用程序，该应用程序使用PySpark.ML根据Cloudera的运营数据库（由Apache HBase驱动）和Apache HDFS中存储的训练数据来建立分类模型。然后，对该模型进行评分并通过简单的Web应用程序提供服务。有关更多上下文，此演示基于此博客文章如何将ML模型部署到生产中讨论的概念。
2022年7月，纽交所上市企业Palantir 获得战略融资约4.5亿美元，估值近200亿美元。2022年2月，决策类AI企业第四范式获得腾讯等战略投资，融资金额超十亿美元，估值近30亿美元。2021年1月，智能决策企业Gro intelligence获得Intel Capital等投资，融资金额达8500万美元。
Cloud Foundry作为业界出众的PaaS平台，在应用的可扩展性方面做得很优秀。
我们在Apache Spark 1.3版本中引入了DataFrame功能, 使得Apache Spark更容易用. 受到R语言和Python中数据框架的启发, Spark中的DataFrames公开了一个类似当前数据科学家已经熟悉的单节点数据工具的API. 我们知道, 统计是日常数据科学的重要组成部分. 我们很高兴地宣布在即将到来的1.4版本中增加对统计和数学函数的支持.
大数据（Big Data）是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。大数据技术，是指从各种各样类型的数据中，快速获得有价值信息的能力。
PySpark 通过 RPC server 来和底层的 Spark 做交互，通过 Py4j 来实现利用 API 调用 Spark 核心。 Spark (written in Scala) 速度比 Hadoop 快很多。Spark 配置可以各种参数，包括并行数目、资源占用以及数据存储的方式等等 Resilient Distributed Dataset (RDD) 可以被并行运算的 Spark 单元。它是 immutable, partitioned collection of elements
Spark MLLib是一个用于在海量数据集上执行机器学习和相关任务的库。使用MLlib，可以对十亿个观测值进行机器学习模型的拟合，可能只需要几行代码并利用数百台机器就能达到。MLlib大大简化了模型开发过程。
做算法的同学对于Kaggle应该都不陌生，除了举办算法挑战赛以外，它还提供了一个学习、练习数据分析和算法开发的平台。Kaggle提供了Kaggle Kernels，方便用户进行数据分析以及经验分享。在Kaggle Kernels中，你可以Fork别人分享的结果进行复现或者进一步分析，也可以新建一个Kernel进行数据分析和算法开发。Kaggle Kernels还提供了一个配置好的环境，以及比赛的数据集，帮你从配置本地环境中解放出来。Kaggle Kernels提供给你的是一个运行在浏览器中的Jupyter，你可以在上面进行交互式的执行代码、探索数据、训练模型等等。更多关于Kaggle Kernels的使用方法可以参考 Introduction to Kaggle Kernels，这里不再多做阐述。
领取专属 10元无门槛券
手把手带您无忧上云
