腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
技术圈
专栏作者
举报
99
文章
94016
阅读量
13
订阅数
订阅专栏
申请加入专栏
全部文章（99）
编程算法（36）
神经网络（14）
机器学习（12）
深度学习（12）
人工智能（11）
协议（10）
java（8）
python（8）
数据库（8）
sql（7）
spark（7）
http（6）
mongodb（5）
数据结构（5）
NLP 服务（4）
c++（4）
node.js（4）
mapreduce（4）
云数据库 MongoDB（4）
分布式（4）
hadoop（4）
linux（3）
批量计算（3）
存储（3）
决策树（3）
Elasticsearch Service（3）
其他（2）
javascript（2）
xml（2）
git（2）
文件存储（2）
机器翻译（2）
yarn（2）
缓存（2）
jvm（2）
正则表达式（2）
推荐系统（2）
大数据（2）
bash（1）
scala（1）
jquery（1）
json（1）
nosql（1）
postgresql（1）
api（1）
搜索引擎（1）
ubuntu（1）
apache（1）
命令行工具（1）
TDSQL MySQL 版（1）
腾讯云测试服务（1）
渲染（1）
游戏（1）
开源（1）
爬虫（1）
网络安全（1）
yum（1）
面向对象编程（1）
hashmap（1）
selenium（1）
tcp/ip（1）
scrapy（1）
迁移学习（1）
数据分析（1）
hbase（1）
云计算（1）
cat（1）
count（1）
distribution（1）
hidden（1）
init（1）
lda（1）
object（1）
shutdown（1）
state（1）
word（1）
遍历（1）
动态规划（1）
连接（1）
面试（1）
统计（1）
压缩（1）
搜索文章
搜索
搜索
关闭
Spark系列(四)RDD编程
spark
大数据
数据结构
缓存
分布式
Spark大数据处理的核心是RDD,RDD的全称为弹性分布式数据集，对数据的操作主要涉及RDD的创建、转换以及行动等操作，在Spark系列(二)中主要介绍了RDD根据SparkContext的textFile创建RDD的方法，本小节将介绍RDD编程之转换（Transform）和行动（Action）两种操作。
张凝可
2019-08-22
384
0
RDD分区理解
spark
java
大数据
缓存
一个HDFS文件的RDD将文件的每个文件块表示为一个分区，并且知道每个文件块的位置信息。这些对应着数据块的分区分布到集群的节点中，因此，分区的多少涉及对这个RDD进行并行计算的粒度。首先，分区是一个逻辑概念， 变换前后的新旧分区在物理上可能是同一块内存或者是存储。
张凝可
2019-08-22
1.2K
0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天，分 10000 元奖品池！
立即发文
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档