首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >移动计算比移动数据更划算

移动计算比移动数据更划算

作者头像
Michael阿明
发布2021-09-07 11:05:42
7850
发布2021-09-07 11:05:42
举报

learn from 从0开始学大数据(极客时间)

  • 数据太大(PB级别),将程序发送到数据所在地方进行计算,比移动数据更划算

如何实现的:

  • 将大规模数据存储在集群的所有服务器上,(HDFS系统,块存储)
  • 大数据引擎根据服务器的计算能力,在每台服务器启动若干分布式任务执行进程待命
  • 大数据计算框架编程,打包编程模型,如 Java 的 JAR 包
  • 用 Hadoop 或 Spark 执行 JAR 包(解析数据输入路径、大小、数据切分、数据片分配给任务执行进程)
  • 任务执行进程,检查是否有对应的程序包,没有则下载,通过反射的方式加载程序
  • 加载程序后,读取数据,执行程序
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2021-02-22 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档