腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
xingoo, 一个梦想做发明家的程序员
专栏成员
举报
805
文章
937810
阅读量
80
订阅数
订阅专栏
申请加入专栏
全部文章(805)
java(111)
其他(97)
编程算法(91)
es 2(47)
spark(39)
数据库(34)
spring(34)
apache(30)
大数据(30)
数据处理(30)
javascript(26)
存储(26)
windows(25)
angularjs(24)
机器学习(23)
oracle(23)
linux(23)
数据结构(23)
html(22)
xml(20)
sql(17)
eclipse(13)
tomcat(13)
jsp(12)
jquery(12)
云数据库 SQL Server(12)
云数据库 Redis(12)
mvc(12)
node.js(11)
udp(11)
安全(11)
api(10)
scala(9)
汇编语言(9)
容器(9)
hadoop(9)
c++(8)
深度学习(8)
开源(8)
分布式(8)
shell(8)
aop(8)
servlet(7)
缓存(7)
jvm(7)
jdbc(7)
指针(7)
c 语言(6)
ruby(6)
css(6)
图像处理(6)
http(6)
hbase(6)
函数(6)
json(5)
打包(5)
git(5)
运维(5)
hashmap(5)
二叉树(5)
https(5)
flink(5)
tensorflow(4)
bootstrap(4)
ajax(4)
android(4)
maven(4)
腾讯云测试服务(4)
人工智能(4)
mybatis(4)
zookeeper(4)
队列(4)
ios(3)
.net(3)
ecmascript(3)
github(3)
容器镜像服务(3)
神经网络(3)
mapreduce(3)
网络安全(3)
yum(3)
推荐系统(3)
线性回归(3)
tcp/ip(3)
单元测试(3)
架构设计(3)
io(3)
ip(3)
size(3)
python(2)
go(2)
nosql(2)
access(2)
ide(2)
svn(2)
jar(2)
struts(2)
lucene/solr(2)
mongodb(2)
express(2)
yarn(2)
游戏(2)
html5(2)
面向对象编程(2)
keras(2)
kernel(2)
汽车(2)
cuda(2)
int(2)
服务器(2)
接口(2)
链表(2)
连接(2)
排序(2)
设计模式(2)
搜索(2)
算法(2)
对象存储(1)
负载均衡(1)
mac os(1)
php(1)
c#(1)
lua(1)
bash(1)
listview(1)
textview(1)
搜索引擎(1)
unix(1)
centos(1)
负载均衡缓存(1)
企业邮箱(1)
知识图谱(1)
数字营销(1)
腾讯专有云 PaaS 平台(1)
kubernetes(1)
grunt(1)
自动化(1)
黑客(1)
压力测试(1)
数据迁移(1)
爬虫(1)
无人驾驶(1)
jdk(1)
图像识别(1)
ssh(1)
正则表达式(1)
numpy(1)
dns(1)
opencv(1)
npm(1)
grep(1)
自动化测试(1)
cdn(1)
dubbo(1)
gcc(1)
socket编程(1)
uml(1)
无监督学习(1)
微信(1)
小程序(1)
安全漏洞(1)
系统架构(1)
nat(1)
虚拟化(1)
abstraction(1)
acrobat(1)
adobe(1)
arguments(1)
bi(1)
break(1)
class(1)
component(1)
decorator(1)
default(1)
device(1)
distributed(1)
dom(1)
double(1)
editor(1)
expression(1)
google(1)
handle(1)
hdfs(1)
host(1)
keydown(1)
kibana(1)
pdf(1)
ps(1)
search(1)
shadow(1)
shutdown(1)
state(1)
status(1)
stl(1)
sum(1)
swt(1)
unsigned(1)
viewer(1)
void(1)
winsock(1)
word(1)
编程(1)
遍历(1)
变量(1)
编译器(1)
测试(1)
对象(1)
后端(1)
集合(1)
计算机(1)
进程(1)
路由器(1)
配置(1)
事件(1)
数学(1)
数组(1)
思维导图(1)
网络(1)
系统(1)
效率(1)
学习笔记(1)
优化(1)
语法(1)
终端(1)
主机(1)
搜索文章
搜索
搜索
关闭
CDH中如何升级Spark
spark
hadoop
yarn
通过上面的过程分析,可以知道,Spark版本存在两个地方:一个是A节点提交Spark-submit的程序必须是2.3.0版本的;另一个是Yarn使用的lib必须是2.3.0版本的。
用户1154259
2018-07-31
882
0
大数据之Yarn——Capacity调度器概念以及配置
hadoop
试想一下,你现在所在的公司有一个hadoop的集群。但是A项目组经常做一些定时的BI报表,B项目组则经常使用一些软件做一些临时需求。那么他们肯定会遇到同时提交任务的场景,这个时候到底如何分配资源满足这两个任务呢?是先执行A的任务,再执行B的任务,还是同时跑两个? 如果你存在上述的困惑,可以多了解一些yarn的资源调度器。 在Yarn框架中,调度器是一块很重要的内容。有了合适的调度规则,就可以保证多个应用可以在同一时间有条不紊的工作。最原始的调度规则就是FIFO,即按照用户提交任务的时间来决定哪个任务先
用户1154259
2018-01-17
1.5K
0
[大数据之Yarn]——资源调度浅学
大数据
hadoop
在hadoop生态越来越完善的背景下,集群多用户租用的场景变得越来越普遍,多用户任务下的资源调度就显得十分关键了。比如,一个公司拥有一个几十个节点的hadoop集群,a项目组要进行一个计算任务,b项目组要计算一个任务,集群到底先执行哪个任务?如果你需要提交1000个任务呢?这些任务又是如何执行的? 为了解决上面的问题,就需要在hadoop集群中引入资源管理和任务调度的框架。这就是——Yarn。 YARN的发展 Yarn在第一代的时候,框架跟hdfs差不多。一个主节点jobtracker,用来分配任务和
用户1154259
2018-01-17
1K
0
Oozie 快速入门
hadoop
设想一下,当你的系统引入了spark或者hadoop以后,基于Spark和Hadoop已经做了一些任务,比如一连串的Map Reduce任务,但是他们之间彼此右前后依赖的顺序,因此你必须要等一个任务执行成功后,再手动执行第二个任务。是不是很烦! 这个时候Oozie(驯象人,典故来自评论一楼)就派上用场了,它可以把多个任务组成一个工作流,自动完成任务的调用。 简介 Oozie是一个基于工作流引擎的服务器,可以在上面运行Hadoop的Map Reduce和Pig任务。它其实就是一个运行在Java Serv
用户1154259
2018-01-17
1.1K
0
[Hadoop大数据]——Hive连接JOIN用例详解
hadoop
大数据
SQL里面通常都会用Join来连接两个表,做复杂的关联查询。比如用户表和订单表,能通过join得到某个用户购买的产品;或者某个产品被购买的人群.... Hive也支持这样的操作,而且由于Hive底层运行在hadoop上,因此有很多地方可以进行优化。比如小表到大表的连接操作、小表进行缓存、大表进行避免缓存等等... 下面就来看看hive里面的连接操作吧!其实跟SQL还是差不多的... 数据准备:创建数据-->创建表-->导入数据 首先创建两个原始数据的文件,这两个文件分别有三列,第一列是id、第二列是名
用户1154259
2018-01-17
1.4K
0
[Hadoop大数据]——Hive数据的导入导出
大数据
数据库
hadoop
Hive作为大数据环境下的数据仓库工具,支持基于hadoop以sql的方式执行mapreduce的任务,非常适合对大量的数据进行全量的查询分析。 本文主要讲述下hive载cli中如何导入导出数据:
用户1154259
2018-01-17
3.8K
0
[Hadoop大数据]——Hive部署入门教程
大数据
linux
数据库
hadoop
Hive是为了解决hadoop中mapreduce编写困难,提供给熟悉sql的人使用的。只要你对SQL有一定的了解,就能通过Hive写出mapreduce的程序,而不需要去学习hadoop中的api。
用户1154259
2018-01-17
1.7K
0
[Hadoop大数据]——Hive初识
大数据
数据库
hadoop
Hive出现的背景 Hadoop提供了大数据的通用解决方案,比如存储提供了Hdfs,计算提供了MapReduce思想。但是想要写出MapReduce算法还是比较繁琐的,对于开发者来说,需要了解底层的hadoop api。如果不是开发者想要使用mapreduce就会很困难.... 另一方面,大部分的开发者都有使用SQL的经验。SQL成为开发者必备的技能... 那么可以不可以使用SQL来完成MapReduce的过程呢?—— 答案就是,Hive Hive能够解决的问题 Hive可以帮助开发者从现有的数据基础架构转
用户1154259
2018-01-17
652
0
Hadoop HDFS 用户指南
go
apache
hadoop
This document is a starting point for users working with Hadoop Distributed File System (HDFS) either as a part of a Hadoop cluster or as a stand-alone general purpose distributed file system. While HDFS is designed to "just work" in many environments, a
用户1154259
2018-01-17
709
0
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档