腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
james大数据架构
高并发分布式负载均衡、Hadoop批处理、Spark流式实时大数据处理架构
专栏成员
举报
241
文章
428252
阅读量
55
订阅数
订阅专栏
申请加入专栏
全部文章(241)
android(63)
sql(23)
html(20)
数据库(18)
java(13)
javascript(13)
mvc(13)
.net(11)
jquery(11)
linux(11)
spring(11)
大数据(11)
容器镜像服务(9)
容器(9)
编程算法(9)
分布式(9)
hadoop(8)
其他(7)
c#(7)
云数据库 SQL Server(7)
kubernetes(7)
tcp/ip(7)
数据处理(7)
微服务(7)
xml(6)
sql server(6)
zabbix(6)
json(5)
eclipse(5)
图像处理(5)
spring cloud(5)
asp.net(4)
css(4)
打包(4)
http(4)
存储(4)
ajax(3)
nginx(3)
网络安全(3)
spring boot(3)
https(3)
系统架构(3)
负载均衡(2)
机器学习(2)
c++(2)
云数据库 Redis(2)
access(2)
tomcat(2)
负载均衡缓存(2)
NAT 网关(2)
es 2(2)
ssh(2)
面向对象编程(2)
jdbc(2)
微信(2)
nat(2)
布局(2)
php(1)
go(1)
nosql(1)
ruby on rails(1)
git(1)
maven(1)
centos(1)
网站(1)
DevOps 解决方案(1)
游戏(1)
开源(1)
运维(1)
shell(1)
spark(1)
html5(1)
jvm(1)
yum(1)
zookeeper(1)
dubbo(1)
udp(1)
jenkins(1)
iis(1)
powershell(1)
数据结构(1)
es(1)
string(1)
接口(1)
数据(1)
数组(1)
注解(1)
搜索文章
搜索
搜索
关闭
0基础搭建Hadoop大数据处理-集群安装
大数据
hadoop
java
经过一系列的前期环境准备,现在可以开始Hadoop的安装了,在这里去apache官网下载2.7.3的版本 http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz 不需要下载最新的3.0版本, 与后续Hive最新版本有冲突,不知道是不是自己的打开方式不对。 hadoop有三种运行方式:单机、伪分布式、完全分布式,本文介绍完全分布式。 安装Hadoop 现在有三个机器,一个Mast
欢醉
2018-01-22
1.2K
0
0基础搭建Hadoop大数据处理-编程
大数据
hadoop
java
Hadoop的编程可以是在Linux环境或Winows环境中,在此以Windows环境为示例,以Eclipse工具为主(也可以用IDEA)。网上也有很多开发的文章,在此也参考他们的内容只作简单的介绍和要点总结。 Hadoop是一个强大的并行框架,它允许任务在其分布式集群上并行处理。但是编写、调试Hadoop程序都有很大难度。正因为如此,Hadoop的开发者开发出了Hadoop Eclipse插件,它在Hadoop的开发环境中嵌入了Eclipse,从而实现了开发环境的图形化,降低了编程难度。在安装插件
欢醉
2018-01-22
1.2K
0
几十条业务线日志系统如何收集处理?
hadoop
在互联网迅猛发展的今天 各大厂发挥十八般武艺的收集用户的各种信息,甚至包括点击的位置,我们也经常发现自己刚搜完一个东西,再打开网页时每个小广告都会出现与之相关联的商品或信息,在感叹智能的同时不惊想 什么时候泄露的行踪。 许多公司的业务平台每天都会产生大量的日志数据。收集业务日志数据,供离线和在线的分析系统使用,正是日志收集系统的要做的事情。 用户的数据除了这种后台默默的收集外,还有各种运行的日志数据和后台操作日志,因此每个业务可以算是一种类型的日志,那稍大点的公司就会有几十种日志类型要收集,而且
欢醉
2018-01-22
1.3K
0
如何将mysql数据导入Hadoop之Sqoop安装
云数据库 SQL Server
hadoop
Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop独立成为一个Apache项目。 总之Sqoop
欢醉
2018-01-22
2.2K
0
mysql数据与Hadoop之间导入导出之Sqoop实例
hadoop
大数据
云数据库 SQL Server
前面介绍了sqoop1.4.6的 如何将mysql数据导入Hadoop之Sqoop安装,下面就介绍两者间的数据互通的简单使用命令。 显示mysql数据库的信息,一般sqoop安装测试用 sqoop list-databases --connect jdbc:mysql://192.168.2.101:3306/ --username root --password root 显示数据库里所有表: sqoop list-tables --connectjdbc:mysql://192.168.2.101:
欢醉
2018-01-22
2K
0
0基础搭建Hadoop大数据处理-初识
大数据
数据处理
hadoop
在互联网的世界中数据都是以TB、PB的数量级来增加的,特别是像BAT光每天的日志文件一个盘都不够,更何况是还要基于这些数据进行分析挖掘,更甚者还要实时进行数据分析,学习,如双十一淘宝的交易量的实时展示。 大数据什么叫大?4个特征: 体量化 Volume,就是量大。 多样化 Variety,可能是结构型的数据,也可能是非结构行的文本,图片,视频,语音,日志,邮件等 快速化 Velocity,产生快,处理也需要快。 价值密度低 Value,数据量大,但单个数据没什么意义,需要宏观的统计体现其隐藏的价值。
欢醉
2018-01-22
1K
0
如何实现两台服务器间无密码的传输数据和操作
ssh
hadoop
我们知道如果要向远程服务器传输数据和操作必须输入用户名和密码远程登录服务器 ,或用FTP等协议,都需要权限控制。 然而如果是两台服务器间的软件需要通讯和数据传输,如hadoop集群中机器互访,是不是每次也要输入用户名和密码?那是不是很麻烦?下面介绍SSH来解决这个问题(不是JAVA中的SSH概念) SSH是一种网络协议,用于计算机之间的加密登录。 如果一个用户从本地计算机,使用SSH协议登录另一台远程计算机,我们就可以认为,这种登录是安全的,即使被中途截获,密码也不会泄露。 最早的时候,互联网
欢醉
2018-01-22
2K
0
0基础搭建Hadoop大数据处理-环境
数据处理
大数据
linux
hadoop
由于Hadoop需要运行在Linux环境中,而且是分布式的,因此个人学习只能装虚拟机,本文都以VMware Workstation为准,安装CentOS7,具体的安装此处不作过多介绍,只作需要用到的知识介绍。 VMware的安装,装好一个虚拟机后利用复制虚拟机的方式创建后面几个虚拟机,省时省力,需要注意的是需要修改每个虚拟机的IP与主机名。 所有虚拟机采用NAT模式上网,而且要保证与物理主机的IP互相能访问。 需要注意的几个问题。nat如果上网首先需要查看物理机(pc机)这个服务器已经启动
欢醉
2018-01-22
1.2K
0
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档