腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

hadoop学习

专栏作者

29

文章

30693

阅读量

15

订阅数

学习Hadoop大数据基础框架

大数据 hadoop 开源 mapreduce spark

什么是大数据？进入本世纪以来，尤其是2010年之后，随着互联网特别是移动互联网的发展，数据的增长呈爆炸趋势，已经很难估计全世界的电子设备中存储的数据到底有多少，描述数据系统的数据量的计量单位从MB（1MB大约等于一百万字节）、GB（1024MB）、TB（1024GB），一直向上攀升，目前，PB（等于1024TB）级的数据系统已经很常见，随着移动个人数据、社交网站、科学计算、证券交易、网站日志、传感器网络数据量的不断加大，国内拥有的总数据量早已超出 ZB（1ZB=1024EB，1EB=1024PB）级别。

2018-11-14

5560

什么是大数据技术架构

开源大数据分布式数据分析搜索引擎

大数据的应用开发过于偏向底层，具有学习难度大，涉及技术面广的问题，这制约了大数据的普及。现在需要一种技术，把大数据开发中一些通用的，重复使用的基础代码、算法封装为类库，降低大数据的学习门槛，降低开发难度，提高大数据项目的开发效率。

2018-11-14

1.5K0

hadoop需要哪些技术支持

hadoop mapreduce spark 大数据开源

hadoop是一个开源软件框架，可安装在一个商用机器集群中，使机器可彼此通信并协同工作，以高度分布式的方式共同存储和处理大量数据。最初，Hadoop 包含以下两个主要组件：Hadoop Distributed File System (HDFS) 和一个分布式计算引擎，该引擎支持以 MapReduce 作业的形式实现和运行程序。

2018-11-13

6800

深度解析大快DKM大数据运维管理平台功能

hadoop 大数据自动化运维

之前几周的时间一直是在围绕DKhadoop的运行环境搭建写分享，有一些朋友留言索要了dkhadoop安装包，不知道有没有去下载安装一探究竟。关于DKHadoop下载安装基本已经讲清楚了，这几天有点空闲把大快DKM大数据运维管理平台的内容整理了一些，作为DKHadoop相配套的管理平台，是有必要对DKM有所了解的。

2018-11-02

1.3K0

标题：DKhadoop大数据处理平台监控数据介绍

spark yarn node.js 大数据

2018年国内大数据公司50强榜单排名已经公布了出来，大快以黑马之姿闯入50强，并摘得多项桂冠。Hanlp自然语言处理技术也荣膺了“2018中国数据星技术”奖。对这份榜单感兴趣的可以找一下看看。本篇承接上一篇《DKM平台监控参数说明》，继续就大快的大数据一体化处理架构中的平台监控参数进行介绍和说明。

2018-10-30

8220

hadoop集群管理系统搭建规划说明

分布式 hadoop 大数据存储编程算法

Hadoop分布式集群环境搭建是每个入门级新手都非常头疼的事情，因为你可能花费了很久的时间在搭建运行环境，最终却不知道什么原因无法创建成功。但对新手来说，运行环境搭建不成功的概率还蛮高的。

2018-10-24

8230

hadoop最新发行稳定版：DKHadoop版本选择详解

hadoop sql mapreduce 分布式大数据

Hadoop对于从事互联网工作的朋友来说已经非常熟悉了，相信在我们身边有很多人正在转行从事hadoop开发的工作，理所当然也会有很多hadoop入门新手。Hadoop开发太过底层，技术难度远比我们想象的要大，对新手而言选择一个合适的hadoop版本就意味着上手更快！

2018-10-23

1.2K0

SQL与NoSQL数据库入门基础知识详解

大数据开源 nosql sql hadoop

这几年的大数据热潮带动了一激活了一大批hadoop学习爱好者。有自学hadoop的，有报名培训班学习的。所有接触过hadoop的人都知道，单独搭建hadoop里每个组建都需要运行环境、修改配置文件测试等过程。对于我们这些入门级新手来说简直每个都是坑。国内的发行版hadoop那么多，似乎都没有来填这样的坑？不知道是没法解决，还是没有想到？

2018-10-23

5820

人力资源大数据解决方案

大数据解决方案大数据数据可视化数据处理

大数据技术的应用正在潜移默化改变着我们的日常生活习惯和工作方式，很多看起来有点“不可思议”的事情也渐渐被我们“习以为常”。大数据可能在国内的起步较晚，但我们可能却是对大数据应用最好的了代表了。前些时候有分享了一个大数据技术在智慧人社上面的应用案例，最近也一直看一些人力资源方面大数据解决方案的案例，比较集中的都是围绕智慧人社的。

2018-10-17

1.5K0

hadoop和spark的区别

hadoop spark mapreduce 分布式大数据

学习hadoop已经有很长一段时间了，好像是二三月份的时候朋友给了一个国产Hadoop发行版下载地址，因为还是在学习阶段就下载了一个三节点的学习版玩一下。在研究、学习hadoop的朋友可以去找一下看看（发行版大快DKhadoop，去大快的网站上应该可以下载到的。）

2018-10-16

7380

大数据平台开发公司有哪些？

大数据、区块链可以说近几年互联网非常火爆的风口了，发展真可谓是蓬勃向上。围绕大数据进行的行业变革、创新已经不仅仅是趋势，而是真实在进行中。大数据技术对各行业的重要性不言而喻，15年政府下发关于推进大数据技术发展的重要文件，紧接着又将大数据上升到了国家战略层面。所有这一系列重要举措，都证明了一件事情——当下，正是大数据的风口！

2018-10-11

3.6K0

hadoop商业版本选择对比

hadoop 大数据

记得刚接触到hadoop的时候跟大部分人一样都会抱怨hadoop的安装部署问题，对于一个新手来说这这的是个头疼的问题，可能需要花费一整天的时间才能把分布式环境安装配置好。在刚接触hadoop的一段时间里，可以说对于hadoop的理解一直都是停留在相对较肤浅的层面。后来随着自己的不断摸索以及向圈内的前辈大神请教交流（主要是向大神请教学来的），自己对于hadoop的认识以及应用也就更加娴熟。

2018-09-18

2.9K0

hadoop发行版本之间的区别

apache 大数据开源 hadoop

Hadoop是一个能够对大量数据进行分布式处理的软件框架。 Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。Hadoop的发行版除了有Apache hadoop外cloudera，hortonworks，mapR,华为,DKhadoop等都提供了自己的商业版本。商业发行版主要是提供了更为专业的技术支持，这对于大型企业更为重要，不同发行版都有自己的一些特点，本文就各发行版做简单对比介绍。

2018-09-18

1.4K0

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态