前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >大数据主要学什么,学习大数据你要会什么

大数据主要学什么,学习大数据你要会什么

作者头像
三哥
发布2018-07-31 16:36:50
5970
发布2018-07-31 16:36:50
举报
文章被收录于专栏:java工会java工会

- 学习大数据需要的基础

代码语言:javascript
复制
1、java SE、EE(SSM)
    90%的大数据框架都是Java写的
2、MySQL
    SQL on Hadoop
3、Linux
    大数据的框架安装在Linux操作系统上

- 需要学什么

代码语言:javascript
复制
大数据离线分析

    一般处理T+1数据(T:可能是1天、一周、一个月、一年)
    a、Hadoop :一般不选用最新版本,踩坑难解决
        (common、HDES、MapReduce、YARN)
        环境搭建、处理数据的思想
    b、Hive:大数据的数据仓库
        通过写SQL对数据进行操作,类似于MySQL数据库的sql
    c、HBase:基于HDFS的NOSQL数据库
        面向列存储
    d、协作框架:
        sqoop(桥梁:HDFS《==》RDBMS)
        flume:搜集日志文件中的信息
    e、调度框架
        anzkaban
        了解:crotab(Linux自带)
        zeus(Alibaba)
        Oozie(cloudera)
    f、前沿框架扩展:
            kylin、impala、ElasticSearch(ES)


大数据实时分析

    以spark框架为主
    Scala:OOP(面向对象程序设计)+FP(函数是程序设计)
    sparkCore:类比MapReduce
    sparkSQL:类比hive
    sparkStreaming:实时数据处理
    kafka:消息队列
    前沿框架扩展:flink
        阿里巴巴:blink
大数据机器学习

    spark MLlib:机器学习库
    pyspark编程:Python和spark的结合
    推荐系统
    python数据分析
    python机器学习
本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-07-12,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 java工会 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
云数据库 SQL Server
腾讯云数据库 SQL Server (TencentDB for SQL Server)是业界最常用的商用数据库之一,对基于 Windows 架构的应用程序具有完美的支持。TencentDB for SQL Server 拥有微软正版授权,可持续为用户提供最新的功能,避免未授权使用软件的风险。具有即开即用、稳定可靠、安全运行、弹性扩缩等特点。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档