首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    学习大数据需要什么基础?大数据要学哪些内容?

    大数据只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struct、Spring、Hibernate,Mybaits都是JavaEE方向的技术在大数据技术里用到的并不多,只需要了解就可以了,当然Java怎么连接数据库还是要知道的,像JDBC一定要掌握一下,有同学说Hibernate或Mybaits也能连接数据库啊,为什么不学习一下,我这里不是说学这些不好,而是说学这些可能会用你很多时间,到最后工作中也不常用,我还没看到谁做大数据处理用到这两个东西的,当然你的精力很充足的话,可以学学Hibernate或Mybaits的原理,不要只学API,这样可以增加你对Java操作数据库的理解,因为这两个技术的核心就是Java的反射加上JDBC的各种使用。

    00

    深度对比delta、iceberg和hudi三大开源数据湖方案

    目前市面上流行的三大开源数据湖方案分别为:delta、Apache Iceberg和Apache Hudi。其中,由于Apache Spark在商业化上取得巨大成功,所以由其背后商业公司Databricks推出的delta也显得格外亮眼。Apache Hudi是由Uber的工程师为满足其内部数据分析的需求而设计的数据湖项目,它提供的fast upsert/delete以及compaction等功能可以说是精准命中广大人民群众的痛点,加上项目各成员积极地社区建设,包括技术细节分享、国内社区推广等等,也在逐步地吸引潜在用户的目光。Apache Iceberg目前看则会显得相对平庸一些,简单说社区关注度暂时比不上delta,功能也不如Hudi丰富,但却是一个野心勃勃的项目,因为它具有高度抽象和非常优雅的设计,为成为一个通用的数据湖方案奠定了良好基础。

    03

    深度对比 Delta、Iceberg 和 Hudi 三大开源数据湖方案

    目前市面上流行的三大开源数据湖方案分别为:Delta、Apache Iceberg 和 Apache Hudi。其中,由于 Apache Spark 在商业化上取得巨大成功,所以由其背后商业公司 Databricks 推出的 Delta 也显得格外亮眼。Apache Hudi 是由 Uber 的工程师为满足其内部数据分析的需求而设计的数据湖项目,它提供的 fast upsert/delete 以及 compaction 等功能可以说是精准命中广大人民群众的痛点,加上项目各成员积极地社区建设,包括技术细节分享、国内社区推广等等,也在逐步地吸引潜在用户的目光。Apache Iceberg 目前看则会显得相对平庸一些,简单说社区关注度暂时比不上 Delta,功能也不如 Hudi 丰富,但却是一个野心勃勃的项目,因为它具有高度抽象和非常优雅的设计,为成为一个通用的数据湖方案奠定了良好基础。

    01

    Spark RDD 整体介绍

    RDD 介绍     RDD 弹性分布式数据集          弹性:具有容错性,在节点故障导致丢失或者分区损坏,可以进行重新计算数据         分布式: 数据分布式存储,分布式计算(分布式执行)         数据集:传统意义上的数据集,不过这个数据集不是真实存在的,只是一个代理,正真数据集的获取 需要通过Task来或者     RDD 真正意义上不存储数据,只是代理,任务代理,对RDD的每次操作都会根据Task的类型转换成Task进行执行     Spark中关于RDD的介绍:         1. 分区列表(分区有编号,分区中包含的切片迭代器)         2. 提供了切片的计算入口函数(RDD具有一些列的函数(Trans/Action))         3. 其他RDD的一系列依赖(一个RDD 可以依赖于其他RDD)         4. (可选) 分区RDD (一个RDD也可以是一个分区RDD,可以对分区RDD进行处理)         5. (可选) 对RDD提供了一系列的计算函数 (RDD提供了对一些了切片的首选执行方法)     RDD 有俩类函数,transformations (懒加载)/Action(立即执行)     transformations 与Action最明显的区别在于:         1. transformations  为懒函数,action是实时函数         2. transformations 执行完毕后任然为RDD ,但是Action 执行完毕为 scala数据类型。     transformations函数为懒加载函数,调用该函数时函数不会立即执行,只记录函数执行操作,相当于pipeline,只是定义了RDD的执行过程,只有当Action函数出发以后,才会调用前面的Transformation。     Action函数为实时函数,执行了就会通过Master下发Task任务到Worker端,执行相应的处理。     transformations类函数:此类函数只会记录RDD执行逻辑,并不正真下发任务执行数据处理     函数列表:

    01

    解决小文件问题

    为了解决小文件问题,我们也是八仙过海各显神通,一般而言可能都是写个MR/Spark程序读取特定目录的数据,然后将数据重新生成N个文件。但是在以前,这种模式会有比较致命的问题,因为在生成的新文件要替换原来的文件,而替换的过程不是原子过程,所以这个时候如果正好发生读,是会影响的。其次,很多读的程序,都会缓存文件路径,因为我们重新生成了文件,文件名称也变化了,导致读的程序的缓存失效,会发生比如文件找不到等异常。对于在一个进程比较好说,做下刷新就行,但是读往往是在不同的进程实例里,这个时候通知他们也是很难的事情。再极端一点,读取这个表的程序可能是另外一个团队维护的。所以其实小文件并没有想象的那么好解决,或者说能够优雅的解决。

    02

    学习大数据需要什么基础?大数据要学哪些内容?

    大数据只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struct、Spring、Hibernate,Mybaits都是JavaEE方向的技术在大数据技术里用到的并不多,只需要了解就可以了,当然Java怎么连接数据库还是要知道的,像JDBC一定要掌握一下,有同学说Hibernate或Mybaits也能连接数据库啊,为什么不学习一下,我这里不是说学这些不好,而是说学这些可能会用你很多时间,到最后工作中也不常用,我还没看到谁做大数据处理用到这两个东西的,当然你的精力很充足的话,可以学学Hibernate或Mybaits的原理,不要只学API,这样可以增加你对Java操作数据库的理解,因为这两个技术的核心就是Java的反射加上JDBC的各种使用。

    03
    领券