z小赵

LV0

技术专栏

简单聊聊SparkTA创建的

44 文章19 关注者

全部文章

  • Kafka系列9:面试题是否有必要深入了解其背后的原理?我觉得应该刨根究底(上)

    在本文开始之前,作者一直有个疑惑,就是面试题是只写写问题和答案就草草了事,还是应该深入分析一下其背后发生的一些原理。和朋友探讨以后作者还是决定采用后者的方式,因...

    z小赵
  • Kafka系列9:面试题是否有必要深入了解其背后的原理?我觉得应该刨根究底(上)

    在本文开始之前,作者一直有个疑惑,就是面试题是只写写问题和答案就草草了事,还是应该深入分析一下其背后发生的一些原理。和朋友探讨以后作者还是决定采用后者的方式,因...

    z小赵
  • Kafka系列8:一网打尽常用脚本及配置,宜收藏落灰!

    通过前面 7 篇文章的介绍,小伙伴们应该对 Kafka 运行工作原理有一个相对比较清晰的认识了。为了提高平时的工作效率,帮助我们快速定位一些线上问题,比如查看部...

    z小赵
  • Kafka系列第7篇:你必须要知道集群内部工作原理的一些事!

    上篇文章讲到了消息在 Partition 上的存储形式,本来准备接着来聊聊生产中的一些使用方式,想了想还有些很重要的工作组件原理没有讲清楚,比如一个 Topic...

    z小赵
  • Kafka系列第7篇:你必须要知道集群内部工作原理的一些事!

    上篇文章讲到了消息在 Partition 上的存储形式,本来准备接着来聊聊生产中的一些使用方式,想了想还有些很重要的工作组件原理没有讲清楚,比如一个 Topic...

    z小赵
  • kafka系列第5篇:一文读懂消费者背后的那点"猫腻"

    经过前几篇文章的介绍,大致了解了生产者背后的运行原理。消息有生产就得有人去消费,今天我们就来介绍下消费端消费消息背后发生的那点事儿。

    z小赵
  • Kafka系列第6篇:消息是如何在服务端存储与读取的,你真的知道吗?

    经过前 5 篇文章的介绍,估么着小伙伴们已经对消息生产和消费的流程应该有一个比较清晰的认识了。当然小伙伴们肯定也比较好奇,Kafka 能够处理千万级消息,那它的...

    z小赵
  • Kafka系列文章第1篇之Kafka是什么

    如果有幸目睹过系统从零到一的演变过程,大家估计都会有一种感叹,就是随着业务复杂度和流量的不断上升,系统变得越来越难以维护,面对高额的维护成本,攻城师们不得不对现...

    z小赵
  • Kafka系列文章第2篇之安装测试

    上篇文章讲解了 Kafka 的基础概念和架构,了解了基本概念之后,必须得实践一波了,所谓“实践才是检验真理的唯一办法”,后续系列关于 Kafka 的文章都以 k...

    z小赵
  • 重要:Kafka第3篇之一条消息如何被存储到Broker上

    经过上篇文章的简单实战之后,今天来聊聊生产者将消息从客户端发送到 Broker 上背后发生了哪些故事,看不看由你,但是我保证可以本篇文章你一定可以学到应用背后的...

    z小赵
  • Kafka系列第4篇:消息发送背后网络操作的那点事儿

    上篇文章讲述了消息从生产到写入到 Broker 的 partition 上背后发生的故事,并提出了消息发送的网络模型的问题。本篇文章我们来尝试揭开其背后的神秘面...

    z小赵
  • Spark内核分析之BlockManager工作原理介绍

            最近一直在忙,没顾得上写文章,新年的第一篇文章,希望大家可以喜欢;好了,今天接着之前的内容,来聊聊BlockManager的工作原理,上图来分析...

    z小赵
    spark
  • Spark内核分析之Shuffle操作流程(非常重要)

            如题,我们来分析一下spark的shuffle操作原理;为什么说其非常重要,是因为shuffle操作是我们在Spark调优中非常重要的一环,对s...

    z小赵
    spark
  • Spark内核分析之DAGScheduler划分算法实现原理讲解(重要)

            接着上一篇,我们接着来分析下一个非常重要的组建DAGScheduler的运行原理是怎么实现的;通过之前对Spark的分析讲解,我们的Spark作...

    z小赵
    spark
  • Spark内核分析之Worker原理分析

            接着上篇的Schedule调度内容,本篇我们来看看Driver,Application向Worker发送launch以后到底发生了什么。先来看看...

    z小赵
    spark
  • Spark内核分析之Scheduler资源调度机制

            上一篇我们阐述了Driver,Application,Worker的注册实现原理,本篇我们来接着聊聊Driver,Application在注册之...

    z小赵
    spark
  • Spark内核分析之Master的注册机制实现原理

            这篇文章我们来讨论一下Master的注册机制;那么有哪些信息需要注册到Master上面去呢?很简单,分别有Worker的注册,Driver的注册...

    z小赵
    spark
  • Spark内核分析之SparkContext初始化源码分析

            上一篇介绍了spark作业提交的三种方式,从本篇开始逐一介绍Spark作业运行流程中各个组件的内部工作原理。如标题所说,我们先来看看SparkC...

    z小赵
    spark
  • Spark内核分析之Spark的HA源码分析

            Spark作业运行的集群环境有两种,分别基于standalone模式和Yarn集群模式。我们知道Yarn集群提供了HA来保证了集群的高可用,而s...

    z小赵
    spark
  • Spark内核分析之spark作业的三种提交方式

            最近在研究Spark源码,顺便记录一下,供大家学习参考,如有错误,请批评指正。好,废话不多说,这一篇先来讲讲Spark作业提交流程的整体架构。

    z小赵
    spark

个人简介

个人成就

扫码关注云+社区

领取腾讯云代金券