专栏首页JavaEdgeKafka实战(七) - 优雅地部署 Kafka 集群
原创

Kafka实战(七) - 优雅地部署 Kafka 集群

既然是集群,必然有多个Kafka节点,只有单节点构成的Kafka伪集群只能用于日常测试,不可能满足线上生产需求。 真正的线上环境需要考量各种因素,结合自身的业务需求而制定。看一些考虑因素(以下顺序,可是分了顺序的哦)

1 操作系统 - OS

可能你会问Kafka不是JVM上的大数据框架吗?Java又是跨平台的语言,把Kafka安装到不同的操作系统上会有什么区别吗? 区别相当大!

确实,Kafka由Scala/Java编写,编译后源码就是“.class”文件。 本来部署到哪个OS应该一样,但是不同OS的差异还是给Kafka集群带来了相当大的影响。 毋庸置疑,部署在Linux上的生产环境是最多的。

考虑操作系统与Kafka的适配性,Linux系统显然要比其他两个特别是Windows系统更加适合部署Kafka。可具体原因你能谈笑风生吗?

1.1 I/O模型

I/O模型可以近似认为I/O模型就是OS执行I/O指令的方法。 主流的I/O模型通常有5种类型:

  1. 阻塞式I/O e.g. Java中Socket的阻塞模式
  2. 非阻塞式I/O e.g. Java中Socket的非阻塞模式
  3. I/O多路复用 e.g. Linux中的系统调用select函数
  4. 信号驱动I/O e.g. epoll系统调用则介于第三种和第四种模型之间
  5. 异步I/O e.g. 很少有Linux支持,反而Windows系统提供了一个叫IOCP线程模型属于该类

我在这里不详细展开每一种模型的实现细节,因为那不是本文重点。

言归正传,I/O模型与Kafka的关系几何? Kafka Client 底层使用了Java的selector,而selector

  • 在Linux上的实现机制是epoll
  • 在Windows平台上的实现机制是select

因此在这一点上将Kafka部署在Linux上是有优势的,能够获得更高效的I/O性能。

1.2 数据网络传输效率

Kafka生产和消费的消息都是通过网络传输的,而消息保存在哪里呢? 肯定是磁盘! 故Kafka需要在磁盘和网络间进行大量数据传输。 Linux有个零拷贝(Zero Copy)技术,就是当数据在磁盘和网络进行传输时避免昂贵内核态数据拷贝从而实现快速数据传输。Linux平台实现了这样的零拷贝机制,但有些令人遗憾的是在Windows平台上必须要等到Java 8的60更新版本才能“享受”到。

一句话,在Linux部署Kafka能够享受到零拷贝技术所带来的快速数据传输特性带来的极致快感。

1.3 社区生态

社区目前对Windows平台上发现的Kafka Bug不做任何承诺。因此,Windows平台上部署Kafka只适合于个人测试或用于功能验证,千万不要应用于生产环境。

2 磁盘

2.1 灵魂拷问:机械硬盘 or 固态硬盘

  • 前者便宜且容量大,但易坏!
  • 后者性能优势大,但是贵!

建议是使用普通机械硬盘即可。

  • Kafka虽然大量使用磁盘,可多是顺序读写操作,一定程度上规避了机械磁盘最大的劣势,即随机读写慢。从这一点上来说,使用SSD并没有太大性能优势,机械磁盘物美价廉
  • 而它因易损坏而造成的可靠性差等缺陷,又由Kafka在软件层面提供机制来保证

2.2 是否应该使用磁盘阵列(RAID)

使用RAID的两个主要优势在于:

  • 提供冗余的磁盘存储空间
  • 提供负载均衡

不过就Kafka而言

  • Kafka自己实现了冗余机制提供高可靠性
  • 通过分区的设计,也能在软件层面自行实现负载均衡

如此说来RAID的优势也就没有那么明显了。虽然实际上依然有很多大厂确实是把Kafka底层的存储交由RAID的,只是目前Kafka在存储这方面提供了越来越便捷的高可靠性方案,因此在线上环境使用RAID似乎变得不是那么重要了。 综上,追求性价比的公司可以不搭建RAID,使用普通磁盘组成存储空间即可。使用机械磁盘完全能够胜任Kafka线上环境。

2.3 磁盘容量

集群到底需要多大? Kafka需要将消息保存在磁盘上,这些消息默认会被保存一段时间然后自动被删除。 虽然这段时间是可以配置的,但你应该如何结合自身业务场景和存储需求来规划Kafka集群的存储容量呢?

假设有个业务

  • 每天需要向Kafka集群发送1亿条消息
  • 每条消息保存两份以防止数据丢失
  • 消息默认保存两周时间

现在假设消息的平均大小是1KB,那么你能说出你的Kafka集群需要为这个业务预留多少磁盘空间吗?

计算:

  • 每天1亿条1KB的消息,存两份 1亿 * 1KB * 2 / 1000 / 1000 = 200GB
  • 一般Kafka集群除消息数据还存其他类型数据,比如索引数据 再为其预留10%磁盘空间,因此总的存储容量就是220GB
  • 要存两周,那么整体容量即为 220GB * 14,大约3TB
  • Kafka支持数据的压缩,假设压缩比是0.75 那么最后规划的存储空间就是0.75 * 3 = 2.25TB

总之在规划磁盘容量时你需要考虑下面这几个元素:

  • 新增消息数
  • 消息留存时间
  • 平均消息大小
  • 备份数
  • 是否启用压缩

3 带宽

对于Kafka这种通过网络进行大数据传输的框架,带宽容易成为瓶颈。 普通的以太网络,带宽主要有两种:1Gbps的千兆网络和10Gbps的万兆网络,特别是千兆网络应该是一般公司网络的标准配置了 以千兆网络为例,说明带宽资源规划。

真正要规划的是所需的Kafka服务器的数量。 假设机房环境是千兆网络,即1Gbps,现在有业务,其目标或SLA是在1小时内处理1TB的业务数据。 那么问题来了,你到底需要多少台Kafka服务器来完成这个业务呢?

计算

带宽1Gbps,即每秒处理1Gb数据 假设每台Kafka服务器都是安装在专属机器,即每台Kafka机器上没有混入其他服务 通常情况下你只能假设Kafka会用到70%的带宽资源,因为总要为其他应用或进程留一些资源。超过70%的阈值就有网络丢包可能性,故70%的设定是一个比较合理的值,也就是说单台Kafka服务器最多也就能使用大约700Mb带宽。

这只是它能使用的最大带宽资源,你不能让Kafka服务器常规性使用这么多资源,故通常要再额外预留出2/3的资源,即 单台服务器使用带宽700Mb / 3 ≈ 240Mbps 这里的2/3其实是相当保守的,可以结合机器使用情况酌情减少该值

有了240Mbps,可以计算1小时内处理1TB数据所需的服务器数量了。 根据这个目标,每秒需要处理2336Mb的数据,除以240,约等于10台服务器。 如果消息还需要额外复制两份,那么总的服务器台数还要乘以3,即30台。

总结

与其盲目上马一套Kafka环境然后事后费力调整,不如在一开始就思考好实际场景下业务所需的集群环境。在考量部署方案时需要通盘考虑,不能仅从单个维度上进行评估。

参考

  • Linux内核模型架构
  • Kafka核心技术与实战

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Kafka实战(四) -Kafka门派知多少

    Kafka不是一个单纯的消息引擎系统,而是能够实现精确一次(Exactly-once)处理语义的实时流处理平台

    JavaEdge
  • Kafka实战(三) -Kafka的自我修养

    随着Kafka的不断完善,Jay等大神们终于意识到将其开源惠及更多的人是一个非常棒的主意,因此在2011年Kafka正式进入到Apache基金会孵化并于次年10...

    JavaEdge
  • Flink实战(八) - Streaming Connectors 编程

    Flink内置了一些基本数据源和接收器,并且始终可用。该预定义的数据源包括文件,目录和插socket,并从集合和迭代器摄取数据。该预定义的数据接收器支持写入文件...

    JavaEdge
  • 书单丨Kafka这么厉害,难怪都在读这几本书

    基于2.0.0版本,从实战到深度的原理解析讲述Kafka的知识点、常见误区的解读、常见问题的解决方案及生态应用的扩展。

    博文视点Broadview
  • 重磅发布:Kafka迎来1.0.0版本,正式告别四位数版本号

    Kafka 从首次发布之日起,已经走过了七个年头。从最开始的大规模消息系统,发展成为功能完善的分布式流式处理平台,用于发布和订阅、存储及实时地处理大规模流数据。...

    Spark学习技巧
  • Kafka详细设计及其生态系统

    Kafka生态-Kafka Core,Kafka Streams,Kafka Connect,Kafka REST Proxy和Schema Registry ...

    用户1263954
  • Kafka架构

    首先,如果您不确定Kakfa是什么,请参阅这篇文章(http://cloudurable.com/blog/what-is-kafka/index.html)。...

    用户1263954
  • Apache Kafka内核深度剖析

    目前来说市面上可以选择的消息队列非常多,像activemq,rabbitmq,zeromq已经被大多数人耳熟能详,特别像activemq早期应用在企业中的总线通...

    ThoughtWorks
  • Kafka详细的设计和生态系统

    Kafka 的核心是经纪人,主题,日志,分区和集群。核心也包括像 MirrorMaker 这样的相关工具。前面提到的是 Kafka,因为它存在于 Apache ...

    人工智能资讯小编
  • 什么是Kafka

    Kafka的增长是爆炸性的。财富500强企业中超过三分之一使用卡夫卡。这些公司包括十大旅游公司,十大银行中的七家,十大保险公司中的八家,十大电信公司中的九家,等...

    大数据弄潮儿

扫码关注云+社区

领取腾讯云代金券