腾讯 · 高级工程师 (已认证)
一天自己接手的一个日志透传模块出现大量直接内存OOM的异常日志告警,且不久进程出现僵死,服务不可用。关键错误日志如下:
Flink官方实现了大量的REST API接口,有用于Flink UI展示数据、也用于各自监控面板。这些REST API的webserver作为JobManag...
腾讯 · 大数据运维工程师 (已认证)
Wireshark (前身 Ethereal)是一个网络封包分析软件。网络封包分析软件的功能是撷取网络封包,并尽可能显示出最为详细的网络封包资料。
此时客户端发往服务端的请求是处于异常阶段,如果不能快速恢复的话,存在数据丢失的风险。
小组同学在使用kafka官方工具kafka-consumer-groups.sh批量导集群消费组详情时,发现某一个集群基于broker的某些消费组会出现异常,主...
项目watch、star、fork数量均领先竞品,issue、pull request也比较活跃。
Protobuf是谷歌开源的一种平台无关、语言无关、可扩展且轻便高效的序列化数据结构的协议,可以用于网络通信和数据存储。
Infrastructure, ops, devops, systems engineering, sysadmin, infraops, SRE, platf...
在我们场景下,需要将海量数据透传到我们的Kafka集群,这时候我们常常会遇到这些问题:
自己阅读kafka源码时的一些记录,更多内容见: https://github.com/pierre94/kafka-notes/blob/master/kaf...
《Kafka vs. Pulsar vs. RabbitMQ: Performance, Architecture, and Features Compared...
主要对比滴滴的kafka-manager 和雅虎的CMAK(原名kafka manager)
在一个月黑风高的夜晚,我们kafka生产端开始疯狂告警,出现大量程序队列堵塞、数据写入失败、写入性能下降的告警。
部分消费组无法通过broker(new-consumer)正常消费数据,更改消费组名后恢复正常。
更多内容: https://github.com/pierre94/kafka-notes
HBase相对复杂,想要快速啃下来比较困难。而MiniBase吸收了HBase最核心的引擎部分的精华,希望可以通过学习MiniBase以小见大,能够对自己理解H...
kafka作为一个处理实时数据和日志的管道,每秒可以处理几十万条消息。其瓶颈自然也在I/O层面,所以其高吞吐背后离不开如下几个特性:
更多内容详见:https://github.com/pierre94/flink-notes
无状态计算实现的复杂度相对较低,实现起来较容易,但是无法完成提到的比较复杂的业务场景:
![Flink类型分类](./img/introduction-to-type-and-serialization-mechainisms-1.pn...
扫码关注云+社区
领取腾讯云代金券