暴走大数据-腾讯云开发者社区

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

暴走大数据

专栏成员

298

文章

584884

阅读量

100

订阅数

Apache Kafka 3.2.0 重磅发布！

tcp/ip kafka apache api http

3.2.0 版本包含许多新功能和改进。本文将重点介绍一些最突出的新功能。有关更改的完整列表，请务必查看发行说明。您还可以观看发布视频，了解 Apache Kafka 3.2.0 中的新功能摘要。

大数据真好玩

2022-06-17

2K0

Kafka常见问题&学习路径&源码阅读小结 | 写在Kafka3.0发布之际

kafka 分布式 apache 大数据 api

2021年9月21日，随着Kafka3.0的发布，Kafka在「分布式流处理平台」这个目标上的努力进一步得到加强！Kafka不满足于「消息引擎」的定位，正式基于这样的定位，Kafka 社区于 0.10.0.0 版本正式推出了流处理组件 Kafka Streams，也正是从这个版本开始，Kafka 正式"变身"为分布式的流处理平台，而不仅仅是消息引擎系统了。

大数据真好玩

2021-11-05

8590

Kafka Connect | 无缝结合Kafka构建高效ETL方案

kafka 编程算法 api 分布式 node.js

Kafka connect是Confluent公司(当时开发出Apache Kafka的核心团队成员出来创立的新公司)开发的confluent platform的核心功能。可以很简单的快速定义 connectors 将大量数据从 Kafka 移入和移出. Kafka Connect 可以摄取数据库数据或者收集应用程序的 metrics 存储到 Kafka topics，使得数据可以用于低延迟的流处理。一个导出的 job 可以将来自 Kafka topic 的数据传输到二级存储，用于系统查询或者批量进行离线分析。

大数据真好玩

2021-09-18

5380

分布式文件系统HDFS原理一网打尽

缓存 api 大数据存储

HDFS是一个分布式文件系统，具有良好的扩展性、容错性以及易用的API。核心思想是将文件切分成等大的数据块，以多副本的形式存储到多个节点上。HDFS采用了经典的主从软件架构，其中主服务被称为NameNode，管理文件系统的元信息，而从服务被称为DataNode，存储实际的数据块，DataNode与NameNode维护了周期性的心跳，为了防止NameNode出现单点故障，HDFS允许一个集群中存在主NameNode，并通过ZooKeeper完成Active NameNode的选举工作。HDFS提供了丰富的访问方式，用户可以通过HDFS shell，HDFS API，数据收集组件以及计算框架等存取HDFS上的文件。

大数据真好玩

2021-07-30

1.1K0

Flink面试通关手册「160题升级版」

flink java api 数据库大数据

主要是当Flink开启Checkpoint的时候，会往Source端插入一条barrir，然后这个barrir随着数据流向一直流动，当流入到一个算子的时候，这个算子就开始制作checkpoint，制作的是从barrir来到之前的时候当前算子的状态，将状态写入状态后端当中。然后将barrir往下流动，当流动到keyby 或者shuffle算子的时候，例如当一个算子的数据，依赖于多个流的时候，这个时候会有barrir对齐，也就是当所有的barrir都来到这个算子的时候进行制作checkpoint，依次进行流动，当流动到sink算子的时候，并且sink算子也制作完成checkpoint会向jobmanager 报告 checkpoint n 制作完成。

大数据真好玩

2021-07-07

2.7K0

简单回答：SparkSQL数据抽象和SparkSQL底层执行过程

python spark api sql 数据库

就易用性而言，对比传统的MapReduce API，Spark的RDD API有了数量级的飞跃并不为过。然而，对于没有MapReduce和函数式编程经验的新手来说，RDD API仍然存在着一定的门槛。

大数据真好玩

2021-05-28

1.8K0

Flink系列 - 实时数仓之电商订单支付实时对账

unix api 大数据

平时我们都是用过电商平台购买商品，当我们购买某个商品之后会有提示购买成功或者失败，那么这玩意在系统后台是如何处理订单的实时对账呢？接下来我们将使用两种方式 ( table api 和 process function) 进行这个对账的分析。

大数据真好玩

2021-01-26

9360

Flink系列 - 实时数仓之CEP预警实战

flink 大数据 java api

CEP 即Complex Event Processing - 复杂事件，Flink CEP 是在 Flink 中实现的复杂时间处理(CEP)库。处理事件的规则，被叫做“模式”(Pattern)，Flink CEP 提供了 Pattern API，用于对输入流数据进行复杂事件规则定义，用来提取符合规则的事件序列。

大数据真好玩

2021-01-26

1.5K0

Apache Kafka开源流式KSQL实战

sql kafka api json

Kafka早期作为一个日志消息系统，很受运维欢迎的，配合ELK玩起来很happy，在kafka慢慢的转向流式平台的过程中，开发也慢慢介入了，一些业务系统也开始和kafka对接起来了，也还是很受大家欢迎的，由于业务需要，一部分小白也就免不了接触kafka了，这些小白总是会按奈不住好奇心，要精确的查看kafka中的某一条数据，作为服务提供方，我也很方啊，该怎么怼？业务方不敢得罪啊，只能写consumer去消费，然后人肉查询。

大数据真好玩

2020-07-02

2.1K0

由浅入深了解Presto技术内幕

sql 数据库云数据库 SQL Server javascript api

Presto是专为大数据实时查询计算而设计开发的产品，拥有如下特点： – 多数据源：通过自定义Connector能支持Mysql，Hive，Kafka等多种数据源 – 支持SQL：完全支持ANSI SQL – 扩展性：支持自定义开发Connector和UDF – 混合计算：可以根据需要将开源于不同数据源的多个Catalog进行混合join计算 – 高性能：10倍于Hive的查询性能 – 流水线：基于Pipeline设计，在数据处理过程当中不用等到所有数据都处理完成后再查看结果

大数据真好玩

2020-06-03

3.3K0

Flink面试通关手册

api sql 分布式数据结构数据处理

2019 年是大数据实时计算领域最不平凡的一年，2019 年 1 月阿里巴巴 Blink （内部的 Flink 分支版本）开源，大数据领域一夜间从 Spark 独步天下走向了两强争霸的时代。Flink 因为其天然的流式计算特性以及强大的处理性能成为炙手可热的大数据处理框架。

大数据真好玩

2019-12-09

1.3K0

RestFul架构基础

api 网站 php 命令行工具 https

场景描述：REST（Representational State Transfer）架构风格是一种世界观，把信息提升为架构中的一等公民。通过 REST 可以实现系统的高性能、可伸缩、通用性、简单性、可修改性和可扩展等特性。这篇文章解释了主要的 HTTP 操作，对 HTTP 响应码进行描述，并列举相关开发库和框架。此外，本文还提供了额外的资源，对每个主题进行了更深入的探讨。

大数据真好玩

2019-10-30

6230

Kafka+Spark Streaming管理offset的几种方法

kafka spark 存储 api zookeeper

场景描述：Kafka配合Spark Streaming是大数据领域常见的黄金搭档之一，主要是用于数据实时入库或分析。为了应对可能出现的引起Streaming程序崩溃的异常情况，我们一般都需要手动管理好Kafka的offset，而不是让它自动提交，即需要将enable.auto.commit设为false。只有管理好offset，才能使整个流式系统最大限度地接近exactly once语义。

大数据真好玩

2019-10-23

4980

全网第一 | Flink学习面试灵魂40问答案！

https 网络安全 api 文件存储 java

Flink核心是一个流式的数据流执行引擎，其针对数据流的分布式计算提供了数据分布、数据通信以及容错机制等功能。基于流执行引擎，Flink提供了诸多更高抽象层的API以便用户编写分布式任务：

大数据真好玩

2019-09-17

10.4K0

eBay | Flink在监控系统上的实践和应用

大数据微服务 api 编程算法

Sherlock.IO是eBay现有的监控平台，每天要处理上百亿条日志、事件和指标。Flink Streaming job实时处理系统用于处理其中的日志和事件。本文将结合监控系统Flink的现状，具体讲述Flink在监控系统上的实践和应用，希望给同业人员一些借鉴和启发。

大数据真好玩

2019-09-10

2.1K0

Flink进阶-Flink CEP(复杂事件处理)

FlinkCEP是在Flink之上实现的复杂事件处理（CEP）库。它允许你在×××的事件流中检测事件模式，让你有机会掌握数据中重要的事项。

大数据真好玩

2019-09-10

1.3K0

没有更多了

社区活动

【纪录片】中国数据库前世今生

穿越半个世纪，探寻中国数据库50年的发展历程

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态