腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

祝威廉

专栏作者

308

文章

202439

阅读量

44

订阅数

如何使用开源 Byzer 和 JuiceFS 做实时Nginx日志分析

运维大数据 nginx kafka 对象存储

运维领域常见的方案是使用 ELK 全家桶，通过 Logstash 收集，直接写入 ElasticSearch, 配合web插件 Kibana 完成交互分析部分。

2022-07-21

5540

Delta 实现Partial Merge

json kafka 大数据

所谓Partial Merge 是指，假设我们有a,b,c,d 四个字段，现在来了一千条记录，每条记录只会包含这四个字段的一个或者多个，并且，每条记录包含的字段都不一样。

2022-07-21

3500

Delta Lake 批流的左右逢源

kafka commit mysql overwrite upsert

在前面的章节里，我们讨论了Delta将一切数据操作都抽象为文件的增加和删除，并且将增加和删除的动作记录到日志里(_delta_log)，并且我们也探秘了Detla的目录结构，很简单根目录是数据目录，可能有分区可能没有，根目录里还有个特殊的目录_delta_log,里面是json文件，记录了每次commit产生的动作。

2022-07-21

2130

Introducing Spark-Kafka integration for realtime Kafka SQL queries

spark kafka sql

Apache Kafka has been all the rage for the key join of the data pipeline. But in most cases, we only treat Kafka as a stream source or a message queue. This means if you wanna do some AdHoc query, you need to sync the data to HDFS or other storage firstly.

2019-07-28

4400

MLSQL Stack 让流调试更加简单

kafka sql 编程算法

有一位同学正在调研MLSQL Stack对流的支持。然后说了流调试其实挺困难的。经过实践，希望实现如下三点：

2019-06-05

3930

MLSQL初学者常见问题QA（持续更新）

sql spark kafka yarn 负载均衡

MLSQL大部分数据源集成的是第三方实现。比如excel的支持得益于spark-excel项目。同样，Kafka的配置参数和Spark 对Kafka的需求配置是一样的，JDBC则也是标准的Spark文档中描述的那样。不过大部分人使用时，不会使用所有参数， MLSQL也提供了两种方式展示可选参数：

2019-03-19

4970

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态