应用场景

最近更新时间:2019-08-22 10:46:46

消息队列 CKafka 广泛应用于大数据领域,如网页追踪行为分析、日志聚合、监控、流式数据处理、在线和离线分析等。
您可以通过以下方式让数据集成变得简单:

  • 将消息队列 CKafka 中的消息导入到腾讯云平台的 COS、流计算等数据仓库。
  • 通过 SCF 触发器的方式连接云上其他产品。

网页追踪

消息队列 CKafka 通过实时处理网站活动(PV、搜索、用户其他活动等),并根据类型发布到 Topic 中,这些信息流可以被用于实时监控或离线统计分析等。
由于每个用户的 page view 中会生成许多活动信息,因此网站活动跟踪需要很高的吞吐量,消息队列 CKafka 可以完美满足高吞吐、离线处理等要求。

日志聚合

消息队列 CKafka 的低延迟处理特性,易于支持多个数据源和分布式的数据处理(消费)。相比于中心化的日志聚合系统,消息队列 CKafka 可以在提供同样性能的条件下,实现更强的持久化保证以及更低的端到端延迟。
消息队列 CKafka 的特性决定它非常适合作为”日志收集中心”;多台主机/应用可以将操作日志“批量”“异步”地发送到消息队列 CKafka 集群,而无需保存在本地或者 DB 中;消息队列 CKafka 可以批量提交消息/压缩消息,对于生产者而言,几乎感觉不到性能的开支。此时消费者可以使 Hadoop 等其他系统化的存储和分析系统对拉取日志进行统计分析。

大数据场景

在一些大数据相关的业务场景中,需要对大量并发数据进行处理和汇总,此时对集群的处理性能和扩展性都有很高的要求。消息队列 CKafka 在实现上的数据分发机制,磁盘存储空间的分配、消息格式的处理、服务器选择以及数据压缩等方面,也决定其适合处理海量的实时消息,并能汇总分布式应用的数据,方便系统运维。
在具体的大数据场景中,消息队列 CKafka 能够很好地支持离线数据、流式数据的处理,并能够方便地进行数据聚合、分析等操作。

云函数触发器

消息队列 CKafka 可以作为云函数触发器,在消息队列中接收到消息时将触发云函数的运行,并会将消息作为事件内容传递给云函数。例如,Ckafka 触发云函数时,云函数可以对消息进行结构变换、内容过滤等处理或者将消息投递到 Elasticsearch Service(ES)中。

说明:

云函数的可用性详见《云函数服务等级协议》