控制台指南

最佳实践

开发者指南

API 文档

SDK 文档

Ckafka 消息备份

最近更新时间:2021-11-30 17:16:20

简介

Ckafka 消息备份是腾讯云对象存储(Cloud Object Storage,COS)基于 云函数(Serverless Cloud Function,SCF) 为用户提供的 Ckafka 消息转存至 COS 的功能,可以协助用户将 Ckafka 消息进行转存以便于对数据进行分析与下载等操作。

Ckafka 是基于开源 Apache Kafka 消息队列引擎,提供高吞吐性能、高可扩展性的消息队列服务,详情请参见 Ckafka 产品概述

用户在指定存储桶配置了备份函数规则后,当 CKafka 实例产生消息时,云函数会按照一定的时间粒度获取消息并转存至 COS 存储桶中。

注意事项

  • 若您此前在对象存储控制台上为存储桶添加了 Ckafka 消息备份规则,可以在 云函数控制台 上看到您所创建的 Ckafka 消息备份函数,请不要删除该函数,否则可能导致您的规则不生效。
  • 已上线云函数的地域均已支持 Ckafka 消息备份至 COS,包括有广州、上海、香港、北京、成都、新加坡、孟买、多伦多、硅谷等,更多支持地域可查看 云函数产品文档

操作步骤

  1. 登录 对象存储控制台
  2. 在左侧导航中,单击应用集成,找到Ckafka 消息备份
  3. 单击配置备份规则,进入规则配置页面。
  4. 单击添加函数
    注意:

    如果您尚未开通云函数服务,请前往 云函数控制台 开通云函数服务,按照提示完成服务授权即可。

  5. 在弹出的窗口中,配置如下信息:

    • 函数名称:作为函数的唯一标识名称,创建后不可修改。您可以在 云函数控制台 上查看该函数。
    • 关联存储桶:存放 Ckafka 消息的 COS 存储桶。
    • 时间粒度:根据消息量的大小,选取汇聚消息的时间间隔,时间间隔为5 - 15分钟不等。为保证转存性能,聚合文件数量与 Partition 数量、partition_max 设置数值有关。有关 Partition 的说明,请参见 分区
    • SCF 授权:CKafka 消息备份需要授权云函数从您的 Ckafka 服务中读取相关实例消息,并将消息转存至您指定的存储桶中。因此需要添加此授权。
  6. 单击下一步,进行 Ckafka 配置,配置项说明如下:

    • 实例选择:选择消息来源的 Ckafka 实例,仅支持同地域的 Ckafka 实例。
    • 主题选择:选择消息来源的主题。
    • 起始位置:消息转储备份时历史消息的处理方式,topic offset 设置。
    • 访问地址:必须为 VPC 内网访问地址,基础网络的 CKafka 实例请添加路由策略,具体请参考 添加路由策略
      注意:

      对应的 VPC 子网中必须有可用的 IP,且必须支持 DHCP。

  7. 单击下一步,进行投递配置,配置项说明如下:


    投递的路径:备份文件的投递路径前缀,不填写则默认保存在存储桶根路径,指定前缀必须以斜杠 / 为结尾。
  8. 添加配置后,单击确认,即可看到函数已添加完成。

    您可以对新创建的函数进行如下操作:
    • 单击查看日志,查看 Ckafka 消息备份的历史运行情况。当备份出现报错时,您还可以通过单击查看日志,快速跳转到云函数控制台查看日志错误详情。
    • 单击编辑,修改 Ckafka 消息备份规则。
    • 单击删除,删除不使用的 Ckafka 消息备份规则。
目录