功能概述
日志服务(Cloud Log Service,CLS)可以将日志主题中的数据投递到腾讯云 COS(对象存储)、CKafka(消息队列)、DLC(数据湖)、Splunk。您可以将日志主题当作一个 Topic,使用 Kafka 协议或者自定义消费 SDK 将数据消费至指定目标。
投递
产品功能 | 目标类型 | 使用场景 |
对象存储 | 长期存储。 | |
消息中间件 | 日志流处理。 | |
数据湖 | 大数据分析。 | |
第三方产品/SIEM | 在 Splunk 中分析日志。 |
消费
产品功能 | 计算框架/连接器 | 客户端说明 |
支持社区标准库如 confluent-kafka,无缝对接多种大数据组件,使用简单。 | ||
自研 SDK,需要使用者有一定的代码能力。 |
预过滤函数
您可在日志投递和消费之前,使用预过滤函数对日志进行处理,将符合过滤条件的日志,投递或消费至对应的目标。目前 投递到 Splunk、自定义消费(SDK) 可支持预过滤。预过滤是 数据加工函数 的子集,参考如下表格说明。
逻辑表达式函数类
用于构建判断条件。
函数名称 | 函数功能 | 函数语法描述 | 返回值类型 |
根据条件判断,返回相应的值。 | op_if(条件1, 值1, 值2) | 条件为 True 时,返回值1,否则返回值2 | |
对值进行 and 运算,均为 True 时,返回 True,否则返回 False。 | op_and(值1, 值2, ...) | 返回计算的结果(BOOL) | |
对值进行 or 运算,若存在参数值为 False 则返回 False,否则返回 True。 | op_or(值1, 值2, ...) | 返回计算的结果(BOOL) | |
对值进行 not 运算。 | op_not(值) | 返回计算的结果(BOOL) | |
对值进行比较,相等则返回 True。 | op_eq(值1, 值2) | 返回比较的结果(BOOL) | |
对值进行比较,值1大于或等于值2时返回 True。 | op_ge(值1, 值2) | 返回比较的结果(BOOL) | |
对值进行比较,值1大于值2时返回 True。 | op_gt(值1, 值2) | 返回比较的结果(BOOL) | |
对值进行比较,值1小于或等于值2时返回 True。 | op_le(值1, 值2) | 返回比较的结果(BOOL) | |
对值进行比较,值1小于值2时返回 True。 | op_lt(值1, 值2) | 返回比较的结果(BOOL) | |
对值进行是否为 null 判断,是则返回 True,否则返回 False。 | op_null(值) | 返回计算的结果(BOOL) | |
对值进行是否为非 null 判断,是则返回 True,否则返回 False。 | op_notnull(值) | 返回计算的结果(BOOL) | |
对字符串值进行比较,相等则返回 True。 | op_str_eq(值1, 值2, ignore_upper=False) | 返回计算的结果(BOOL) | |
字段存在时,返回 True,否则返回 False。 | has_field(字段名) | 返回条件值(BOOL) | |
字段不存在时,返回 True,否则返回 False。 | not_has_field(字段名) | 返回条件值(BOOL) | |
判断是否存在子串。 注意: 不支持正则表达式,不支持通配符 *。 | str_exist(值1, 值2, ignore_upper=False) | 返回计算的结果(BOOL) |
行处理函数类
用于决定日志的去留。