腾讯业务监控的修炼之路(一)

作者:李光 ,现任职于腾讯社交网络运营部/织云产品团队,负责织云监控告警平台规划与运维新产品开发工作,具有多年业务运维、运营规划经验。 相关推荐: 腾讯业务监控的修炼之路「二」

欢迎大家在文末扫描作者二维码,反馈日常使用监控告警产品的痛点与具体的场景。这系列文章我会尝试用开放式(类众包)的方式去写,后续会统一评估这些反馈的场景,如果是典型共性场景,或是很小众但却能代表一个特定类型的业务,将会采纳您提供的场景,在后续的文章中会标明提供者的名字,并且附上我的建议场景解决方案,供大家交流与讨论。

概述

本文作为监控告警产品专题系列第一篇文章,涉及的主要内容为监控产品设计的相关基础知识,算是整个系列文章的一个索引。主要内容有:

• 关于监控告警的一些概念

• 立体化监控体系的阐述

老鸟们可以关注后续的文章(文末有三期内容预告,关键词:IAAS, CMDB, 组件监控

业务运维 vs 产品经理

以前做 QQ 业务运维的时候,有一类平台是自己天天会用,那这类平台是什么呢?就是监控告警平台,每天在上面查大量的业务视图、查异常、确认告警、处理告警等等。

对于运维同学来说,如果从使用频率这个维度看,监控告警类平台的使用频率要大于自动化类平台,毕竟自动化类平台多数都是由例行变更触发,而监控告警平台是我们 7X24 小时都要使用的。当时自己名下有较多的业务和几千台机器,那时有过一天收 1000 多条告警的记录,相当崩溃。其实告警如果一天超过几十条就基本是无效的,既关注不过来,也处理不过来。

在业务运维这个角色中,我更多的是从使用者这个视角去看监控。

去年下半年我从业务运维转型为产品经理,现在负责腾讯织云(企业级运维管理平台)监控告警产品线的规划与落地,在产品经理这个阶段我更多的是从建设者这个视角去看监控的。

使用者和建设者这两个视角去看待同一个事物监控告警这个产品,最大的差异点是什么呢?

使用者是点,建设者是面,使用者只关注能服务到自己的功能点,而建设者尽量要更全面的抽象多数使用者所具化的场景,在抽象的基础上在去构建功能,力争满足大部分的使用者场景,解决实际的问题。

“出了任何故障,其他环节都是可能有问题,唯独监控是一定有问题!” —— 乔治·背黑锅**

基于这两种不同的视角与在实际建设途中遇到的各种实际问题,我萌发了写一个监控专题系列的想法,哈哈,脸皮蛮厚的。自己以前都是写单篇的文章,这次也算是一个挑战了。希望通过这个专题能与大家交流下关于一款企业级监控产品是怎么样规划、设计与落地的。

可能是当产品经理习惯了用户场景与角色的分析,如果把这个主题的文章当做一个产品来看,那么其中的角色与场景是什么呢?

• 梳理一下自己在建设织云监控告警产品线的一些经验和思考。

• 对于刚入行对监控告警这个产品还不太熟悉的新业务运维同学。

• 想自己建设监控告警的运维同学或者运营建设同学。

• 正在建设监控告警平台的运维同学或者产品经理。

• 对监控告警产品天天使用的业务运维同学。

因为我现在是织云监控告警产品线的产品经理,而且这部分的产品也在分版本的持续建设中。所以后续主要的产品规划、设计、实现的讲述都是基于织云这个载体上实现。

万丈高楼平地起

本章主要介绍一些关于监控的通用方法论,我们先理清一些基本概念。

• 监控的定义?

• 监控的方式?

• 监控的类型?

• 监控的目标?

• 监控的本质?

• 监控的目的?

• 监控的产品属性?

监控的定义

通过技术手段发现服务异常,持续优化业务可用性与用户体验。这句话的关键词是 发现、持续优化、可用性,体验。

监控的方式

主动:程序内部埋点,服务主动上报自身的运行情况,一般都是具化为业务的各个属性或者指标,这种方式准、快、灵活性好,指标丰富。但是在非标准框架下会有一定的代码改造成本。

被动:无需埋点,从外部探测或获取服务的运行情况,例如ping探测、日志采集分析等等。

旁路:与程序逻辑无关,对服务质量与口碑的监控,例如舆情分析。

那么这三类有优劣之分吗?其实没有,这里的方式都是针对于不同场景的,例如对域名的监控,就可以通过该域名的外部拨测来达到监控的目标,域名的访问耗时也可以通过不同的拨测点来监控。在腾讯内部,QQ和Qzone两个海量业务对这三类监控都应用到了。

监控的类型

从大的对象范畴与层级关系来说,监控一般分为五种类型:

基础监控:这里的基础监控囊括范围比较广,主要指IAAS层(服务器、系统、网络等)

服务端监控:一般指后台服务,例如QQ的后台消息服务。

客户端监控:一般指app,手Q的客户端与微信的客户端。

WEB监控:一般指网站,例如对网站域名的拨测。

用户端监控:一般指用户舆情监控,例如某个APP的口碑好坏。

监控的目标

一个好的监控体系应该要达到以下三点目标:

全:监控对象的广度,监控点的覆盖率,例如上文提到的五种对象类型是否都能覆盖到

快:监控的性能,数据流的处理能力

准:智能分析与收敛、监控对象收拢

监控的本质

在 DevOps 中,运维、开发、测试这三个角色应该视角统一,这里为什么说要视角统一,就是大家在监控这个层面关注的点应该是一致的,而不是你关注你的点,我关注我的点。

例如所有的业务监控都可以抽象出三个核心指标:请求量、成功率、耗时。这三个关键指标来判断我们服务的可靠性,通过可靠性可以推算出可用性,并且可以间接反映用户使用我们产品的的体验。例如,如果服务的可靠性不好,那么用户的产品体验肯定不会好。

监控的目的

通过对上文的一些概念介绍,其实我们已经可以推导出应用监控告警的目的,就是持续优化业务服务质量,并建设质量体系。同样织云监控也是为了打造质量体系的闭环路径。

监控告警的产品属性

监控告警是一款数据类属性的产品,既然是数据类产品,那么在产品设计的时候一定要注意这样的路径闭环 数据生产数据增值数据消费,围绕着这样的路径我们就可以勾勒出很多的用户故事,用户故事就是针对具体的角色,会有什么具体的活动,以及这个活动所产生的价值。

这里举个简单的例子来说明数据生产与数据消费。随着后面详细的讲述产品建设过程中会更加详细的阐述这个闭环的路径。

数据生产:例如一台服务器上报的各种基本的 OS 指标数据,如 CPU 使用率,内存使用量等。这就产生了若干待消费的原始数据,那么我们能用这些数据干什么呢?

数据消费:对这些上报的原始数据整理可以用作视图展示,例如图形化展示该服务在最近一个小时的 CPU 使用率。 又或者对这些原始数据设定阈值,当超过某个阈值的时候,就产生告警通知。这些都是最直接的消费的场景。

我们再延伸一步对于这些消费场景产生的告警数据,是否可以再进一步消费呢?答案是可以的,例如对若干承载 CPU 计算型业务的服务器所产生的 CPU 使用率告警(生产)时间进行分析统计(消费),是不是可以基本推导出该业务的服务高峰期是大概在那个时间范围呢?

这里想说明的是多数原子数据并无单一的消费或者生产的属性,而是要取决于在具体的场景与所处的数据链条中的角色。

并且监控告警的数据加上特定的流程(ITSM)也可以驱动监控告警+自动化的大的业务逻辑交互闭环,这个场景容我先卖个关子,后面的叙述会再次提及到这部分。

监控体系

体系,泛指一定范围内或同类的事物按照一定的秩序和内部联系组合而成的整体,是不同系统组成的系统。其实这个描述是有些抽象的,咱们用大白话套用监控体系来解读下。

对于一个有一定体量的公司,需要一些不同的监控系统,通过系统与系统间的内部交互来组成一个大的整体,从而完成对不同场景下的监控需求即监控体系。用我们内部来举例,我们内部在现网上跑的监控系统也有快10套了,同样在构建体系时关键的部分也是要用动态的视角去看待这些系统所产生的数据,而不是每个系统都是一个孤立的数据孤岛。下图是织云整体的监控体系。

在织云监控告警产品建设过程中,我们融入了很多关于海量运维的监控思考与经验沉淀。

这里的监控体系是和公司体量大小有直接关系的,但是一般来说在这个体系中,应该有三类监控系统是必备的。

总结

通过上文的简单介绍,相信大家对监控告警会有个初步的宏观认识,随着后续文章的铺开,大家会逐步了解到一个企业级的监控产品是怎样从 0 到 1 演化而来的。同时下篇文章就会进入到实战阶段。 建设监控告警是一条持续且漫长的路也是蛮复杂的,坑也很多,但还是有一些基本的方法论和规律可以遵循。

监控告警产品专题内容预告(【腾讯织云】ID:TencentCOC 将连载推送,欢迎关注):

• IAAS层监控(服务器性能、网络设备、网络流量分析)等如何设计与实现?

• 一个企业级监控告警产品需要设计怎样的 CMDB?(在云化时代 CMDB 所扮演的角色越来越核心,我以前也设计过织云的 CMDB)

• 平台级的监控产品如何更好地支撑五花八门且业务形态差别很大的组件监控?

欢迎大家扫码反馈添加时请注明“姓名-公司名称-工作岗位

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

小白学数据之NoSQL数据库 进阶篇

1915
来自专栏美团技术团队

美团外卖自动化业务运维系统——Alfred

背景 美团外卖业务在互联网行业是非常独特的,不仅流程复杂——从用户下单、商家接单到配送员接单、交付,而且压力和流量在午、晚高峰时段非常集中。同时,外卖业务的增长...

3338
来自专栏LanceToBigData

Hadoop(一)之初识大数据与Hadoop

前言   从今天起,我将一步一步的分享大数据相关的知识,其实很多程序员感觉大数据很难学,其实并不是你想象的这样,只要自己想学,还有什么难得呢?   学习Hado...

2278
来自专栏大数据技术学习

0基础学习大数据,你需要了解的学习路线和方向?

现在大数据这么火,各行各业想转行大数据,那么问题来了,该往哪方面发展,哪方面最适合自己?

1711
来自专栏杨建荣的学习笔记

批量任务的并发调度和时间调度

一直以来有一个潜在的数据库备份问题,在后续对接任务调度框架的场景下依然感觉没有彻底解决,而如果从我对需求的理解,我们可以把这个任务分解为另外一种思路,换...

853
来自专栏钱塘大数据

【盘点】云计算的8项核心技术

1、虚拟化技术 虚拟化是云计算最重要的核心技术之一,它为云计算服务提供基础架构层面的支撑,是ICT服务快速走向云计算的最主要驱动力。可以说,没有虚拟化技术也就没...

2896
来自专栏CDA数据分析师

除了Hadoop,其他6个你必须知道的热门大数据技术

原文来自 Cabot Technology Solutions 编译 CDA 编译团队 本文为  CDA 数据分析师原创作品,转载需授权 你知道新的市场领导者和...

2318
来自专栏JAVA高级架构

蚂蚁金服11.11:支付宝和蚂蚁花呗的技术架构及实践

每年“双11”都是一场电商盛会,消费者狂欢日。今年双11的意义尤为重大,它已经发展成为全世界电商和消费者都参与进来的盛宴。而对技术人员来说,双十一无疑已经成为一...

976
来自专栏CSDN技术头条

SDCC 2015架构专场札记:一线互联网公司的架构实践

【编者按】11月21日,为期三天的SDCC2015中国软件开发者大会成功闭幕,主办方总计邀请了95余位演讲嘉宾,为参会者奉献了10个主题演讲,9大技术专场论坛(...

1977
来自专栏北京马哥教育

SQL/NoSQL两大阵营激辩:谁更适合大数据

企业在着手推动大数据项目的过程中,经常会遇到这样一个关键性的决策难题——到底该使用哪种数据库方案?经过综合考量,最终的选项往往只剩下 SQL 与 NoSQL 两...

4307

扫码关注云+社区