专栏首页容器云生态Prometheus入门实践 顶

Prometheus入门实践 顶

官方链接

Prometheus下载地址 Prometheus相关文档 Prometheus官方文档

一、基本原理

通过HTTP协议周期性抓取被监控组件的状态,任意组件只要提供对应的HTTP接口就可以接入监控。

输出被监控组件信息的HTTP接口被叫做exporter,也就是数据采集端,通常来说,最需要接入改造的就是expoter. 当前互联网上已经有很多成熟的exporter组件,当然用户也可用根据官方提供的sdk自行编写exporter.

注意:prometheus的时间序列数据分为四种类型

  • Counter: 收集的数据是按照某个趋势(增加/减少)一直变化的,我们往往用它记录服务请求总量,错误总数等
  • Gauge: 搜集的数据是一个瞬时的,与时间没有关系,可以任意变高变低,往往可以用来记录内存使用率、磁盘使用率等
  • Histogram: 用于表示一段时间范围内对数据进行采样,并能够对其指定区间以及总数进行统计,通常我们用它计算分位数的直方图。
  • Summary: 和Histogram类似,用于表示一段时间内数据采样结果。它直接存储了 quantile 数据,而不是根据统计区间计算出来的

二、组件介绍

  • 1.Prometheus-server: 负责数据采集和存储(TSDB),提供PromQL查询语言的支持
  • 2.Alertmanager: 警告管理器,用来进行报警
  • 3.Push Gateway: 支持临时性Job主动推送指标的中间网关(通常对应于短声明周期的任务监控)

三、服务过程

  • 1.Prometheus Daemon定时去目标上抓取metrics(指标)数据,每个抓取目标需要暴露一个http服务的接口给server进行定时获取。支持配置文件、文本文件、Zookeeper、Consul、DNS SRV Lookup方式抓取目标;对于长生命周期的服务,采用Pull模式定期拉取数据,对于段生命周期的任务,通过push-gateway来主动推送数据
  • 2.Prometheus本地存储抓取的所有数据,并通过一定规则进行清理和整理数据,并把得到的结果存储到新的时间序列中。
  • 3.Prometheus通过PromQL和其他API可视化地展示收集的数据. 可以作为Grafana的数据源进行图标输出,也可通过API对外提供数据展示
  • 4.PushGateway支持client主动推送metrics到push-gateway(相当于是一个常驻的exporter服务),prometheus定期去push-gateway中获取数据
  • 5.Alertmanager是独立于prometheus的一个组件,支持PromQL查询语句,提供灵活的报警功能

四、pronetheus服务构建使用

下载地址

源码安装

# 三个组件
$ wget https://github.com/prometheus/node_exporter/releases/download/v0.18.1/node_exporter-0.18.1.linux-amd64.tar.gz -O node_exporter-0.18.1.tar.gz

$ wget https://github.com/prometheus/prometheus/releases/download/v2.10.0/prometheus-2.10.0.linux-amd64.tar.gz -O prometheus-2.10.0.linux-amd64.tar.gz

$ wget https://github.com/prometheus/pushgateway/releases/download/v0.8.0/pushgateway-0.8.0.linux-amd64.tar.gz -O pushgateway-0.8.0.linux-amd64.tar.gz

docker方式安装

注意:prometheus默认使用yaml格式来定义配置文件

# 编写prometheus默认配置文件
$ cat prometheus.yml
global:
  scrape_interval:     15s
  evaluation_interval: 15s

rule_files:
  # - "first.rules"
  # - "second.rules"

scrape_configs:
  # 会在每个metrics数据中增加job="prometheus"和instance="localhost:9090"的基本数据
  - job_name: prometheus
    static_configs:
      - targets: ['localhost:9090']

# 热启动prometheus服务
$ docker run --name=prometheus -d -p 9090:9090  -v /Users/xuxuebiao/Desktop/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus --config.file=/etc/prometheus/prometheus.yml --web.enable-lifecycle

$ docker ps -l
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS                    NAMES
5e1698a320b2        prom/prometheus     "/bin/prometheus -..."   3 days ago          Up 2 minutes        0.0.0.0:9090->9090/tcp   prometheus

注意: prometheus为golang编写的程序,因此只有一个二进制文件,使用--config.file来制定配置文件,使用--web.enable-lifecycle来启用远程热加载配置文件. 调用指令curl -X POST http://localhost:9090/-/reload

此时可以访问prometheus-web即可查看prometheus的状态页面。此时它会每30s对自己暴露的http metrics数据进行采集。可以访问prometheus本身的metrics数据

通过node exporter提供metrics

# 启动node-exporter
$ docker run -d --name=node-exporter -p 9100:9100  prom/node-exporter
$ docker ps -l
CONTAINER ID        IMAGE                COMMAND                CREATED             STATUS              PORTS                    NAMES
0f60bcce1ea6        prom/node-exporter   "/bin/node_exporter"   3 days ago          Up 42 seconds       0.0.0.0:9100->9100/tcp   node-exporter
# 查看服务暴露的metrics
$ curl http://localhost:9100/metrics

# 将配置暴露给prometheus,并重载prometheus
$ cat prometheus.yml
global:
  scrape_interval:     15s
  evaluation_interval: 15s

rule_files:
  # - "first.rules"
  # - "second.rules"

scrape_configs:
  - job_name: prometheus
    static_configs:
      - targets: ['localhost:9090']
			# 增加一个target 并附加一个label来标记该metrics
      # 注意:在prometheus启动时增加了一些参数,因此target不需要写协议和uri(http和/metrics)
      - targets: ['10.13.13.60:9100']
        labels:
          group: "client-node-exporter"


# prometheus服务重载
$ curl -X POST http://localhost:9090/-/reload

注意:如果需要同时查找多个项,其实需要熟悉prometheus的表达式编写

五、安装pushgateway

注意:push-gateway服务启动后也需要将endpoint加入prometheus中

# 启动push-gateway服务
docker run -d -p 9091:9091 --name pushgateway prom/pushgateway

# 查看push-gateway服务
$ curl localhost:9091

# 测试push一条metrics数据到Push-gateway
echo "tps 100" | curl --data-binary @- http://localhost:9091/metrics/job/xxb

# 多指标推送
cat <<EOF | curl --data-binary @- http://localhost:9091/metrics/job/xxb/instance/bgbiao
tps{label="xxb"} 8800
tps1 100
tps2 160
tps3 160
EOF

六、安装Grafana进行图标展示

# 创建grafana服务
$ docker run -d -p 3000:3000 --name grafana grafana/grafana

$ curl localhost:3000

添加数据源,以及基本数据验证

# 向prometheus的push-gateway上主动push数据模拟数据上报
➜  Desktop echo "tps 10" | curl --data-binary @- http://localhost:9091/metrics/job/xxb
➜  Desktop echo "tps 9" | curl --data-binary @- http://localhost:9091/metrics/job/xxb
➜  Desktop echo "tps 20" | curl --data-binary @- http://localhost:9091/metrics/job/xxb
➜  Desktop echo "tps 30" | curl --data-binary @- http://localhost:9091/metrics/job/xxb
➜  Desktop echo "tps 310" | curl --data-binary @- http://localhost:9091/metrics/job/xxb
➜  Desktop echo "tps 222" | curl --data-binary @- http://localhost:9091/metrics/job/xxb

七、安装AlterManager

Prometheus中的告警由独立的两部分组成

  • 1.Prometheus服务中的警告规则发送警告到Alertmanager
  • 2.Alertmanager管理这些警告.包含:silencing, inhibition, aggregation 并通过一些方式发送通知

建立告警和通知的基本步骤:

  • 1.创建和配置alertmanager
  • 2.启动prometheus服务时,通过alertmanager.url 配置报警服务alertmanager服务,prometheus和alertmanager通信连接

启动altermanager服务

# 编辑alertmanager配置文件
$cat alertmanager.yml
global:
  resolve_timeout: 5m
route:
  group_by: ['cqh']
  group_wait: 10s #组报警等待时间
  group_interval: 10s #组报警间隔时间
  repeat_interval: 1m #重复报警间隔时间
  receiver: 'web.hook'
receivers:
  - name: 'web.hook'
    webhook_configs:
      - url: 'http://10.13.118.71:8889/open/test'
inhibit_rules:
  - source_match:
      severity: 'critical'
    target_match:
      severity: 'warning'
    equal: ['alertname', 'dev', 'instance']

# 启动服务
$ docker run -d -p 9093:9093 --name alertmanager -v /Users/xuxuebiao/Desktop/alertmanager.yml:/etc/alertmanager/alertmanager.yml prom/alertmanager

$ docker ps -l
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS                    NAMES
c6ba74bfd03b        prom/alertmanager   "/bin/alertmanager..."   3 days ago          Up 7 seconds        0.0.0.0:9093->9093/tcp   alertmanager

在prometheus中配置altermanager服务

# 编辑rule配置
$ cat rules.yml
groups:
  # tps 超过150 并且持续10s就报警告通知
  - name: bgbiao
    rules:
      - alert: bgbiao测试
        expr: tps > 150
        for: 10s
        labels:
          status: warning
        annotations:
          summary: "{{$labels.instance}}:tps 超过阈值150."
          description: "{{$labels.instance}}:tps 超过阈值!. 当前值: {{ $value }}"



# 修改prometheus主配置文件
$ cat prometheus.yml
global:
  # 默认抓取时间间隔为15s
  scrape_interval:     15s
  # 计算rule的间隔
  evaluation_interval: 15s
  # 定义额外的label
  external_labels:
    monitor: "bgbiao-monitor"

rule_files:
  - /etc/prometheus/rules.yml
  # - "first.rules"
  # - "second.rules"

# 抓取对象
scrape_configs:
  - job_name: prometheus
    # 重写数据抓取时间(局部生效)
    scrape_interval: 5s
    static_configs:
      - targets: ['localhost:9090']
        labels:
          group: "prom"
      - targets: ['10.13.118.71:9100']
        labels:
          group: "node-exporter"
      - targets: ['10.13.118.71:9091']
        labels:
          group: "push-gateway"

# 配置报警对象
alerting:
  alertmanagers:
    - static_configs:
        - targets: ["10.13.118.71:9093"]

重载prometheus服务

curl -X POST http://localhost:9090/-/reload

重新导入数据测试

# 循环向push-gateway推送数据
$ cat test-abc.sh
#!/bin/bash
#Author_by:Andy_xu @JR-OPS
num=`date +%s | cut -c10-13`
metrics=`date +%s | cut -c${num}-13`
echo $metrics
echo "tps $metrics" | curl --data-binary @- http://localhost:9091/metrics/job/xxb

八、后续优化

注意: 此时使用prometheus可以监控到基础服务的资源使用情况,并且也可用借用alertmanager服务对相关报警规则进行检测和报警,那么需要如何把相关报警及时的通知到相关负责人呢。我们前面在alertmanager服务中配置了一个web-hook,即http://10.13.118.71:8889/open/test,可以在alertmanager服务的status中找到。我们可以很好的借助这个web-hook来对相关的报警发送。

# 一个临时用来测试的web-hook服务
$ cat test-web-hook.go
/**
 * @File Name: test-web-hook.go
 * @Author: xxbandy @http://xxbandy.github.io
 * @Email:
 * @Create Date: 2019-06-19 14:06:48
 * @Last Modified: 2019-06-19 15:06:13
 * @Description: 一个临时用来测试的web-hook服务
 * @build:
 GOOS=darwin GOARCH=amd64 CGO_ENABLED=0  build -ldflags '-w -s' -o prometheus-web-hook test-web-hook.go
 */

package main
import (
    "github.com/gin-gonic/gin"
    "net/http"
    "io/ioutil"
    "fmt"
)


func main() {
   router := gin.Default()
   router.GET("/open/test", CollectData)
   router.POST("/open/test", CollectData)

   router.Run(":8889")

}

func CollectData(c *gin.Context) {
    alertdata,_ := ioutil.ReadAll(c.Request.Body)
    fmt.Println(string(alertdata))
    c.JSON(http.StatusOK,nil)

}

# 构建成二进制文件
$ GOOS=darwin GOARCH=amd64 CGO_ENABLED=0  build -ldflags '-w -s' -o prometheus-web-hook test-web-hook.go
$ chmod a+x prometheus-web-hook

# 运行web-hook并收集报警信息
➜  ./prometheus-web-hook
[GIN-debug] [WARNING] Now Gin requires Go 1.6 or later and Go 1.7 will be required soon.

[GIN-debug] [WARNING] Creating an Engine instance with the Logger and Recovery middleware already attached.

[GIN-debug] [WARNING] Running in "debug" mode. Switch to "release" mode in production.
 - using env:	export GIN_MODE=release
 - using code:	gin.SetMode(gin.ReleaseMode)

[GIN-debug] GET    /open/test                --> main.CollectData (3 handlers)
[GIN-debug] POST   /open/test                --> main.CollectData (3 handlers)
[GIN-debug] Listening and serving HTTP on :8889
{"receiver":"web\\.hook","status":"firing","alerts":[{"status":"firing","labels":{"alertname":"bgbiao测试","exported_job":"xxb","group":"push-gateway","instance":"10.13.118.71:9091","job":"prometheus","monitor":"bgbiao-monitor","status":"warning"},"annotations":{"description":"10.13.118.71:9091:tps 超过阈值!. 当前值: 26986","summary":"10.13.118.71:9091:tps 超过阈值150."},"startsAt":"2019-06-19T06:17:19.247257311Z","endsAt":"0001-01-01T00:00:00Z","generatorURL":"http://5e1698a320b2:9090/graph?g0.expr=tps+%3E+150\u0026g0.tab=1"}],"groupLabels":{},"commonLabels":{"alertname":"bgbiao测试","exported_job":"xxb","group":"push-gateway","instance":"10.13.118.71:9091","job":"prometheus","monitor":"bgbiao-monitor","status":"warning"},"commonAnnotations":{"description":"10.13.118.71:9091:tps 超过阈值!. 当前值: 26986","summary":"10.13.118.71:9091:tps 超过阈值150."},"externalURL":"http://c6ba74bfd03b:9093","version":"4","groupKey":"{}:{}"}

[GIN] 2019/06/19 - 15:24:10 | 200 |     727.873µs |    10.13.118.71 | POST     /open/test
{"receiver":"web\\.hook","status":"firing","alerts":[{"status":"firing","labels":{"alertname":"bgbiao测试","exported_job":"xxb","group":"push-gateway","instance":"10.13.118.71:9091","job":"prometheus","monitor":"bgbiao-monitor","status":"warning"},"annotations":{"description":"10.13.118.71:9091:tps 超过阈值!. 当前值: 26986","summary":"10.13.118.71:9091:tps 超过阈值150."},"startsAt":"2019-06-19T06:17:19.247257311Z","endsAt":"0001-01-01T00:00:00Z","generatorURL":"http://5e1698a320b2:9090/graph?g0.expr=tps+%3E+150\u0026g0.tab=1"}],"groupLabels":{},"commonLabels":{"alertname":"bgbiao测试","exported_job":"xxb","group":"push-gateway","instance":"10.13.118.71:9091","job":"prometheus","monitor":"bgbiao-monitor","status":"warning"},"commonAnnotations":{"description":"10.13.118.71:9091:tps 超过阈值!. 当前值: 26986","summary":"10.13.118.71:9091:tps 超过阈值150."},"externalURL":"http://c6ba74bfd03b:9093","version":"4","groupKey":"{}:{}"}

[GIN] 2019/06/19 - 15:25:20 | 200 |     129.897µs |    10.13.118.71 | POST     /open/test

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Redis ZSET

    For the past 2 years I’ve been all about Redis, and something I’m continually ex...

    九州暮云
  • 苏宁的Node.js实践:不低于Java的渲染性能、安全稳定迭代快

    苏宁的技术架构,由苏宁云、基础支撑、后台、中台和前台组成。苏宁云主要为业务开发提供云服务。基础支撑,包括数据连接协议、防火墙、日志、中间件、短信等。在苏宁云和基...

    五月君
  • 中小企业如何选择腾讯云服务器的价格与配置?

    腾讯云中小企业服务器如何选择价格配置?今天有企业朋友问笔者,我们中小企业建站的话,应该如何选择云服务器配置啊,价钱大概是多少的合适,能放几个网站,性能怎么样? ...

    用户2416682
  • 深入探讨 Java 类加载器

    类加载器是 Java 语言的一个创新,也是 Java 语言流行的重要原因之一。它使得 Java 类可以被动态加载到 Java 虚拟机中并执行。类加载器从 JDK...

    九州暮云
  • Apache Sentry实战之旅(一)—— Impala+Sentry整合

    Impala默认是以impala这个超级用户运行服务,执行DML和DDL操作的,要实现不同用户之间细粒度的权限控制,需要与Sentry整合。Sentry是Apa...

    九州暮云
  • 七款好用的项目管理软件

    它是一个在线商业协作和项目管理的平台,主要功能包括:项目管理、里程碑管理、任务、报表、事件、博客、论坛、书签、Wiki、即时消息等。

    O_oPanda
  • 一款开源且超好用的网站克隆机 HTTrack

    我们在学习前端的时候,总是会想着去学习其他人网站是如何制作的,或者我们遇到一些比较有用的知识点的时候,我们可能会选择通过 Ctrl + C / Ctrl + V...

    Angel_Kitty
  • 网站上传程序的步骤

    一个完整的网站是由域名,空间和程序组成的,当我们把域名和空间都购买好之后,就需要上传网站程序了:

    我做网站的
  • 小白学Flask第一天 | 我的第一个Flask程序

    相信大部分人进来读这篇文章是因为以前没接触过Flask框架,这里我给大家介绍一下这个框架。

    JAVAandPython君
  • spring cloud zuul网关的作用

    zuul一般有两大作用,1是类似于Nginx的网址重定向,但zuul的重定向的一般是整个spring cloud里在Eureka注册中心的模块.

    算法之名

扫码关注云+社区

领取腾讯云代金券