k8s实践(十一)：heapster+influxdb+grafana实现kubernetes集群监控

原创

loong576

修改于 2019-11-08 17:39:19

1.1K0

修改于 2019-11-08 17:39:19

文章被收录于专栏：运维ABC运维ABC

环境说明：

主机名	操作系统版本	ip	docker version	kubelet version	配置	备注
master	Centos 7.6.1810	172.27.9.131	Docker 18.09.6	V1.14.2	2C2G	master主机
node01	Centos 7.6.1810	172.27.9.135	Docker 18.09.6	V1.14.2	2C2G	node节点
node02	Centos 7.6.1810	172.27.9.136	Docker 18.09.6	V1.14.2	2C2G	node节点

k8s集群部署详见：Centos7.6部署k8s(v1.14.2)集群

k8s学习资料详见：基本概念、kubectl命令和资料分享

一、简介

1.heapster简介

Heapster是Kubernetes原生的集群监控方案,Kubelet自身就包含了一个名为cAdvisor的agent，它会收集整个节点和节点上运行的所有单独容器的资源消耗情况。Heapster以pod的方式运行在某个节点上，它通过普通的KubernetesService暴露服务，使外部可以通过一个稳定的IP地址访问。它从集群中所有的cAdvisor收集数据，然后通过一个单独的地址暴露。

Heapster 将数据按照 Pod 进行分组，将它们存储到预先配置的 backend 并进行可视化展示。Heapster 当前支持的 backend 有 InfluxDB（通过 Grafana 展示），Google Cloud Monitoring 等。

2.lnfluxDB和Grafana 简介

lnfluxDB是一个用于存储应用指标，以及其他监控数据的开源的时序数据库。Grafana是一个拥有着华丽的web控制台的数据分析和可视化套件，同样也是开源的，它允许用户对InfluxDB中存储的数据进行可视化，同时发现应用程序的资源使用行为是如何随时间变化的。

二、heapster安装

1.安装文件和镜像下载

安装文件下载：

[root@master ~]# git clone https://github.com/kubernetes-retired/heapster.git

或者

[root@master ~]# wget https://github.com/kubernetes-retired/heapster/archive/master.zip
[root@master ~]# unzip master.zip

两种方式都可以下载安装文件，本文采取第二种方式

镜像下载及打标签

[root@node02 ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4
[root@node02 ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2
[root@node02 ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4

[root@node02 ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4 k8s.gcr.io/heapster-amd64:v1.5.4 
[root@node02 ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2 k8s.gcr.io/heapster-influxdb-amd64:v1.5.2
[root@node02 ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4 k8s.gcr.io/heapster-grafana-amd64:v5.0.4

[root@node02 ~]# docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4 registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2 registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4

注意：每个节点都需执行以上命令

2.安装文件修改

[root@master ~]# cd heapster-master/deploy/kube-config/
[root@master kube-config]# pwd
/root/heapster-master/deploy/kube-config
[root@master kube-config]# ll
总用量 0
drwxr-xr-x 2 root root  27 11月 30 2018 google
drwxr-xr-x 2 root root  68 10月 22 15:00 influxdb
drwxr-xr-x 2 root root  32 10月 22 15:02 rbac
drwxr-xr-x 2 root root  38 11月 30 2018 standalone
drwxr-xr-x 2 root root 170 11月 30 2018 standalone-test
drwxr-xr-x 2 root root 145 11月 30 2018 standalone-with-apiserver
[root@master kube-config]# cd influxdb/
[root@master influxdb]# ll
总用量 12
-rw-r--r-- 1 root root 2294 10月 22 14:51 grafana.yaml
-rw-r--r-- 1 root root 1162 10月 22 15:00 heapster.yaml
-rw-r--r-- 1 root root  997 10月 22 14:51 influxdb.yaml
[root@master influxdb]# cd ../rbac/
[root@master rbac]# ll
总用量 4
-rw-r--r-- 1 root root 263 10月 22 15:02 heapster-rbac.yaml

分别修改文件grafana.yaml、influxdb.yaml、heapster.yaml和heapster-rbac.yaml

修改grafana.yaml，port类型为NodePort，nodePort为30011，可通过http://NodeIp:30011方式访问

修改influxdb.yaml，port类型为NodePort，nodePort为30012，grafana配置数据源会用到

修改heapster.yaml中的source和sink参数

source: 指定数据获取源

source参数	说明
inClusterConfig	在与heapster的命名空间关联的服务帐户中使用kube config(默认值：true)
kubeletPort	指定kubelet的使用端口，默认10255
kubeletHttps	是否使用https去连接kubelets(默认：false)
insecure	是否使用安全证书(默认：false)
auth	安全认证
useServiceAccount	是否使用K8S的安全令牌(默认：false)

sink: 指定后端数据存储

sink参数	说明
user	InfluxDB用户,默认root
pw	InfluxDB密码，默认root
db	数据库名，默认k8s
retention	默认infloxDB保留策略的持续时间，默认值0，表示无限
secure	安全连接到InfluxDB(默认：false)
insecuressl	忽略SSL证书有效性(默认值：false)
withfields	使用InfluxDB fields(默认：false)
cluster_name	不同cubernete集群的集群名称(默认：default)
disable_counter_metrics	禁用接收计数器度量以流入数据库(默认：false)
concurrency	并发数(默认：1)

修改heapster-rbac.yaml，将权限修改为cluster-admi

3.执行安装

[root@master kube-config]# pwd
/root/heapster-master/deploy/kube-config
[root@master kube-config]# kubectl apply -f influxdb/
deployment.extensions/monitoring-grafana created
service/monitoring-grafana created
serviceaccount/heapster created
deployment.extensions/heapster created
service/heapster created
deployment.extensions/monitoring-influxdb created
service/monitoring-influxdb created
[root@master kube-config]# kubectl apply -f rbac/heapster-rbac.yaml 
clusterrolebinding.rbac.authorization.k8s.io/heapster created

4.资源查看

[root@master kube-config]# kubectl get all -n kube-system -o wide |grep -e monitor -e heapster

三、Grafana配置

1.登录grafana

登陆地址：http://172.27.9.131:30011

2.配置DataSource

url为http://172.27.9.131:30012

3.导入模板

模板下载

下载地址：https://grafana.com/api/dashboards/3649/revisions/1/download 、

https://grafana.com/api/dashboards/3646/revisions/1/download

导入

同理导入kubernetes-node-statistics

四、查看Grafana

五、资源删除

[root@master ~]# kubectl delete -n kube-system  ClusterRoleBinding heapster               [root@master ~]# kubectl get all -n kube-system -o wide |grep -e monitor -e heapster |awk '{print $1}'|xargs kubectl delete  -n kube-system
[root@master ~]# rm -rf heapster-master master.zip