Prometheus 监控MySQL数据库

云计算 2023-05-04 捡田螺的小男孩 手机阅读

由于个人博客目前没有监控，这里使用node_exporter监控系统，同时使用mysqld_exporter监控数据库。后面会添加nginx流量的监控。 除了node_exporter非容器运行，其他的项目均使用容器运行。 本次文档没有介绍数据库安装，有需要的自行百度~ 后面将会添加alertmanager监控告警~ 所有组件版本均使用最新版，并且将版本永久保存，以保证文章时时可用！
关于Prometheus监控不太了解的话可以参考

    <img src="https://img.mryunwei.com/uploads/2023/05/20230504032841370.png" alt>

        <img src="https://img.mryunwei.com/uploads/2023/05/20230504032841370.png" alt>

            <h2>Prometheus 原理介绍</h2>

                <img src="https://img.mryunwei.com/uploads/2023/05/20230504112844319.gif">新闻联播老司机
                <li>
                        19年6月17日</li>
                    <li>
                        喜欢：0
                    </li>
                    <li>
                        浏览：6.4k
                    </li>

这里我们演示中，prometheus以及mysqld_exporter都使用容器进行运行。这里我的服务器配置为阿里云2h4g 由于Prometheus及相关的exporter会随着版本发生变化，官方推荐都是最新的版本。这里我为了保证后期文档可用性，将mysqld_exporter和node_exporter都传到我的仓库中，下面有直接下载的方法

Docker Install

安装docker版本使用19.06，使用脚本一键安装 19.03版本需要最新的Linux 5.x内核支持，如果达不到升级的条件可以使用18.09的版本，具体参考docker官方文章

export VERSION=19.03
curl -fsSL "https://get.docker.com/" | bash -s -- --mirror Aliyun

所有机器配置加速源并配置docker的启动参数使用systemd,使用systemd是官方的建议,详见 https://kubernetes.io/docs/setup/cri/

mkdir -p /etc/docker/
cat>/etc/docker/daemon.json<

启动docker，检查状态是否正常


systemctl enable --now docker



查看docker info


[root@abcdocker ~]# docker info
Client:
 Debug Mode: false

Server:
 Containers: 1
  Running: 0
  Paused: 0
  Stopped: 1
 Images: 2
 Server Version: 19.03.11
 Storage Driver: overlay2
  Backing Filesystem: extfs
  Supports d_type: true
  Native Overlay Diff: true
 Logging Driver: json-file
 Cgroup Driver: systemd
 Plugins:
  Volume: local
  Network: bridge host ipvlan macvlan null overlay
  Log: awslogs fluentd gcplogs gelf journald json-file local logentries splunk syslog
 Swarm: inactive
 Runtimes: runc
 Default Runtime: runc
 Init Binary: docker-init
 containerd version: 7ad184331fa3e55e52b890ea95e65ba581ae3429
 runc version: dc9208a3303feef5b3839f4323d9beb36df0a9dd
 init version: fec3683
 Security Options:
  seccomp
   Profile: default
 Kernel Version: 5.6.7-1.el7.elrepo.x86_64
 Operating System: CentOS Linux 7 (Core)
 OSType: linux
 Architecture: x86_64
 CPUs: 1
 Total Memory: 3.846GiB
 Name: abcdocker
 ID: 7NVC:4GYW:CRGD:ABOX:V6T4:LYEH:MLLO:UUB3:X5ZB:QTRC:A2RW:DER4
 Docker Root Dir: /var/lib/docker
 Debug Mode: false
 Registry: https://index.docker.io/v1/
 Labels:
 Experimental: false
 Insecure Registries:
  127.0.0.0/8
 Registry Mirrors:
  https://hjvrgh7a.mirror.aliyuncs.com/
 Live Restore Enabled: false



node_exporter 安装


node_exporter主要是用于监控宿主机的信息
项目地址https://github.com/prometheus/node_exporter
官方文档提示: node_exporter设计用于监控主机系统。不建议将其部署为Docker容器，因为它需要访问主机系统。请注意，您要监视的任何非根安装点都需要绑定到容器中。如果启动容器以进行主机监视，请指定path.rootfs参数。此参数必须与host root的bind-mount中的路径匹配。node_exporter将path.rootfs用作访问主机文件系统的前缀。
这里我们就不以容器进行运行，使用二进制安装的方式
官方下载地址https://prometheus.io/download/#node_exporter


#由于官方下载可能比较慢，我将压缩包上传到我的站点存储，本次演示的版本为1.0.0
wget http://down.i4t.com/prometheus/node_exporter-1.0.0.linux-amd64.tar.gz
tar xf node_exporter-1.0.0.linux-amd64.tar.gz 
mkdir -p /usr/local/node_exporter
mv node_exporter /usr/local/node_exporter/node_exporter



创建systemd服务


#创建prometheus用户
[root@abcdocker local]# useradd -s /sbin/nologin -m prometheus
[root@abcdocker local]# id prometheus
uid=1002(prometheus) gid=1002(prometheus) groups=1002(prometheus)

cat >>/etc/systemd/system/node_exporter.service<

启动服务
在通过systemd启动之前我们先测试一下node_exporter是否正常，直接./usr/local/node_exporter/node_exporter运行成功即可


[root@abcdocker ~]# cd /usr/local/node_exporter/
[root@abcdocker node_exporter]# ./node_exporter 
level=info ts=2020-06-08T15:56:43.206Z caller=node_exporter.go:177 msg="Starting node_exporter" 
level=info ts=2020-06-08T15:56:43.207Z caller=node_exporter.go:112 collector=zfs
...
...
...
level=info ts=2020-06-08T15:56:43.207Z caller=node_exporter.go:191 msg="Listening on" address=:9100
level=info ts=2020-06-08T15:56:43.207Z caller=tls_config.go:170 msg="TLS is disabled and it cannot be enabled on the fly." http2=false

#直接执行没有问题，我们可以访问测一下。 需要单独在开通一个窗口进行curl，测试完毕以后通过ctrl -c结束node_exporter进程
[root@abcdocker node_exporter]# curl localhost:9100/metrics
1. HELP go_gc_duration_seconds A summary of the pause duration of garbage collection cycles.
1. TYPE go_gc_duration_seconds summary
go_gc_duration_seconds{quantile="0"} 0
...
go_memstats_alloc_bytes 1.256328e+06
#这里只要有数据即可



上面是执行二进制node_exporter是否异常，接下来我们就退出启动。通过systemd进行管理


systemctl daemon-reload
systemctl enable node_exporter
systemctl start node_exporter
systemctl status node_exporter

#温馨提示: 需要退出刚刚启动的进程，否则启动失败



到现在我们的node_exporter二进制已经安装完毕，如果想使用的可以使用下面的命令


docker run -d 
  --net="host" 
  --pid="host" 
  -v "/:/host:ro,rslave" 
  quay.io/prometheus/node-exporter 
  --path.rootfs=/host

#这里的命令为官方提供，官方建议使用二进制，docker安装参数查阅官方文档即可
https://github.com/prometheus/node_exporter/



mysqld_exporter安装


项目地址:https://github.com/prometheus/mysqld_exporter
目前mysqld_exporter支持的版本为


  • MySQL> = 5.6
    • 

  • MariaDB> = 10.1
    • 

    为了方便管理，这里mysqld_exporter就是用docker进行运行，如果是使用二进制安装参数基本上相同
这里先到mysql授权mysqld_exporter用户，mysqld_exporter实际上是通过select 查看mysql状态获取metric
    

    #登录mysql创建mysqld_exporter用户，docker安装就不要使用localhost
CREATE USER 'exporter'@'10.26.33.104' IDENTIFIED BY 'abcdocker..' WITH MAX_USER_CONNECTIONS 3;
GRANT PROCESS, REPLICATION CLIENT, SELECT ON *.* TO 'exporter'@'10.26.33.104';
FLUSH PRIVILEGES;

#查看exporter信息
MySQL [(none)]> select user,host from mysql.user;
+---------------+-----------+
| user          | host      |
+---------------+-----------+
| root          | 127.0.0.1 |
| exporter      | 10.26.33.104 |
+---------------+-----------+
9 rows in set (0.00 sec)

    

    创建mysqld_exporter容器
    

    docker run -d 
  --net="host" 
  --name mysqld_exporter 
  -e DATA_SOURCE_NAME="exporter:abcdocker..@(10.26.33.104:3306)/" 
  registry.cn-beijing.aliyuncs.com/abcdocker/mysqld_exporter:0.12.1

DATA_SOURCE_NAME exporter代表用户名:abcdocker代表密码(xxxx:3306 mysql授权地址)

    

    查看容器启动状态
    

    [root@abcdocker ~]# docker ps
CONTAINER ID        IMAGE                                                          COMMAND                  CREATED             STATUS              PORTS                    NAMES
e7ba8c43597e        registry.cn-beijing.aliyuncs.com/abcdocker/mysqld_exporter:0.12.1   "/bin/mysqld_exporter"   19 seconds ago      Up 18 seconds       0.0.0.0:9104->9104/tcp   nervous_tesla

#这里我们看到已经获取到metric
[root@abcdocker ~]# curl 10.26.33.104:9104/metrics
1. HELP go_gc_duration_seconds A summary of the GC invocation durations.
1. TYPE go_gc_duration_seconds summary
go_gc_duration_seconds{quantile="0"} 0
go_gc_duration_seconds{quantile="0.25"} 0
go_gc_duration_seconds{quantile="0.5"} 0
go_gc_duration_seconds{quantile="0.75"} 0

    

    Prometheus Install
    

    prometheus我们也安装在容器中
首先创建prometheus数据存储目录
    

    [root@abcdocker ~]# mkdir /data/prometheus -p

#授权prometheus写入数据
[root@abcdocker ~]# chmod -R 777 /data/prometheus

    

    接下来编辑prometheus配置文件
    

    mkdir -p /etc/prometheus
cat >>/etc/prometheus/prometheus.yml <

    创建prometheus容器
    

    docker run -d 
  -p 9090:9090 
  --restart=always 
  --name prometheus 
  -v /data/prometheus:/data/prometheus 
  -v /etc/prometheus/prometheus.yml:/etc/prometheus/prometheus.yml 
  registry.cn-beijing.aliyuncs.com/abcdocker/prometheus:v2.18.1 
  --config.file=/etc/prometheus/prometheus.yml 
  --storage.tsdb.path=/data/prometheus       #数据存储目录
  --web.enable-admin-api           #动态更新
  --web.enable-lifecycle  
  --storage.tsdb.retention.time=30d   #数据保留天数

    

    查看prometheus容器状态
    

    [root@abcdocker ~]# docker ps
CONTAINER ID        IMAGE                                                           COMMAND                  CREATED              STATUS              PORTS                    NAMES
08b7d3d2de18        registry.cn-beijing.aliyuncs.com/abcdocker/prometheus:v2.18.1   "/bin/prometheus --c…"   About a minute ago   Up 2 seconds        0.0.0.0:9090->9090/tcp   prometheus
e7ba8c43597e       registry.cn-beijing.aliyuncs.com/abcdocker/mysqld_exporter:0.12.1    "/bin/mysqld_exporter"   39 minutes ago       Up 39 minutes       0.0.0.0:9104->9104/tcp   nervous_tesla
[root@abcdocker ~]# docker logs 08b7d3d2de18

    

    接下来我们就可以登录到宿主机IP+9090查看prometheus web ui 
    
image_1eaaedn57kou1s0g1p1a3k51mfc9.png-908.1kB

    接下来我们点击Graph可以查看到图表 
    
image_1eaaeeqtb1ok01f661heh181b1in5m.png-516.5kB

    只要有数据写入说明prometheus没有问题，接下来就安装grafana
    

    Grafana
    

    grafana 是一个可视化面包，有着非常漂亮的图片和布局展示，功能齐全的度量仪表盘和图形化编辑器，支持Graphite、Zabbix、InfluxDB、Prometheus、OpenTSDB、Elasticasearch等作为数据源，比Prometheus自带的图标展示功能强大很多，更加灵活，有丰富的插件
Grafana相关步骤可以参考之前监控k8s集群的文档，版本虽然有变化但是大概步骤基本相似
    

        <img src="https://img.mryunwei.com/uploads/2023/05/20230504112847293.png" alt>

        <img src="https://img.mryunwei.com/uploads/2023/05/20230504112847293.png" alt>

            <h2>Grafana 安装并监控k8s集群</h2>

                <img src="https://img.mryunwei.com/uploads/2023/05/20230504112844319.gif">新闻联播老司机
                <li>
                        19年6月20日</li>
                    <li>
                        喜欢：0
                    </li>
                    <li>
                        浏览：4.3k
                    </li>
    

    同样grafana使用容器进行运行
    

    mkdir -p /data/grafana-storage
chmod -R 777 /data/grafana-storage

docker run -d 
  -p 3000:3000 
  --name=grafana 
  -v /data/grafana-storage:/var/lib/grafana 
  registry.cn-beijing.aliyuncs.com/abcdocker/grafana:7.0.3

    

    启动完毕后我们可以到宿主机IP+3000查看服务
    

    默认用户名: admin
默认密码:  admin

    
image_1eaaflokfe1e1lm0732e9h6t13.png-1105.8kB

    在启动grafana的时候可以设置密码，后面修改也可以的。
第一次登陆会提示我们修改密码 
    
image_1eaafodpg1ut110ra1e651b9r1h1e20.png-275.4kB

    接下来配置prometheus源 
    
image_1eaafovulkvhbgu6vs1unn1bi12d.png-1052.1kB

    选择添加prometheus源 
    
image_1eaafpr944qghie13mjqjff7s37.png-514.6kB

    这里只需要添加一个prometheus的地址就可以了，同样建议使用内网IP
    
image_1eaafq81b44jl2q1npq94e1hjd3k.png-408.4kB

    接下来保存测试 
    
image_1eaafr9isqd21hp411k61rmaghs41.png-303.2kB

    连接正常后会有下面的截图 
    
image_1eaafs0ijjvt1b2e1efi11ug1d7l4e.png-511.9kB

    接下来可以点击BACK退出 
    
image_1eaafsjmkd4l12ugen1emo17tv4r.png-254.3kB

    接下来可以添加监控图片，如果想自定义图片可以使用下面的方法，点击创建图片即可 
    
image_1eaaftul1jl1ce21ibb8gordq5l.png-1104.6kB

    另外一种比较受欢迎的就是导入模板 
    
image_1eaafv33kq421n3d1q031is8qt62.png-924.1kB

    接下来可以到grafana官网找合适的监控项
插件地址https://grafana.com/dashboards/
我们需要找到以下模板
    

  • node_exporter监控模板
    • 

  • mysqld_exporter监控模板
    • 

    node_exporter监控模板使用最新的中文监控https://grafana.com/grafana/dashboards/8919
mysqld_exporter监控模板使用 https://grafana.com/grafana/dashboards/7362
这里导入node_exporter模板
这里可以属于上面整个url，或者直接输入后面ID都可以
    
image_1eaah0fp61lkk1e8h1b641p113136f.png-224kB

    数据源选择我们创建的，prometheus-1 
    
image_1eaah1ifdoba1su41driggb1msv6s.png-600.9kB

    导入完成后会出现下面的截图 
    
image_1eaah28ol5g019nk1gai1scn153u79.png-1406.1kB

    node_exporter到这里监控完毕
相同方法导入mysqld_exporter
mysqld_exporter监控模板使用 https://grafana.com/grafana/dashboards/7362
    
image_1eaakg2665c111c1kom8hu1p5m7m.png-812.7kB

    目前是监控项添加完毕，后面是添加alertmanager告警
    

        <img src="https://img.mryunwei.com/uploads/2023/05/20230504032841370.png" alt>

        <img src="https://img.mryunwei.com/uploads/2023/05/20230504032841370.png" alt>

            <h2>Prometheus监控Kubernetes 集群节点及应用</h2>

                <img src="https://img.mryunwei.com/uploads/2023/05/20230504112844319.gif">新闻联播老司机
                <li>
                        19年6月19日</li>
                    <li>
                        喜欢：0
                    </li>
                    <li>
                        浏览：9.1k
                    </li>
    

    相关文章：
    

    1. Docker 镜像及Docker仓库配置 [四] 
      2. 

    2. Kuerbernetes 1.11 集群二进制安装 
      3. 

    3. Xtrabackup安装以及应用 
      4. 

    4. Kubernetes 1.14 二进制集群安装 
      5.