当前位置： 首页 > news >正文

【云原生 Prometheus篇】Prometheus的动态服务发现机制

news 来源：原创 2024/5/9 16:40:37

自动发现

  • 一、Prometheus服务发现 理论部分
    • 1.1 Prometheus数据采集配置
    • 1.2 基于文件的服务发现
    • 1.3 基于consul的服务发现
    • 1.4 基于 Kubernetes API 的服务发现
      • 1.4.1 概念
      • 1.4.2 部分配置参数
      • 1.4.3 配置模板
  • 二、实例一：部署基于文件的服务发现
    • 2.1 创建用于服务发现的文件
    • 2.2 修改Prometheus的配置文件
    • 2.3 浏览器访问测试
  • 三、实例二：部署基于consul的服务发现
    • 3.1 部署Consul服务
    • 3.2 在Consul 上注册 Services
    • 3.3 修改 prometheus 配置文件
  • 四、Prometheus对接Kurbernetes集群的方法
    • 4.1 方式一：外部部署
    • 4.2 方式二：内部部署（以Pod的形式）
  • 五、小结

一、Prometheus服务发现 理论部分

1.1 Prometheus数据采集配置

scrape_configs:
- job_name: XXX              #自定义监控任务的名称metrics_path: "/metrics"   #指定获取监控指标数据的URL路径，一般都是 /metricsscheme: "https"             #指定拉取监控指标数据的协议，http(默认值)|https#定义静态配置的监控目标static_configs:           - targets:                   #指定监控目标的IP和exporter的端口- <IP1>:<exporter的端口>- <IP2>:<exporter的端口>labels:                    #自定义监控目标的标签<标签key>: <标签value>

在这里插入图片描述

1.2 基于文件的服务发现

简介

Prometheus Server 会定期从文件中加载 Target 信息，文件可使用 YAML 和 JSON 格式，它含有定义的 Target 列表，以及可选的标签信息。

基于文件的服务发现不依赖于任何平台或第三方服务，是最为简单和通用的实现方式。

配置模板

#基于文件的服务发现file_sd_configs:- files:- XXX.yaml                 #指定作服务发现的文件的路径refresh_interval: 1m       #指定服务发现的刷新间隔时间

1.3 基于consul的服务发现

下载地址：https://www.consul.io/downloads/

简介

Consul 是一款基于 golang 开发的开源工具，主要面向分布式，服务化的系统提供服务注册、服务发现和配置管理的功能。

提供服务注册/发现、健康检查、Key/Value存储、多数据中心和分布式一致性保证等功能。

模板

  #基于consul的服务发现consul_sd_configs:- server: <consul服务器IP>:8500     #指定consul服务器地址和端口tags:                             #指定在consul服务发现中用于作prometheus监控的tags标签- 用于作prometheus监控的标签refresh_interval: 1m

1.4 基于 Kubernetes API 的服务发现

1.4.1 概念

基于 Kubernetes API 的服务发现机制，支持将API Server 中 Node、Service、Endpoint、Pod 和 Ingress 等资源类型下相应的各资源对象视作 target， 并持续监视相关资源的变动

●Node、Service、Endpoint、Pod 和 Ingress 资源分别由各自的发现机制进行定义

●负责发现每种类型资源对象的组件，在 Prometheus 中称为一个 role

●支持在集群上基于 DaemonSet 控制器部署 node-exporter 后发现各 Node 节点，也可以通过 kubelet 来作为 Prometheus 发现各 Node 节点的入口

1.4.2 部分配置参数

# The API server addresses. If left empty, Prometheus is assumed to run inside of the cluster and will discover API servers automatically
and use the pod's
# CA certificate and bearer token file at /var/run/secrets/kubernetes.io/serviceaccount/.
[ api_server: <host> ]# The Kubernetes role of entities that should be discovered. One of endpoints, service, pod, node, or ingress.
role: <string># Optional authentication information used to authenticate to the API server.
# Note that 'basic_auth', 'bearer_token'和'bearer_token_file' 等认证方式互斥；
[ bearer_token: <secret> ]
[ bearer_token_file: <filename> ]# TLS configuration.
tls_config:
# CA certificate to validate API server certificate with.
[ ca_file: <filename> ]# Certificate and key files for client cert authentication to the server.
[ cert_file: <filename> ]
[ key_file: <filename> ]# ServerName extension to indicate the name of the server.
[ server_name: <string> ]# Optional namespace discovery. If omitted, all namespaces are used.
namespaces:
names:
[ - <string> ]

1.4.3 配置模板

 #基于K8S的服务发现
- job_name: XXXscheme: "https"kubernetes_sd_configs:- role: endpoints|service|pod|node|ingress      #指定被监控的K8S资源对象类型

二、实例一：部署基于文件的服务发现

2.1 创建用于服务发现的文件

新建工作目录

cd /usr/local/prometheusmkdir targets

在文件中配置所需的 target

vim targets/node-exporter.yaml
- targets:- 192.168.2.108:9100- 192.168.2.106:9100labels:app: node-exporterjob: nodevim targets/mysqld-exporter.yaml
- targets:- 192.168.2.108:9104- 192.168.2.106:9104labels:app: mysqld-exporterjob: mysqld

2.2 修改Prometheus的配置文件

修改 prometheus 配置文件，发现 target 的配置，定义在配置文件的 job 之中。

vim /usr/local/prometheus/prometheus.yml
......
scrape_configs:- job_name: nodesfile_sd_configs:                  #指定使用文件服务发现- files:                          #指定要加载的文件列表- targets/node*.yaml            #文件加载支持通配符refresh_interval: 2m            #每隔 2 分钟重新加载一次文件中定义的 Targets，默认为 5m- job_name: mysqldfile_sd_configs:- files:- targets/mysqld*.yamlrefresh_interval: 2m

在这里插入图片描述

2.3 浏览器访问测试

#先重启服务
systemctl reload prometheus
#然后
浏览器查看 Prometheus 页面的 Status -> Targets

在这里插入图片描述

三、实例二：部署基于consul的服务发现

3.1 部署Consul服务

cd /opt/
unzip consul_1.9.2_linux_amd64.zip
mv consul /usr/local/bin/

#创建 Consul 服务的数据目录和配置目录
mkdir /var/lib/consul-data
mkdir /etc/consul/

#使用 server 模式启动 Consul 服务
consul agent \
-server \
-bootstrap \
-ui \
-data-dir=/var/lib/consul-data \
-config-dir=/etc/consul/ \
-bind=192.168.2.108 \
-client=0.0.0.0 \
-node=consul-server01 &> /var/log/consul.log &

在这里插入图片描述

#查看 consul 集群成员
consul members

在这里插入图片描述

3.2 在Consul 上注册 Services

#在配置目录中添加文件
vim /etc/consul/nodes.json
{"services": [{"id": "node_exporter-node01","name": "node01","address": "192.168.2.108","port": 9100,"tags": ["nodes"],"checks": [{"http": "http://192.168.2.108:9100/metrics","interval": "5s"}]},{"id": "node_exporter-node02","name": "node02","address": "192.168.2.106","port": 9100,"tags": ["nodes"],"checks": [{"http": "http://192.168.2.106:9100/metrics","interval": "5s"}]}]
}

#让 consul 重新加载配置信息
consul reload		浏览器访问：http://192.168.2.108:8500

在这里插入图片描述

3.3 修改 prometheus 配置文件

vim /usr/local/prometheus/prometheus.yml
......- job_name: nodesconsul_sd_configs:                  #指定使用 consul 服务发现- server: 192.168.2.108:8500        #指定 consul 服务的端点列表tags:                             #指定 consul 服务发现的 services 中哪些 service 能够加入到 prometheus 监控的标签- nodesrefresh_interval: 2m

在这里插入图片描述

systemctl reload prometheus

浏览器查看 Prometheus 页面的 Status -> Targets

在这里插入图片描述

#让 consul 注销 Service
consul services deregister -id="node_exporter-node02"#重新注册
consul services register /etc/consul/nodes.json

四、Prometheus对接Kurbernetes集群的方法

4.1 方式一：外部部署

在K8S集群外部署的prometheus的认证配置。

  #第一种老版本配置方法api_server: <apiserver的IP>:6443          #指定apiserver的地址和端口tls_config:ca_file: <filename>     #指定ca证书的路径cert_file: <filename>   #指定客户端证书的路径key_file: <filename>    #指定客户端私钥的路径#第二种新版本配置方法kubeconfig_file: <filename>   #指定kubeconfig集群引导配置文件路径，kubeconfig文件会包含集群参数（ca证书、apiserver地址）和客户端参数（客户端证书和私钥信息）

部署思路

  1. 生成认证密钥： 首先，需要生成用于认证的密钥。

    可以使用 htpasswd 命令行工具来生成一个包含用户名和密码的密钥文件。

    例如，使用以下命令生成一个名为 auth 的密钥文件：

    htpasswd -c -B -C 12 auth username
#上述命令将提示你输入密码
#然后在当前目录下生成一个名为 `auth` 的密钥文件，
#并将用户名和密码添加到该文件中。

  2. 创建 Secret 对象： 在 Kubernetes 集群中，使用 Secret 对象来存储认证密钥。

    kubectl create secret generic prometheus-auth --from-file=auth
#创建一个名为 `prometheus-auth` 的 Secret 对象，并将 `auth` 文件的内容存储在其中。

  3. 更新 Prometheus 配置： 编辑 Prometheus 的配置文件 prometheus.yml，添加认证相关的配置。

  4. 部署 Prometheus： 根据你的部署方式，可以使用 Docker 或其他工具将 Prometheus 部署在Kubernetes集群外部。

  5. 部署配置文件和 Secret 对象： 将更新后的 prometheus.yml 文件和创建的 Secret 对象应用到 Prometheus 的部署中。

    比如使用容器编排工具（如 Docker Compose），将这些文件挂载到容器中。

完成上述步骤后， Prometheus 将使用认证配置来保护其 Web UI 和其他功能。

只有提供正确的用户名和密码才能访问相关页面。

4.2 方式二：内部部署（以Pod的形式）

在K8S集群内以Pod形式部署的prometheus的认证配置。

#在K8S集群内以Pod形式部署的prometheus的认证配置tls_config:ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt#第一种老版本配置方法bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token#第二种新版本配置方法authorization:credentials_file: /var/run/secrets/kubernetes.io/serviceaccount/token

五、小结

Prometheus数据采集配置
scrape_configs:
- job_name: XXX              #自定义监控任务的名称metrics_path: "/metrics"   #指定获取监控指标数据的URL路径，一般都是 /metricsscheme: "http"             #指定拉取监控指标数据的协议，http(默认值)|https#定义静态配置的监控目标static_configs:           - targets:                   #指定监控目标的IP和exporter的端口- <IP1>:<exporter的端口>- <IP2>:<exporter的端口>labels:                    #自定义监控目标的标签<标签key>: <标签value>#基于文件的服务发现file_sd_configs:- files:- XXX.yaml                 #指定作服务发现的文件的路径refresh_interval: 1m       #指定服务发现的刷新间隔时间#基于consul的服务发现consul_sd_configs:- server: <consul服务器IP>:8500     #指定consul服务器地址和端口tags:                             #指定在consul服务发现中用于作prometheus监控的tags标签- 用于作prometheus监控的标签refresh_interval: 1m#基于K8S的服务发现
- job_name: XXXscheme: "https"kubernetes_sd_configs:- role: endpoints|service|pod|node|ingress      #指定被监控的K8S资源对象类型#在K8S集群外部署的prometheus的认证配置#第一种老版本配置方法api_server: <apiserver的IP>:6443          #指定apiserver的地址和端口tls_config:ca_file: <filename>     #指定ca证书的路径cert_file: <filename>   #指定客户端证书的路径key_file: <filename>    #指定客户端私钥的路径#第二种新版本配置方法kubeconfig_file: <filename>   #指定kubeconfig集群引导配置文件路径，kubeconfig文件会包含集群参数（ca证书、apiserver地址）和客户端参数（客户端证书和私钥信息）#在K8S集群内以Pod形式部署的prometheus的认证配置tls_config:ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt#第一种老版本配置方法bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token#第二种新版本配置方法authorization:credentials_file: /var/run/secrets/kubernetes.io/serviceaccount/token

相关文章：

  • vue+SpringBoot的图片上传
  • python生成邀请码，手机验证码
  • Android控件全解手册 - 自定义实现水波进度
  • 解决kubernetes中微服务pod之间调用失败报错connection refused的问题
  • Nginx（资源压缩）
  • 人工智能 -- 神经网络
  • 【React】打包优化-配置CDN
  • echart一键生成迁徙图
  • 了解FastSam：一个通用分割模型（草记）
  • Qt5.15.2静态编译 VS2017 with static OpenSSL
  • 存算一体还是存算分离？谈谈数据库基础设施的架构选择
  • 2023.11.22 数据仓库2-维度建模
  • Centos 7 离线安装(tar) NodeJS 16 和 Vue
  • docker启动容器失败，然后查看日志，docker logs查看容器出现报错：
  • 面试问题--智能指针
  • 《Java编程思想》读书笔记-对象导论
  • 【跃迁之路】【699天】程序员高效学习方法论探索系列（实验阶段456-2019.1.19）...
  • JavaScript学习总结——原型
  • JavaSE小实践1：Java爬取斗图网站的所有表情包
  • MYSQL 的 IF 函数
  • MySQL-事务管理（基础）
  • Perseus-BERT——业内性能极致优化的BERT训练方案
  • python 装饰器（一）
  • Swoft 源码剖析 - 代码自动更新机制
  • UEditor初始化失败（实例已存在，但视图未渲染出来，单页化）
  • 第十八天-企业应用架构模式-基本模式
  • 关于List、List?、ListObject的区别
  • 如何解决微信端直接跳WAP端
  • 世界上最简单的无等待算法(getAndIncrement)
  • 小程序上传图片到七牛云（支持多张上传，预览，删除）
  • 最简单的无缝轮播
  • ［地铁译］使用SSD缓存应用数据——Moneta项目: 低成本优化的下一代EVCache ...
  • ionic异常记录
  • 说说我为什么看好Spring Cloud Alibaba
  • ​​​​​​​GitLab 之 GitLab-Runner 安装，配置与问题汇总
  • ​一帧图像的Android之旅 :应用的首个绘制请求
  • #{} 和 ${}区别
  • #HarmonyOS：Web组件的使用
  • #include＜初见C语言之指针（5）＞
  • （14）目标检测_SSD训练代码基于pytorch搭建代码
  • （2）(2.4) TerraRanger Tower/Tower EVO(360度)
  • （3）(3.5) 遥测无线电区域条例
  • (zt)基于Facebook和Flash平台的应用架构解析
  • (办公)springboot配置aop处理请求.
  • (四)库存超卖案例实战——优化redis分布式锁
  • .bat批处理（二）：%0 %1——给批处理脚本传递参数
  • .net MySql
  • .net 简单实现MD5
  • .Net 路由处理厉害了
  • .NET/C# 检测电脑上安装的 .NET Framework 的版本
  • .NET精简框架的“无法找到资源程序集”异常释疑
  • ?php echo $logosrc[0];?,如何在一行中显示logo和标题？
  • @Transactional 详解
  • [ 网络基础篇 ] MAP 迈普交换机常用命令详解
  • [20190113]四校联考