当前位置: 首页 > news >正文

elk+filebeat+kafka集群部署

实验框架图


 192.168.124.10   es1

 192.168.124.20   es2

 192.168.124.30  losgtash kibana 

 192.168.124.50  MySQL  nginx   httpd

上一篇做完es1和es2以及192.168.124.30的部署

在192.168.124.50做配置部署

开启MySQL、nginx、http

因为nginx和http默认端口为80,改下nginx的端口号为82.

安装filebeat包,先解压,修改解压之后的目录名称

进入filebeat这个目录里面,在filebeat.yml这个配置文件添加内容

  type: log:表明这是一个日志相关的配置类型。

   通常用于指定正在配置的是日志的处理规则或设置

  • enabled: true:表示该日志配置处于启用状态。

  • 如果设置为 false,则相应的日志配置不会生效

paths: 部分

指定了 Nginx 访问日志的文件路径。

指定了 Nginx 错误日志的文件路径。

tags   为这些日志添加了一个标签

标签有助于对不同类型或来源的日志进行分类和识别。

fields

定义了一个字段

定义了一个字段 log_type  进一步明确了日志的类型。

定义了一个字段 from 可能表示日志的来源地址。

  nohup ./filebeat -e -c filebeat.yml > filebeat.out &

 nohup: 表示在后台运行命令,即使终端关闭,命令仍会继续运行。

./filebeat:这是要运行的程序,即 filebeat 。

-e:通常用于启用详细的错误输出,以便在出现问题时提供更多的调试信息。

-c filebeat.yml:指定了 filebeat 程序的配置文件为 filebeat.yml 。配置文件中可能包含了关于要采集的日志源、输出目标等的详细配置。

> filebeat.out:将标准输出重定向到名为 filebeat.out 的文件中,以便保存程序运行时输出的信息。

&:表示将命令在后台运行。

然后进入192.168.124.30配置

进入logstash/conf.d

创建文件 vim nmh_50.conf

 input 部分定义了数据的输入源。

beats { port => "5046"}:表示从 Beats 框架接收数据,接收数据的端口为 5046 。

output 部分定义了数据的输出方式。

  • 这里使用了多个条件判断 if 语句:
    • if "nginx" in [tags]:如果输入数据的 tags 字段中包含 nginx 。
    • if "httpd" in [tags]:如果 tags 字段中包含 httpd 。
    • if "mysqld" in [tags]:如果 tags 字段中包含 mysqld 。
    • 对于满足条件的数据,将输出到 Elasticsearch :
    • elasticsearch { hosts => ["192.168.124.10:9200","192.168.124.20:9200"] }:指定了 Elasticsearch 的主机地址。
    • index => "%{[fields][service_name]}-%{+YYYY.MM.dd}":定义了输出数据在 Elasticsearch 中的索引名称,索引名称由 fields 中的 service_name 字段的值和当前日期(格式为 YYYY.MM.dd )组成。

开启收集日志的命令

logstash -f nmh_50.conf --path.data /opt/test7 &

 然后访问es1和es2

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 抖音小店新宠儿成都夏光汝网络科技
  • 对优先级队列(堆)的理解
  • 【工具】-gdb-学习笔记
  • 推动未来的引擎:人工智能大模型的现状与发展
  • 基于改进拥挤距离的多模态多目标优化差分进化(MMODE-ICD)求解无人机三维路径规划(MATLAB代码)
  • 云计算学习——5G网络技术
  • 前端开发者必备:揭秘谷歌F12调试的隐藏技巧!
  • PixelMaster - 图片像素化终极利器 !
  • U盘数据恢复不再难:2024年4款工具,找回你“躲藏”的记忆
  • BootStrap前端面试常见问题
  • 【刷题汇总 -- 爱吃素、相差不超过k的最多数、最长公共子序列(一)】
  • 常回家看看之fastbin_attack
  • JVM知识体系梳理
  • PTA—基础编程题目集(7-18)
  • 【2024蓝桥杯/C++/B组/小球反弹】
  • 【399天】跃迁之路——程序员高效学习方法论探索系列(实验阶段156-2018.03.11)...
  • AHK 中 = 和 == 等比较运算符的用法
  • CentOS 7 防火墙操作
  • Meteor的表单提交:Form
  • Python爬虫--- 1.3 BS4库的解析器
  • python学习笔记 - ThreadLocal
  • Work@Alibaba 阿里巴巴的企业应用构建之路
  • 阿里云容器服务区块链解决方案全新升级 支持Hyperledger Fabric v1.1
  • 构造函数(constructor)与原型链(prototype)关系
  • 树莓派 - 使用须知
  • ​Java并发新构件之Exchanger
  • #include<初见C语言之指针(5)>
  • $refs 、$nextTic、动态组件、name的使用
  • (1)Jupyter Notebook 下载及安装
  • (Oracle)SQL优化基础(三):看懂执行计划顺序
  • (二)fiber的基本认识
  • (七)Appdesigner-初步入门及常用组件的使用方法说明
  • (求助)用傲游上csdn博客时标签栏和网址栏一直显示袁萌 的头像
  • (全注解开发)学习Spring-MVC的第三天
  • (三)elasticsearch 源码之启动流程分析
  • (十三)MipMap
  • (十五)使用Nexus创建Maven私服
  • (已解决)vue+element-ui实现个人中心,仿照原神
  • . Flume面试题
  • .360、.halo勒索病毒的最新威胁:如何恢复您的数据?
  • .NET C# 操作Neo4j图数据库
  • .NET CF命令行调试器MDbg入门(四) Attaching to Processes
  • .NET Core、DNX、DNU、DNVM、MVC6学习资料
  • .net core开源商城系统源码,支持可视化布局小程序
  • .NET/C# 在代码中测量代码执行耗时的建议(比较系统性能计数器和系统时间)
  • .Net插件开发开源框架
  • @angular/cli项目构建--Dynamic.Form
  • [ Python ]使用Charles对Python程序发出的Get与Post请求抓包-解决Python程序报错问题
  • [04]Web前端进阶—JS伪数组
  • [100天算法】-二叉树剪枝(day 48)
  • [BetterExplained]书写是为了更好的思考(转载)
  • [BT]BUUCTF刷题第8天(3.26)
  • [BZOJ 4034][HAOI2015]T2 [树链剖分]
  • [BZOJ] 2427: [HAOI2010]软件安装
  • [BZOJ4010]菜肴制作