ELK_日志分析系统

2023-09-21 17:26:13

文章目录

一.ELK日志分析系统
- - - 1.1 作用：
    - 1.2 ELK组件
    - 1.3 ELK工作原理展示图：
    - 1.4 日志处理步骤
    - 1.5 日志分析步骤：
    - 1.6Elasticsearch
    - - 1.6.1 概述：
        1.6.2 分片和副本
    - 1.7分片的最大原因：
    - 1.8 副本的主要原因
二 LogStash
- - - 2.1 概述
    - 2.2 LogStash主要组件
    - 2.3 主机分类
    - 2.4 工作原理
    - 2.5.Kibana概述
    - - 2.5.1 主要功能：提供展示页面
三部署ELK
- - - 3.1 更改主机名
    - 3.2 配置elasticsearch环境
    - 3.3部署elasticsearch软件
    - - 3.3.1 安装elasticsearch—rpm包
        3.3.2 加载系统服务
        3.3.3 更改elasticsearch主配置文件
        3.3.4 检验配置
        3.3.5 创建数据存放路径并授权
        3.3.6 查看节点信息
        3.3.7 检验集群健康状态
        3.3.8 查看集群状态
    - 3.4 安装elasticsearch-head插件
    - - 3.4.1 编译安装node组件依赖包
        3.4.2 安装phantomjs（前端框架）
        3.4.3 安装elasticsearch-head（数据可视化工具）
        3.4.4 修改主配置文件
        3.4.5 启动elasticsearch-head
        3.4.6 使用elasticsearch-head插件查看集群状态
        3.4.7 创建索引
    - 3.5 回到主机
    - 3.6 安装logstash
    - - 3.6.1 安装Apahce服务（httpd）
        3.6.2 安装Java环境
        3.6.3 安装logstash
        3.6.4 测试logstash命令
    - 3.7 在主机上访问
    - 3.8 在Apache主机上做对接配置
    - 3.9主机上访问：
    - 3.10 安装kibana
    - 3.11 对接Apache主机的Apache 日志文件（访问日志、错误日志）
    - 3.11 本机上访问
四总结

一.ELK日志分析系统

ELK是由Elasticsearch、Logstash、Kiban三个开源软件的组合。在实时数据检索和分析场合，三者通常是配合共用，而且又都先后归于Elastic.co 公司名下，故有此简称。

日志服务器：提高安全性，集中存放日志，缺陷：对日志分析困难
ELK日志分析系统
特点： 分布式，零配置，自动发现

1.1 作用：

日志分析是运维工程师解决系统故障，发现、定位问题的主要途径。日志主要包括系统日志、应用程序日志和安全日志
系统运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误及错误发生的原因。经常分析日志
可以了解服务器的负荷，性能安全性，从而及时采取措施纠正错误。

1.2 ELK组件

Elasticsear索引型数据库 es(数据库，用于搜索引擎
ogstash:格式转换，获取日志，再格式转换，输出数据库
kibana:对接页面,可对数据图表化，汇总，分析数据日志

1.3 ELK工作原理展示图：

在这里插入图片描述

【APPServer集群】→→【logstash Agent 采集器】→→【ElasticSearch Cluster】→→【Kibana Server】→→【Browser】

Logstash收集AppServer产生的Log，并存放到ElasticSearch集群中，而Kibana则从ES集群中查询数据生成图表，
再返回给Browser。简单来说，进行日志处理分析，一般需要经过以下几个步骤：
beats包含四种工具：
Packetbeat（搜集网络流量数据）
Topbeat（搜集系统、进程和文件系统级别的 CPU 和内存使用情况等数据）
Filebeat（搜集文件数据）轻量级的工具（相较于logstash）
Winlogbeat（搜集 Windows 事件日志数据）

1.4 日志处理步骤

日志集中化管理：logstash的收集
将日志格式化(logstash)并输出到Elasticsearch：logstash输出，输出给es
对格式化后的数据进行索引和存储（es)
前端数据的展示(Kibana）

1.5 日志分析步骤：

将日志集中化管理
packetbeat（收集网络流量数据
topbeat收集系统、进程很cpu内存使用情况数据
filebeat(收集文件系统):轻量级
winlgbeat (收集windows事件日志数据)
将日志格式化(slogstash）
对格式化数据进行索引和存储
前端数据的展示

1.6Elasticsearch

 elasticsearch实现实时搜索，稳定可靠，快速，安装使用方便

1.6.1 概述：

接近实时，索引到文档有轻微的延迟
集群：一个或多个节点组织在一起，共同持有整个属性，并一起提供索引和搜索功能
节点：服务器，通过集群名称加入的
索引：拥有相似特征的文档集合，索引相对于关系型数据库的库
类型：数据库中中的表，索引的一个逻辑上的分类和分区
文档：可被索引搜索的基本单元
Elasticsearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于RESTful web接口。
Elasticsearch是用Java开发的，并作为Apache许可条款下的开放源码发布，是第二流行的企业搜索引擎。设计用于云计算中，能够达到实时搜索，稳定，可靠，快速，安装使用方便。

1.6.2 分片和副本

在上述特性中，最重要的就是分片和副本，也是让es数据库（Elasticsearch）成为百度这些主流搜索引擎的主要原因，理论上能提升4倍的性能。

结合实际情况分析：索引存储的数据可能超过单个节点的硬件限制，如一个10亿文档需1TB空间可能不适合存储在单个节点的磁盘上，或者从单个节点搜索请求太慢了，为了解决这个问题，elasticsearch提供将索引分成多个分片的功能，当在创建索引时，可以定义想要分片的数量。每个分片就是一个全功能的独立索引，可以位于集群中任何节点上。

1.7分片的最大原因：

水平分隔扩展，增大存储量
分布式并行跨分片操作，提高性能和吞吐量

分布式分片的机制和搜索请求的文档如何汇总完全是有elasticsearch控制的，这些对用户而言是透明的

网络问题等等其他问题可以在任何时候不期而至，为了健壮性，强烈建议要有个故障切换机制，无论何种故障以防止分片或者节点不可用，为此，elasticsearch让我们将索引分片复制一份或多份，称为分片副本或副本

1.8 副本的主要原因

高可用性，以应对分片或者节点故障，出于这个原因，分片副本要在不同的节点上
性能加强，增加吞吐量，搜索可以并行在所有副本上执行

二 LogStash

2.1 概述

 logstash:可配置单一的代理器(agent）与其它开源软件结合，实现不同功能

collect:数据输入
Enrich:数据加工，如过滤，改写等
Transport:数据输出(被其他模块进行调用)

一款强大的数据处理工具
可实现数据传输、格式处理、格式化输出
数据输入、数据加工（如过滤，改写等）以及数据输出
常用插件：Input、Filter Plugin、Output

Input：收集源数据（访问日志、错误日志等）
Filter Plugin：用于过滤日志和格式处理
Output：输出日志

2.2 LogStash主要组件

 Shipper：负责监控本地日志文件的变化Indexer：接受日志写入本地文件Broker：负责连接shipper和多个indexerSearch and Storage:允许对事物进行搜索和存储Web Interface：基于web的展示界面

2.3 主机分类

代理主机：作为事件的传递者，将各种日志数据发送给中心主机
中心主机：可运行包括中间转发器、索引器、web在内的各个组件，实现对日志数据的接受，处理和存储

2.4 工作原理

有三个核心组件工作，input plugin(收集的插件)
出去是outputplugin：数据传输出去
ilter plugin:过滤，格式转换出去

2.5.Kibana概述

一个针对Elasticsearch的开源分析及可视化平台搜索、查看存储在Elasticsearch索引中的数据
通过各种图表进行高级数据分析及展示

2.5.1 主要功能：提供展示页面

整合数据
复杂数据分析
让更多团队人员收益
接口灵活
配置简单
可视化多数据源
简单数据导出

三部署ELK

需求描述:

配置ELK日志分析集群
使用Logstash收集日志
使用Kibana查看分析日志

主机	            操作系统	        ip地址	         软件
node1	        centos7	  192.168.10.129	Elasticsearch/Kibana
node2	        centos7	  192.168.10.134	Elasticsearch
apache	        centos7	  192.168.10.130	httpd / Logstash
客户机（宿主机）	 win10

3.1 更改主机名

systemctl stop firewalld.service  //关闭防火墙
systemctl disable firewalld.service   
setenforce 0   //安全机制hostnamectl set-hostname 主机名

在这里插入图片描述

3.2 配置elasticsearch环境

node1(192.168.10.129）
node2(192.168.10.134）

echo '192.168.10.129 node1' >> /etc/hosts
echo '192.168.10.134 node2' >> /etc/hostsjava -version    #如果没有安装，yum -y install java

在这里插入图片描述

3.3部署elasticsearch软件

node1（192.168.10.129）
node2（192.168.10.134）

3.3.1 安装elasticsearch—rpm包

上传elasticsearch-5.2）

cd /opt
rpm -ivh elasticsearch-5.5.0.rpm

在这里插入图片描述

3.3.2 加载系统服务

systemctl daemon-reload
systemctl enable elasticsearch.service

在这里插入图片描述

3.3.3 更改elasticsearch主配置文件

cp /etc/elasticsearch/elasticsearch.yml /etc/elasticsearch/elasticsearch.yml.bakvim /etc/elasticsearch/elasticsearch.yml
#17行；取消注释，修改；集群名字
cluster.name: my-elk-cluster
#23行；取消注释，修改；节点名字（node2修改成node2）
node.name: node1
#33行；取消注释，修改；数据存放路径
path.data: /data/elk_data
#37行；取消注释，修改；日志存放路径
path.logs: /var/log/elasticsearch
#43行；取消注释，修改；不在启动的时候锁定内存
bootstrap.memory_lock: false
#55行；取消注释，修改；提供服务绑定的IP地址，0.0.0.0代表所有地址
network.host: 0.0.0.0
#59行；取消注释；侦听端口为9200（默认）
http.port: 9200
#68行；取消注释，修改；集群发现通过单播实现，指定要发现的节点 node1、node2
discovery.zen.ping.unicast.hosts: ["node1", "node2"]

在这里插入图片描述

3.3.4 检验配置

grep -v "^#" /etc/elasticsearch/elasticsearch.yml

在这里插入图片描述

3.3.5 创建数据存放路径并授权

mkdir -p /data/elk_data
chown elasticsearch:elasticsearch /data/elk_data/

在这里插入图片描述

3.3.6 查看节点信息

此时可真机访问，查看节点信息

http://192.168.10.129:9200
http://192.168.10.134:9200

在这里插入图片描述

3.3.7 检验集群健康状态

在本机上访问

http://192.168.10.129:9200/_cluster/health?pretty
http://192.168.10.134:9200/_cluster/health?pretty

在这里插入图片描述

3.3.8 查看集群状态

本机上访问

http://192.168.10.129:9200/_cluster/state?pretty
http://192.168.10.134:9200/_cluster/state?pretty

在这里插入图片描述

3.4 安装elasticsearch-head插件

安装elasticsearch-head插件，用于管理集群

3.4.1 编译安装node组件依赖包

node1（192.168.10.129）
node2（192.168.10.134）

yum -y install gcc gcc-c++ make上传软件包 node-v8.2.1.tar.gz 到/opt
cd /opt
tar xzvf node-v8.2.1.tar.gz
cd node-v8.2.1/
./configure && make && make install
这里耗时比较长估计20-30分钟

在这里插入图片描述

3.4.2 安装phantomjs（前端框架）

node1（192.168.133.10）
node2（192.168.133.20）

上传软件包 phantomjs-2.1.1-linux-x86_64.tar.bz2 到/opt目录下cd /opt
tar jxvf phantomjs-2.1.1-linux-x86_64.tar.bz2 -C /usr/local/src/
cd /usr/local/src/phantomjs-2.1.1-linux-x86_64/bin
cp phantomjs /usr/local/bin

在这里插入图片描述

3.4.3 安装elasticsearch-head（数据可视化工具）

node1（192.168.10.129）
node2（192.168.10.134）

上传软件包 elasticsearch-head.tar.gz 到/opt
cd /opt
tar zxvf elasticsearch-head.tar.gz -C /usr/local/src/
cd /usr/local/src/elasticsearch-head/
npm install

在这里插入图片描述

3.4.4 修改主配置文件

node1（192.168.10.129）
node2（192.168.10.134）

vim /etc/elasticsearch/elasticsearch.yml
......
#-------末尾;添加以下内容--------
http.cors.enabled: true
http.cors.allow-origin: "*"#-----------参数解释-----------------------------
http.cors.enabled: true				#开启跨域访问支持，默认为 false
http.cors.allow-origin: "*"			#指定跨域访问允许的域名地址为所有

systemctl restart elasticsearch.service

在这里插入图片描述

3.4.5 启动elasticsearch-head

node1（192.168.10.129）
node2（192.168.10.134）

必须在解压后的 elasticsearch-head 目录下启动服务，进程会读取该目录下的 gruntfile.js 文件，否则可能启动失败。
cd /usr/local/src/elasticsearch-head/
npm run start &> elasticsearch-head@0.0.0 start /usr/local/src/elasticsearch-head
> grunt serverRunning "connect:server" (connect) task
Waiting forever...
Started connect web server on http://localhost:9100elasticsearch-head 监听的端口是 9100
netstat -natp |grep 9100

在这里插入图片描述

3.4.6 使用elasticsearch-head插件查看集群状态

在本机上访问

http://192.168.10.129:9100
在Elasticsearch 后面的栏目中输入
http://192.168.10.129:9200http://192.168.10.134:9100
在Elasticsearch 后面的栏目中输入
http://192.168.10.134:9200

在这里插入图片描述

3.4.7 创建索引

node1（192.168.10.129）
创建索引为index-demo,类型为test

curl -XPUT 'localhost:9200/index-demo/test/1?pretty&pretty' -H 'content-Type: application/json' -d '{"user":"zhangsan","mesg":"hello world"}'

在这里插入图片描述

3.5 回到主机

打开浏览器输入地址，查看索引信息

http://192.168.10.129:9100

下图可以看见索引默认被分片5个，并且有一个副本
在这里插入图片描述
点击数据浏览–会发现在node1上创建的索引为index-demo,类型为test, 相关的信息

3.6 安装logstash

收集日志输出到elasticsearch中

3.6.1 安装Apahce服务（httpd）

apache（192.168.10.130）

yum -y install httpd
systemctl start httpd

在这里插入图片描述

3.6.2 安装Java环境

apache（192.168.10.130

java -version        ###如果没有装 安装yum -y install java

在这里插入图片描述

3.6.3 安装logstash

apache(192.168.10.130）

上传logstash-5.5.1.rpm到/opt目录下
cd /opt
rpm -ivh logstash-5.5.1.rpmsystemctl start logstash.service
systemctl enable logstash.service#建立logstash软连接
ln -s /usr/share/logstash/bin/logstash /usr/local/bin/

在这里插入图片描述

3.6.4 测试logstash命令

apache（192.168.133.30）
字段描述解释：
-f 通过这个选项可以指定logstash的配置文件，根据配置文件配置logstash
-e 后面跟着字符串该字符串可以被当做logstash的配置（如果是” ”,则默认使用stdin做为输入、stdout作为输出）
-t 测试配置文件是否正确，然后退出

定义输入和输出流：
输入采用标准输入，输出采用标准输出（类似管道）

使用rubydebug显示详细输出，codec为一种编解码器

logstash -e 'input { stdin{} } output { stdout{ codec=>rubydebug } }'

在这里插入图片描述

logstash -e 'input { stdin{} } output { elasticsearch { hosts=>["192.168.10.129:9200"] } }'

在这里插入图片描述

3.7 在主机上访问

查看索引信息

多出 logstash-日期
http://192.168.10.129:9100

在这里插入图片描述

3.8 在Apache主机上做对接配置

Logstash配置文件主要由三部分组成：input、output、filter（根据需要）

chmod o+r /var/log/messages
ll /var/log/messages

vim /etc/logstash/conf.d/system.conf

input {file{path => "/var/log/messages"type => "system"start_position => "beginning"}}
output {elasticsearch {hosts => ["192.168.133.10:9200"]index => "system-%{+YYYY.MM.dd}"}}

systemctl restart logstash.service

在这里插入图片描述

3.9主机上访问：

查看索引信息

多出 system-日期
http://192.168.10.129:9100

在这里插入图片描述

3.10 安装kibana

node1（192.168.10.10129）

上传kibana-5.5.1-x86_64.rpm 到/opt目录
cd /opt
rpm -ivh kibana-5.5.1-x86_64.rpmcd /etc/kibana/
cp kibana.yml kibana.yml.bak
vim kibana.yml


#2行；取消注释；kibana打开的端口（默认5601）
server.port: 5601
#7行；取消注释，修改；kibana侦听的地址
server.host: "0.0.0.0"
#21行；取消注释，修改；和elasticsearch建立联系
elasticsearch.url: "http://192.168.133.10:9200"
#30行;取消注释；在elasticsearch中添加.kibana索引
kibana.index: ".kibana"

在这里插入图片描述

开启kibana服务，并设置为开机自启

systemctl start kibana.service 
systemctl enable kibana.service

本机上访问：

192.168.10.129:5601

首次登录创建一个索引名字：system-* （这是对接系统日志文件）
然后点最下面的出面的create 按钮创建
然后点最左上角的Discover按钮会发现system-*信息
然后点下面的host旁边的add 会发现右面的图只有 Time 和host 选项了这个比较友好

3.11 对接Apache主机的Apache 日志文件（访问日志、错误日志）

apache（192.168.10.130）

cd /etc/logstash/conf.d/
vim apache_log.conf

input {file{path => "/etc/httpd/logs/access_log"type => "access"start_position => "beginning"}file{path => "/etc/httpd/logs/error_log"type => "error"start_position => "beginning"}
}
output {if [type] == "access" {elasticsearch {hosts => ["192.168.10.129:9200"]index => "apache_access-%{+YYYY.MM.dd}"}}if [type] == "error" {elasticsearch {hosts => ["192.168.10.129:9200"]index => "apache_error-%{+YYYY.MM.dd}"}}
}

在这里插入图片描述

/usr/share/logstash/bin/logstash -f apache_log.conf

在这里插入图片描述

3.11 本机上访问

打开输入 http://192.168.10.130，制造点访问记录
打开浏览器输入http://192.168.10.129:9100/ 查看索引信息
打开浏览器输入http://192.168.10.129:5601
点击左下角有个management选项—index patterns—create index pattern
分别创建apache_error-* 和 apache_access-* 的索引

四总结

ELK :日志分析系统
特点：分布式，零配置，自动发现
ELK组件：
Elasticsear索引型数据库（用于搜索引擎)
logstash：格式转换，获取日志，再格式转换，输出到数据库
kibana:对接页面，可对数据图标化，汇总，分析数据日志
日志处理步骤：
1.日志集中化管理：logstash的收集
2.将日志格式化(logstash)并输出到Elasticsearch：logstash输出，输出给es
3.对格式化后的数据进行索引和存储（es)
4.前端数据的展示(Kibana）

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！

标签：技术

上一篇 > ELK日志分析系统之ELK原理
下一篇 > 案例：ELK日志分析系统

Duilib中list控件支持ctrl和shif多行选中的实现

[ICML2015]Batch Normalization:Accelerating Deep Network Training by Reducing Internal Covariate Shif

win10系统微软输入法于eclipse ctrl+shif+f冲突间接处理办法

Codeforces Round #259 (Div. 2) B. Little Pony and Sort by Shif

读LDD3，内存映射与DMA--PAGE_SHIF…

VMware虚拟机安装XP【要先分区，再设置BOOT 启动CD，shif+上移】

更换iBus五笔的左与右Shif

sublime ctrl+shif+f 没用解决办法

idea 对 ctrl + z 的撤销是 ctrl + shif + z

计算机最早的设计师应用于,计算机应用基础选择题doc.doc

win10自带截图神器：Win+Shift+S

Python基础之文件目录操作

python简述目录_Python基础之文件目录操作(示例代码)

tp5 如何做数据采集

任务2-7(服务器字体+阿里巴巴矢量库)

html标签（1)：h1~h6,p,br,pre,hr

TI 电量计介绍与芯片选型指南

几款TI电源芯片简介

TI DSP芯片C2000系列读取FLASH数据

德州仪器(Ti)平台嵌入式开发基础

TI三相电机智能栅极驱动芯片特点分类

省选模拟（12.08） T3 圈圈圈圈圈圈圈圈

Hadoop生态圈技术栈（上）

大数据开发基础入门与项目实战（三）Hadoop核心及生态圈技术栈之6.Impala交互式查询

小猿圈之Linux下Mysql 操作命令

大数据Hadoop生态圈常用面试题

大数据开发基础入门与项目实战（三）Hadoop核心及生态圈技术栈之4.Hive DDL、DQL和数据操作

备战Noip2018模拟赛11（B组）T3 Monogatari 物语

【智能优化算法-圆圈搜索算法】基于圆圈搜索算法Circle Search Algorithm求解单目标优化问题附matlab代码

NYOJ 78 圈水池

递归问题跑道汽车绕圈问题 Python实现

Hadoop生态圈（三）：MapReduce

ELK_日志分析系统

文章目录

一.ELK日志分析系统

1.1 作用：

1.2 ELK组件

1.3 ELK工作原理展示图：

1.4 日志处理步骤

1.5 日志分析步骤：

1.6Elasticsearch

1.6.1 概述：

1.6.2 分片和副本

1.7分片的最大原因：

1.8 副本的主要原因

二 LogStash

2.1 概述

2.2 LogStash主要组件

2.3 主机分类

2.4 工作原理

2.5.Kibana概述

2.5.1 主要功能：提供展示页面

三 部署ELK

3.1 更改主机名

3.2 配置elasticsearch环境

3.3部署elasticsearch软件

3.3.1 安装elasticsearch—rpm包

3.3.2 加载系统服务

3.3.3 更改elasticsearch主配置文件

3.3.4 检验配置

3.3.5 创建数据存放路径并授权

3.3.6 查看节点信息

3.3.7 检验集群健康状态

3.3.8 查看集群状态

3.4 安装elasticsearch-head插件

3.4.1 编译安装node组件依赖包

3.4.2 安装phantomjs（前端框架）

3.4.3 安装elasticsearch-head（数据可视化工具）

3.4.4 修改主配置文件

3.4.5 启动elasticsearch-head

3.4.6 使用elasticsearch-head插件查看集群状态

3.4.7 创建索引

3.5 回到主机

3.6 安装logstash

3.6.1 安装Apahce服务（httpd）

3.6.2 安装Java环境

3.6.3 安装logstash

3.6.4 测试logstash命令

3.7 在主机上访问

3.8 在Apache主机上做对接配置

3.9主机上访问：

3.10 安装kibana

3.11 对接Apache主机的Apache 日志文件（访问日志、错误日志）

3.11 本机上访问

四 总结

相关文章

三部署ELK

四总结