前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >基础架构之日志管理平台搭建及java&net使用

基础架构之日志管理平台搭建及java&net使用

原创
作者头像
低代码布道者
修改2022-07-28 13:01:12
4600
修改2022-07-28 13:01:12
举报
文章被收录于专栏:架构师聊技术架构师聊技术

在现代化的软件开发流程中,日志显得非常的重要,不可能再零散的游离在各个项目中,等查看日志的时候再登录服务器去到特定的目录去查看,这显然很繁琐且效率低下,所有整合一套日志管理平台,也显得非常重要,这篇文章是日志管理平台搭建的第一篇,第二篇为告警及邮件通知

环境要求:CentOS Release: 7.5.1804

ELK版本:6.3.1 为方便下载我打包在百度网盘,点击可直接下载

  安装

  1. Elasticsearch 解压后上传到服务器,直接用rpm命令安装即可,如运行如下命令安装elasticsearch

代码语言:javascript
复制
rpm -ivh ./elasticsearch-6.3.1.rpm

,等命令执行完成后,输入

代码语言:javascript
复制
systemctl status elasticsearch.service

,可查看当前运行的状态,如图所示,状态为active 说明我们的elasticsearch 服务已经启动。

在浏览器输入http://192.168.1.215:9200,查看返回结果,说明elasticsearch服务已经成功运行。

  2. Logstash

  安装logstash比较简单,在命令行运行rpm -ivh ./logstash-6.3.1.rpm,等命令执行完成后,输入systemctl status logstash.service 查看服务状态如下图所示,即表示logstash服务已经运行。

  3. Kibana

  最后,我们安装kibana,在解压目录下运行

代码语言:javascript
复制
rpm -ivh ./kibana-6.3.1-x86_64.rpm

命令,等命令执行完后,输入

代码语言:javascript
复制
systemctl status kibana.service

,输出如下图所示,

  说明kibana服务已经启动,我们在浏览器输入http://192.168.1.215:5601来验证下,如果不出意外,应该显示如下所示

  1. 安装遇到的问题

    a) 如果遇到出现端口号被占中的情况,用netstat命令查看被哪个进程占中,杀掉即可,也可以在配置文件修改端口,ELK默认端口:Elasticsearch:9200,Kibana:5601

    b) 打开kibana,如果提示认证提示,则修改下kibana的配置文件,默认路径在/etc/kibana/kibana.yml,添加如下设置 xpack.security.enabled: false即可。

  日志接入

  1. Java

  a) 在添加logstash包

代码语言:javascript
复制
<dependency>   
    <groupId>net.logstash.logback</groupId>        
    <artifactId>logstash-logback-encoder</artifactId>   
    <version>5.1</version>
</dependency>

  b) 日志配置信息

代码语言:javascript
复制
<appender name="logstash" class="net.logstash.logback.appender.LogstashTcpSocketAppender">
    <destination>xxx.xxx.xxx.xxx:xxxx</destination>
    <queueSize>1048576</queueSize> <!-- encoder必须配置,有多种可选 -->
    <encoder charset="UTF-8" class="net.logstash.logback.encoder.LogstashEncoder">
        <customFields>{"appname":"${Application_Name}"}</customFields>
    </encoder>
    <connectionStrategy>
        <roundRobin>
            <connectionTTL>5 minutes</connectionTTL>
        </roundRobin>
    </connectionStrategy>
</appender>  

c) Root配置

代码语言:javascript
复制
<springProfile name="log">
    <root level="debug">
        <appender-ref ref="logstash" />
    </root>
</springProfile>

d) 在logstash的配置文件路径,默认为/etc/logstash/conf.d添加文件biz_es.conf,文件名称可以自己根据实际需求修改。

代码语言:javascript
复制
input {
        tcp {  
        ##host:port就是上面appender中的 destination,这里其实把logstash作为服务,开启9601端口接收logback发出的消息  
            host => "0.0.0.0"
        #模式选择为server  
            mode => "server" 
            port => xxxx
        ##格式json  
            codec => "json"
            type => "server"
        }  
    
    } 
    
    output {
            if[type]=="server"{
            elasticsearch {
            action => "index"
            #ES地址
                    hosts => "192.168.1.215"
            #指定索引名字,不适用默认的,用来区分各个项目
                    index => "%{[appname]}-%{+YYYY.MM.dd}"
            }
        }
    }

  e) 需要注意点

i. Logstash监听的端口号要与日志配置的端口号一致

ii. 防火墙要放开监听的端口,测试环境也可以把防火墙关闭

  2. Net

a) 添加 NLog.Targets.ElasticSearch 程序包

b) 编辑Nlog.config

代码语言:javascript
复制
<extensions>

          <add assembly="NLog.Targets.ElasticSearch"/>

        </extensions>

        <target xsi:type="ElasticSearch"

               name="ElasticLog"

               uri="http://192.168.1.215:9200"

               index="nlog-${date:format=yyyy.MM.dd}"

               documentType="logevent"

               includeAllProperties="true">

            <field name="private" layout="${assembly-version}" />

        </target>

      <rules>

      <logger name="Kibana" minlevel="Info" writeTo="ElasticLog"/>

</rules>

c) 添加日志

i. 帮助 Utils

代码语言:javascript
复制
public class LogHelper

    {

        private static Logger logger;

        private static string logRuleName = "Kibana";

        static LogHelper()

        {

            logger = LogManager.GetLogger(logRuleName);

            logger.LoggerReconfigured += logger_LoggerReconfigured;

        } 

        static void logger_LoggerReconfigured(object sender, System.EventArgs e)

        {

            logger = LogManager.GetLogger(logRuleName);

        }

        public static void WirtError(string message)

        {

            logger.Log(LogLevel.Error, message);

        }

 

        public static void WirtDebug(string message)

        {

            logger.Log(LogLevel.Debug, message);

        }

}

d) 记录日志

代码语言:javascript
复制
  LogHelper.WirtError("elk log info");

到这里elk搭建及java&net使用就完成了,下一篇主要介绍跟钉钉告警及邮件通知

 喜欢的朋友记得给个关注~

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  •  喜欢的朋友记得给个关注~
相关产品与服务
Elasticsearch Service
腾讯云 Elasticsearch Service(ES)是云端全托管海量数据检索分析服务,拥有高性能自研内核,集成X-Pack。ES 支持通过自治索引、存算分离、集群巡检等特性轻松管理集群,也支持免运维、自动弹性、按需使用的 Serverless 模式。使用 ES 您可以高效构建信息检索、日志分析、运维监控等服务,它独特的向量检索还可助您构建基于语义、图像的AI深度应用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档