之前日志服务用的较多的一般是ELK，EFK，graylog等，但这些日志由java编写，运行需要jdk，而且配置上面，还是有点复杂，比如需要对日志需要写grok将复杂的日志进行匹配，好在后面出了可以根据分隔符的方式进行日志的提取，也就是dissect插件，可以根据分隔符进行分割。
Promtail 是 Loki 官方支持的日志采集端，在需要采集日志的节点上运行采集代理，再统一发送到 Loki 进行处理。除了使用 Promtail，社区还有很多采集日志的组件，比如 fluentd、fluent bit 等，都是比较优秀的。
-print-config-stderr 通过 ./promtail 直接运行Promtail时能够快速输出配置 -log-config-reverse-order 配置通过反向输出，这样再Grafana中就能从上到下正确读取
事实上日志系统的开发团队靠谱的很，就是监控领域大名鼎鼎的Grafana Labs，为人所熟知的有开源数据可视化工具Grafana、监控系统Prometheus等等。
谈到日志收集，估计大家第一个想到的就是ELK这个比较成熟的方案，如果是特别针对云原生上的，那么将采集器稍微变一下为
上一篇文章简单入门了Loki日志平台的使用，今天又简单研究了如何在实践中使用Loki监控Spring Boot应用，特地分享给大家，让大家对这门新技术有更深的了解。
Promtail 是负责收集日志发送给 loki 的代理程序，Promtail 默认通过一个 config.yaml 文件进行配置，其中包含 Promtail 服务端信息、存储位置以及如何从文件中抓取日志等配置。
谈到日志收集，估计大家第一个想到的就是ELK这个比较成熟的方案，如果是特别针对云原生上的，那么将采集器稍微变一下为 Fluentd 组成 EFK 即可。以上两种方案其实没有本质上的区别，采集器换了换而已。最终存储、查询等等采用的还是 elasticsearch 这一套。
Kubernetes Events 可以被当做是日志来处理，格式也和日志很像，都包括：
LPG日志收集方案内存占用很少，经济且高效！它不像ELK日志系统那样为日志建立索引，而是为每个日志流设置一组标签。下面分别介绍下它的核心组件：
最近，在对公司容器云的日志方案进行设计的时候，发现主流的ELK或者EFK比较重，再加上现阶段对于ES复杂的搜索功能很多都用不上最终选择了Grafana开源的Loki日志系统，下面介绍下Loki的背景。
如果今天谈论到要部署一套日志系统，相信用户首先会想到的就是经典的ELK架构，或者现在被称为Elastic Stack。Elastic Stack架构为Elasticsearch + Logstash + Kibana + Beats的组合，其中，Beats负责日志的采集， Logstash负责做日志的聚合和处理，Elasticsearch作为日志的存储和搜索系统，Kibana作为可视化前端展示，整体架构如下图所示：
提及日志收集搜索框架，最常看到的解决方案就是 ELK。虽然现在有 Docker、k8s 帮我们简化了部署流程，但 ELK 对硬件的要求却很高。光是 Elasticsearch 官网就提及到需要 8 GB 内存以上的机器部署，可见占据的资源之多。为了能降本增效(穷~~~)，在网上看到了 Grafana 团队的日志框架: Loki。为此进行了深入的了解并应用在了一些项目上。
经典的ELK架构或现被称为Elastic Stack。Elastic Stack架构为Elasticsearch + Logstash + Kibana + Beats的组合：
Loki 是受Prometheus启发的水平可扩展、高可用、多租户日志聚合系统。它的设计非常经济高效且易于操作。它不索引日志的内容，而是索引每个日志流的一组标签。
日志功能是几乎所有程序或系统都必备的一个功能。该文章通过使用Loki+Grafana来实现日志记录与可视化查询。
对此不太熟悉的同学，可以先看这篇文章。可以看到，他是grafana家族的，界面支持上自然有保证。有了它，就不用在grafana和kibana之间来回切换了。
Loki开源日志解决方案已经开源有一段时间了，对标EFK/ELK，由于其轻量的设计，备受欢迎
随着Web应用规模的不断扩大，日志监控变得越来越重要。对于Nginx这样的Web服务器，实时监控和分析其日志信息可以帮助我们迅速发现问题、进行性能调优。本文将介绍如何使用Loki、Promtail和Grafana搭建一个高效的Nginx日志监控系统。
由于需求对日志进行监控，但是日志又很大，不能直接通过流的方式直接将text读取出来，可以使用grafana+loki+promtail搭建一个轻量级的日志系统，部署也简单方便。grafana提供可视化展示日志，然而loki是存储日志和处理查询，Promtail相当于loki的代理,收集日志发给loki。
前面我们介绍了 Loki 的实现架构以及 Promtail 的相关配置，本文我们将来介绍如何安装 Loki，并为 Traefik 的日志设置一个可视化的 Dashboard。
在此示例中，首先定义了一个ConfigMap对象，其中包含了Promtail的配置信息。然后，创建了一个Deployment对象，用于部署Loki的日志收集器。在Deployment对象中，指定了Promtail的镜像以及容器的端口号。此外，还指定了一个名为loki-agent-config的ConfigMap，用于存储Promtail的配置文件。在容器中，使用/etc/promtail-local-config.yaml路径挂载此ConfigMap。
Loki的第一个稳定版本于2019年11月19日发布 是 Grafana Labs 团队最新的开源项目 是一个水平可扩展，高可用性，多租户的日志聚合系统 Loki 特性
之前写过一篇 关于 Fluentd设计了一套日志架构用于实现 Kubernetes Pod 日志收集 文章，鉴于EFK已经不是现在的主流日志架构，研究了另外一套更加主流的日志系统 promtail + loki + Grafana 。
Grafana Loki 是一个支持水平扩展、高可用的聚合日志系统，跟其他的聚合日志系统不同，Loki只对日志的元数据-标签进行索引，日志数据会被压缩并存储在对象存储中，甚至可以存储在本地文件系统中，能够有效降低成本；多租户，Loki允许多个租户共享一个Loki实例，租户数据完全隔离；通过插件支持第三方agent；通过LogQL查询日志，类似与PromQL；告警，能跟Prometheus、Grafana的告警系统无缝集成；可以与Mimir、Tempo无缝集成，实现日志长期存储和链路跟踪。
最近在构建日志系统，对比了ELK还有LPG，发现LPG更加适合我们系统。奈何网上可靠的文章真是太少了，大多都是抄来抄去，整个过程躺过无数坑，特记录一下，回馈给读者。文章的所有配置文件都可以直接使用，并且配置做了优化，不会出现莫名其妙的问题。
Grafana Tempo是一个开源、易于使用的大规模分布式追踪后端.Tempo可以节约成本，仅需要对象存储即可运行，并且与Grafana，Prometheus和Loki深度集成.Tempo可以与任何开源跟踪协议一起使用,包括Jaeger、Zipkin和OpenTelemetry。它仅支持键/值查找，并且旨在与用于发现的日志和度量标准(示例性)协同工作.Tempo与Jaeger，Zipkin，OpenCensus和OpenTelemetry兼容.它以任何上述格式提取批处理，对其进行缓冲，然后将其写入GCS，S3或本地磁盘.因此，它强大、便宜且易于操作！
之前有简单的提到 loki 的部署和基本的一些使用，能支持用户最基本的在 k8s 中的部署和使用，非常简单。但是因为很多配置是默认的以至于并不满足需求，所以这里就来更新一下一些自定义配置的更改以便更好的支持当前的使用。下面举例包括：
描述：在上一篇文章中，已经将 Windows Server 业务服务器通过 syslog 的方式将系统日志转发到 远程 rsyslog 日志服务器中，但是由于 rsyslog windows agent 诸多限制（太贵了），所以最终放弃了此方法，从而继续查看是否有其他更好的收集Windows 事件日志的方法，通过搜索引擎，最终找到 Promtail 采集 Windows Server 事件日志的配置方法，这里不得不说到国内关于使用 Promtail 采集 Windows Server 事件日志的资料很少，大多只是只言片语，所以作者在实践中遇到的许多的坑，最终是靠着Loki官方日志、和issue以及不断的尝试，这里记录下以便后续有需求的童鞋，也希望各位看友能多多支持《#网络安全攻防实践》专栏，收获一定大于付出。
说起查看日志排查 bug 的方式，早些年的时候我都是直接登陆 linux 服务器直接查看，或者下载下来查看。
Grafna 技术栈推荐客户端，支持收集度量、日志、跟踪和持续性能分析的遥测数据，跟Prometheus、OpenTelemetry、Grafana开源生态系统完全兼容
LogQL在很大程度上受Prometheus的PromQL启发。但是，当涉及到在过滤海量日志时，我们就像面临在大海捞针一样复杂。LogQL是Loki特有的语句，在本文中，我们将提供LogQL的快速过滤器查询技巧，这些查询可以在几秒钟内过滤掉数TB的数据。
Loki是一个水平可扩展，高可用性，多租户的日志聚合系统，受到Prometheus的启发。它的设计非常经济高效且易于操作，因为它不会为日志内容编制索引，而是为每个日志流编制一组标签。官方介绍说到：Like Prometheus, but for logs.
Loki 是一个由Grafana Labs 开发的开源日志聚合系统，旨在为云原生架构提供高效的日志处理解决方案。
文章来源：https://c1n.cn/0wHvF 前言 在对公司容器云的日志方案进行设计的时候，发现主流的 ELK（Elasticsearch，Logstash，Kibana）或者 EFK（Elasticsearch，Filebeat or Fluentd，Kibana）比较重，再加上现阶段对于 ES 复杂的搜索功能很多都用不上，最终选择了 Grafana 开源的 Loki 日志系统。 下面我们来介绍下 Loki 的一些基本概念和架构，当然 EFK 作为业界成熟的日志聚合解决方案也是大家应该需要熟悉和掌握
在对公司容器云的日志方案进行设计的时候，发现主流的 ELK (Elasticsearch, Logstash, Kibana) 或者 EFK (Elasticsearch, Filebeat or Fluentd, Kibana) 比较重，再加上现阶段对于 ES 复杂的搜索功能很多都用不上，最终选择了 Grafana 开源的 Loki 日志系统。下面我们来介绍下 Loki 的一些基本概念和架构，当然 EFK 作为业界成熟的日志聚合解决方案也是大家应该需要熟悉和掌握的;
日志文件 kube-flannel/3.log 只是对 /data/docker/containers/***/***.log 文件的软链接，本质上还是 Docker 维护日志， k8s 对其引用而已。
Loki 的部署方式有很多种也非常灵活，有微服务部署模式，就是每个组件单独部署，也可以单进程部署。单模块部署相对比较复杂, 每个模块可以单独启动, 不同的模块间通过gRPC服务互相配合提供服务.
算 qps rate({job="message"} |="kubelet" [1m])
对于生产环境以及一个有追求的运维人员来说，哪怕是毫秒级别的宕机也是不能容忍的。对基础设施及应用进行适当的日志记录和监控非常有助于解决问题，还可以帮助优化成本和资源，以及帮助检测以后可能会发生的一些问题。前面我们介绍了使用 EFK 技术栈来收集和监控日志，本文我们将使用更加轻量级的 Grafana Loki 来实现日志的监控和报警，一般来说 Grafana Loki 包括3个主要的组件：Promtail、Loki 和 Grafana（简称 PLG），最为关键的是如果你熟悉使用 Prometheus 的话，对于 Loki 的使用也完全没问题，因为他们的使用方法基本一致的，如果是在 Kubernetes 集群中自动发现的还具有相同的 Label 标签。
在对公司容器云的日志方案进行设计的时候，发现主流的 ELK (Elasticsearch, Logstash, Kibana) 或者 EFK (Elasticsearch, Filebeat or Fluentd, Kibana) 比较重，再加上现阶段对于 ES 复杂的搜索功能很多都用不上，最终选择了 Grafana 开源的 Loki 日志系统。下面我们来介绍下 Loki 的一些基本概念和架构，当然 EFK 作为业界成熟的日志聚合解决方案也是大家应该需要熟悉和掌握的;
Loki 是受 Prometheus 启发的水平可扩展、高可用、多租户日志聚合系统。非常适合采集 Kubernetes Pod 的日志，关键 Loki 还易于操作且更加轻量级（相比 ELK/EFK/EFLK ）。
一、简 介 Loki是受Prometheus启发由Grafana Labs团队开源的水平可扩展，高度可用的多租户日志聚合系统。 开发语言: Google Go。它的设计具有很高的成本效益，并且易于操作。使用标签来作为索引，而不是对全文进行检索，也就是说，你通过这些标签既可以查询日志的内容也可以查询到监控的数据签，极大地降低了日志索引的存储。系统架构十分简单，由以下3个部分组成 ：
基于 centos7.9 docker-ce-20.10.18 kubelet-1.22.3-0 loki-2.3.0 promtail-2.3.0
Grafana Loki 是一个水平可扩展，高可用性，多租户的日志聚合系统，Loki 是基于仅索引有关日志元数据的想法而构建的：标签（就像 Prometheus 标签一样）。日志数据本身被压缩然后并存储在对象存储（例如 S3 或 GCS）的块中，甚至存储在本地文件系统上，轻量级的索引和高度压缩的块简化了操作，并显著降低了 Loki 的成本，Loki 更适合中小团队。由于 Loki 使用和 Prometheus 类似的标签概念，所以如果你熟悉 Prometheus 那么将很容易上手，也可以直接和 Grafana 集成，只需要添加 Loki 数据源就可以开始查询日志数据了。
领取专属 10元无门槛券
手把手带您无忧上云
