首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Loki中的标签简明指南(译)

Loki中的标签简明指南(译)

作者头像
云原生小白
发布2021-05-13 10:08:25
2K0
发布2021-05-13 10:08:25
举报
文章被收录于专栏:LokiLoki

写在译前:

最近很多同学的Loki在上线过程中经常遇见丢日志的情况,一查Loki日志的发现是日志流的时序问题导致的。这也从侧方面反映出大家对Loki的日志流和标签之间的关系还是明确清楚。几个月前,偶然看见博客上原作者对Loki标签有过简明指南,深感有责任翻译给大家,用于理解这部分概念。由于原文写于Loki1.x时代,译文对于部分于差异的部分进行了相关删减,如小伙伴们要阅读原文,点击文末【阅读原文】即可

译文

作为Loki的用户或操作员,我们的目标应该是使用尽可能少的标签来存储你的日志。

这意味着,更少的标签带来更小的索引,从而导致更好的性能再重复一遍更少的标签=更好的性能

这可能听起来有悖直觉。大部分数据库的管理经验告诉我们,如果你想让查询更加快速,我们通常通过需要建立更多的索引。但是,Loki是以完全相反的方式构建和优化的。我们围绕Loki的设计初衷是为了保持运营成本和复杂性低,这是通过保持一个非常小的索引和利用硬件能力和并行化运算来实现的。

因此,作为 Loki 的用户或操作者,我们在添加标签之前一定要三思而行

我举个例子:

ts=2020-08-25T16:55:42.986960888Z caller=spanlogger.go:53 org_id=29 traceID=2612c3ff044b7d02 method=Store.lookupIdsByMetricNameMatcher level=debug matcher="pod="loki-canary-25f2k/"" queries=16

我们应该通过TraceID查询所有日志?

你可能会想,"我应该提取traceID作为标签",然后我可以这样查询。

{cluster="ops-cluster-1",namespace="loki-dev", traceID=”2612c3ff044b7d02”}

千万不要这样做! 我们要避免将日志中的内容提取成标签!如果你想在你的日志中找到高基的数据,可以使用下面这样的过滤表达式。

{cluster="OPS-cluster-1",namespace="loki-dev"} |= "traceID=2612c3ff044b7d02"

但是如果标签是一个较低的基数怎么办?如果把日志级别提取到标签中,而我们的日志级别只有五个值,怎么办?

{cluster="OPS-cluster-1",namespace="loki-dev", level="debug"}

在这里要小心!记住标签对索引和存储有多重的, 增加一个标签,那么对Loki的索引和存储有倍增的效应。一开始是我们是一个日志流,现在变成了多达五个流(按照日志级别)。然后我们考虑是否添加另一个标签?但是不幸的是,即使它只有几个值,事情也会很快失控。

相反,我们应该按照过滤表达式如下编写LogQL语法:

{cluster="OPS-cluster-1",namespace="loki-dev"} |= "level=debug" |= "status=200" |= "path=/api/v1/query"

是否可以将日志内容提取为标签?

是的,我们可以这么做,不过在这样做之前应该仔细考虑下,新增的标签是否是用于描述日志,以帮助你缩小搜索范围,如果是那你应当慎重。或者说,我们在Loki使用标签,主要是它们描述了我们的应用运行在各种环境、服务器等物理的拓扑结构,通过他们来描述日志的来源。

如果当我们的程序函数在发送日志时,得到了out of order的错误,是否只能在标签中包含一个请求ID或调用ID?

这是Loki目前一个艰难的用例,我们正在努力消除对有序条目的限制,但这是一个棘手的问题。目前,这种环境将需要对你的代码的并行性进行限制。或者可以采取另一种变通方法,即把你的程序日志发送到一个可以做提取时间戳的服务上做好聚合后再发送给Loki。

这是Loki需要改进的地方,我们正在积极努力。

总结

Loki利用水平缩放和查询器的蛮力来查找数据。这和完全索引的解决方案一样快吗?不,它可能不会! 但它的运行(其实非常快)却容易得多!让我们看看一个从Grafana Lab上Loki集群的一些实际数据。在过去的七天里,它摄入了14TB的数据。该时间段对应的索引使用量约为500MB。14TB日志的索引可以装进一个树莓派的内存中。

这就是为什么我们注重保持标签集小的原因。也许你的标签只能将搜索范围缩小到100GB的日志数据。

不用担心! 运行20个查询器,它们可以以30GB/s的速度并行搜索这100GB的数据,这比维护一个14TB的索引要便宜得多,因为Loki可以告诉你到底在哪里查找,特别是当你考虑到你可以在查询完成后将查询器关闭,从成本上来看它非常划算!

最后,再一次重申,更少的标签 = 更好的性能。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2021-03-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 云原生小白 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 译文
    • 总结
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档