有奖捉虫:办公协同&微信生态&物联网文档专题 HOT

功能介绍

日志功能提供组件的运行日志采集、搜索及导出功能,支持当前集群核心服务日志和节点系统日志进行关键词搜索,可以在不登录节点的情况下快速查看服务关键日志。

操作步骤

1. 登录 EMR 控制台,在集群列表中单击对应的集群 ID/名称进入集群详情页。
2. 在集群详情页中选择集群监控 > 日志可根据当前集群、日志文件、节点 IP 和时间范围条件过滤,查看日志内容。

或者在集群详情页中选择集群服务>组件卡片>角色管理,查看角色列表,选择某一节点 IP 单击跳转,进入节点监控指标展示页,单击角色日志,可跳转日志搜索页面。

单击节点 IP,可跳转到对应节点状态页面。单击日志源,可跳转到对应节点监控指标展示页。 关键字说明:
支持关键字全文检索 。
支持特殊字符 - . * > < = ! () {} / 检索。
支持短语检索,例如:address=/ip:port
3. 在排查问题的时候,经常需要关注关键词的上下文日志,在日志搜索页单击查看上下文,进入日志上下文页面。


4. 支持筛选日志结果和源日志导出,导出日志可下载到本地。



日志搜索支持的服务类型

注意
当前仅支持30天日志搜索。
若集群未开启日志采集,如需开启日志采集,请联系您的专属售后。
仅部分服务默认开启审计日志采集,若集群需要开启审计日志采集,请联系您的专属售后支持。
组件
角色
日志
说明
HDFS
NameNode
/data/emr/hdfs/logs/hadoop-hadoop-namenode.log
NameNode 的运行时日志
NNAudit
/data/emr/hdfs/logs/nn-audit.log
NameNode 的审计日志
ZKFC
/data/emr/hdfs/logs/hadoop-hadoop-zkfc.log
ZKFC 的运行时日志
ZKFCAudit
/data/emr/hdfs/logs/SecurityAuth-zkfc-audit.log
ZKFC 的审计日志
DataNode
/data/emr/hdfs/logs/hadoop-hadoop-datanode.log
DataNode 的运行时日志
DNAudit
/data/emr/hdfs/logs/SecurityAuth-datanode-audit.log
DataNode 的审计日志
JournalNode
/data/emr/hdfs/logs/hadoop-hadoop-journalnode.log
JournalNode 的运行时日志
JNAudit
/data/emr/hdfs/logs/SecurityAuth-journalnode-audit.log 
JournalNode 的审计日志
DFSRouter
/data/emr/hdfs/logs/hadoop-hadoop-dfsrouter.log
DFSRouter 的运行时日志
YARN
ResourceManager
/data/emr/yarn/logs/yarn-hadoop-resourcemanager.log
ResourceManager 的运行时日志
RMAudit
/data/emr/yarn/logs/ rm-audit.log
ResourceManager 的审计日志
NodeManager
/data/emr/yarn/logs/yarn-hadoop-nodemanager.log
NodeManager 的运行时日志
NMAudit
/data/emr/yarn/logs/nm-audit.log
NodeManager 的审计日志
JobHistoryServer
/data/emr/yarn/logs/mapred-hadoop-historyserver.log
JobHistoryServer 的运行时日志
TimelineServer
/data/emr/yarn/logs/yarn-hadoop-timelineserver.log
TimelineServer 的运行时日志
HBase
HMaster
/data/emr/hbase/logs/hbase-hadoop-master.log
HMaster 的运行时日志
HMAudit
/data/emr/hbase/logs/SecurityAuth-hmaster-audit.log
HMaster 的审计日志
ThriftServer
/data/emr/hbase/logs/hbase-hadoop-thrift.log
ThriftServer 的运行时日志
RegionServer
/data/emr/hbase/logs/hbase-hadoop-regionserver.log
RegionServer 的运行时日志
RSAudit
/data/emr/hbase/logs/SecurityAuth-regionserver-audit.log
RegionServer 的审计日志
ClickHouse
ClickHouse-server
/data/clickhouse/clickhouse-server/logs/clickhouse-server.log
ClickHouse-server 的运行时日志
Druid
Broker
/data/emr/druid/var/log/druid/broker.log
Broker 的运行时日志
Coordinator
/data/emr/druid/var/log/druid/coordinator.log
Coordinator 的运行时日志
Router
/data/emr/druid/var/log/druid/router.log
Router 的运行时日志
Overload
/data/emr/druid/var/log/druid/overload.log
Overload 的运行时日志
Historical
/data/emr/druid/var/log/druid/historical.log
Historical 的运行时日志
MiddleManager
/data/emr/druid/var/log/druid/middleManager.log
MiddleManager 的运行时日志
Zookeeper
Zookeeper
/data/emr/zookeeper/logs/zookeeper-root-server.log
Zookeeper 的运行时日志
ZKAudit
/data/emr/zookeeper/logs/zookeeper-audit.log
Zookeeper 的审计日志
Hive
HiveServer2
/data/emr/hive/logs/hadoop-hive
HiveServer2 的运行时日志
HS2Audit
/data/emr/hive/logs/hadoop_hive_server2_audit
HiveServer2 的审计日志
HMSAudit
/data/emr/hive/logs/hadoop-hivemetastore
HiveMetaStore 的审计日志
KUDU
KuduMaster
/data/emr/kudu/logs/kudu-master.WARNING
KuduMaster 的运行时日志
KuduServer
/data/emr/kudu/logs/kudu-tserver.WARNING
KuduServer 的运行时日志
Alluxio
AlluxioMaster
/data/emr/alluxio/logs/master.log
AlluxioMaster 的运行时日志
AlluxioWorker
/data/emr/alluxio/logs/worker.log
AlluxioWorker 的运行时日志
Ranger
EmbeddedServer
/data/emr/ranger/logs/ranger-admin.log
EmbeddedServer 的运行时日志
CosRanger
CosRangerServer
/usr/local/service/cosranger/log/info.log
CosRanger 的运行时日志
Impala
Catalogd
/data/emr/impala/logs/catalogd.INFO
Catalogd 的运行时日志
Statestored
/data/emr/impala/logs/statestored.INFO
Statestored 的运行时日志
Impalad
/data/emr/impala/logs/impalad.INFO
Impalad 的运行时日志
Spark
HistoryServer
/data/emr/spark/logs/spark-hadoop.log
HistoryServer 的运行时日志
SparkSQLAudit
/data/emr/spark/logs/spark-audit.log
Spark 的审计日志
(EMR V2.7.0及以上 & EMR V3.4.0及以上)
Kylin
Kylin
/data/emr/kylin/logs/kylin.log
Kylin 的运行时日志
Zeppelin
ZeppelinServer
/data/emr/zepplin/logs/zeppelin-hadoop.log
ZeppelinServer 的运行时日志
Knox
Gateway
/data/emr/knox/logs/gateway.log
Gateway 的运行时日志
Doris
BrokerBootstrap
/data/emr/doris/broker/log/apache_hdfs_broker.log
BrokerBootstrap 的运行时日志
PaloFe
/data/emr/doris/fe/log/fe.log
PaloFe 的运行时日志
PaloBe
/data/emr/doris/be/log/be.INFO
PaloBe 的运行时日志
Kafka
Kafka
/user/local/service/kafka/logs/server.log
Kafka 的运行时日志
Kyuubi
KyuubiServer
/data/emr/kyuubi/logs/kyuubi.log /data/emr/kyuubi/logs/kyuubi-hadoop-org.apache.kyuubi.server.KyuubiServer-hostIp.out
KyuubiServer 的运行时日志
Trino
Coordinator
/data/emr/trino/logs/coordinator.log
Coordinator 的运行时日志(EMR V3.4.0及以上)
Worker
/data/emr/trino/logs/worker.log
Worker 的运行时日志
(EMR V3.4.0及以上)
Coordinator
/data/emr/trino/var/logs/coordinator.log
Coordinator 的运行时日志(EMR V2.7.0及以上)
Worker
/data/emr/trino/var/logs/worker.log
Worker 的运行时日志
(EMR V2.7.0及以上)
StarRocks
FE
/data/emr/starrocks/fe/log/fe.log
FE 的运行时日志
BE
/data/emr/starrocks/be/log/be.INFO
BE 的运行时日志
Broker
/data/emr/starrocks/broker/log/apache_hdfs_broker.log
Broker 的运行时日志
CN
/data/emr/starrocks/be/log/cn.INFO
CN 的运行时日志

服务支持最低日志级别

服务
默认采集的最低日志级别
Impala、Kudu
INFO
其他服务
WARN

最低日志级别查询规则

最低日志级别
可查询的日志级别
INFO
INFO、WARN、ERROR、FATAL
WARN
WARN、ERROR、FATAL
ERROR
ERROR、FATAL
FATAL
FATAL