首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

如何在spark on yarn的环境中把log4j升级到log4j2

大家知道在spark on yarn中,spark的系统日志都是按照log4j的方式写到每一个node上面的container目录下的,如果要实时看一个application的日志,很麻烦!需要登录到executor所在的node上去tail一个文件,或者通过spark UI在界面上看,executor多了,这个就是麻烦事,要在不同的机器不同的目录中切换!我就在想能不能统一写到每个node的同一个地方,然后通过logstash发送到ELK里面去展示,这样在一个界面就可以看到所有application的日志了。但是这里就有1个很大的问题,log4j写的日志里面没有标明是哪个application写的日志,一大堆日志怎么知道谁是谁写的呢?所以日志里面一定要带进程号之类的标识,但是遗憾的log4j里面不支持,查了下要log4j2.9以后的版本(此时已经是log4j2了)才支持写processId,而spark3.0自带的是log4j-1.2.17.jar,所以升级的事情就来了!

03

大数据技术之_16_Scala学习_02_变量

第二章 变量2.1 变量是程序的基本组成单位2.2 Scala 变量的介绍2.2.1 概念2.2.2 Scala 变量使用的基本步骤2.3 Scala 变量的基本使用2.4 Scala 变量使用说明2.4.1 变量声明基本语法2.4.2 注意事项2.5 Scala 程序中 +号 的使用2.6 Scala 数据类型2.6.1 scala 数据类型体系一览图2.6.2 scala 数据类型列表2.7 整数类型2.7.1 基本介绍2.7.2 整型的类型2.7.3 整型的使用细节2.8 浮点类型2.8.1 基本介绍2.8.2 浮点型的分类2.8.3 浮点型使用细节2.9 字符类型:Char2.9.1 基本介绍2.9.2 案例演示2.9.3 字符类型使用细节2.9.4 字符类型本质探讨2.10 布尔类型:Boolean2.11 Unit 类型、Null 类型和 Nothing 类型2.11.1 基本说明2.11.2 使用细节和注意事项2.12 值类型转换2.12.1 值类型隐式转换2.12.2 自动类型转换细节说明2.12.3 高级隐式转换和隐式函数2.12.4 强制类型转换2.13 值类型转换练习题2.14 值类型和 String 类型的转换2.14.1 介绍2.14.2 基本数据类型转 String 类型2.14.3 String 类型转基本数据类型2.14.4 注意事项2.15 标识符的命名规范2.15.1 标识符概念2.15.2 标识符的命名规则(要记住)2.15.3 标识符举例说明2.15.4 标识符命名注意事项2.15.5 Scala 关键字2.16 作业01

04
领券