Spark常见错误问题汇总

一.SparkSQL相关

• 在执行insert 语句时报错，堆栈信息为：FileSystem closed。常常出现在ThriftServer里面。
  • 原因：由于hadoop FileSystem.get 获得的FileSystem会从缓存加载，如果多线程一个线程closedFileSystem会导致该BUG
  • 解决方法：hdfs存在不从缓存加载的解决方式，在hdfs-site.xml 配置 fs.hdfs.impl.disable.cache=true即可
• 在执行Spark过程中抛出：Failed to bigdata010108:33381，caused by：java.nio.channels.unresolvedAdderssException
  • 原因：该原因是由于hosts未配置，导致不识别
  • 解决方法：修改相应的机器的host即可
• 在执行Sparksql操作orc类型的表时抛出：java.lang.IndexOutOfBoundsException 或者 java.lang.NullPointerException
  • 原因：分区或者表下存在空的orc文件。该BUG在Spark2.3.0之后才修复
  • 解决方法：规避解决。修改ORC的默认分割策略为：hive.exec.orc.split.strategy=BI进行解决。Orc的分split有3种策略（ETL、BI、HYBIRD），默认是HYBIRD(混合模式，根据文件大小和文件个数自动选择ETL还是BI模式)，BI模式是按照文件个数来分split
• Spark2.1.0不支持永久函数，这是由于Spark2.2.0之前不支持读取hdfs上面的jar包。
• Saprk-sql和ThriftServer使用时报错：Java.net.socketTimeOutException:read time out
  • 原因：是由于hivemetastore过于繁忙或者gc导致连接超时
  • 解决方法：spark-sql解决：hive.metastore.client.socket.timeout将该参数调大。ThriftServer解决办法：在获得一个Connection之前加上：DriverManager.setLoginTimeout(100)
• 操作snappy压缩的表时抛出：java.lang.RuntimeException: native snappy library not available: this version of libhadoop was built without snappy support.
  • 原因：是由于没有在java.library.path上加上snappy库
  • 解决方法：修改spark-default.conf配置文件加上：spark.executor.extraLibraryPath /data/Install/hadoop/lib/native 或者spark.executor.extraJavaOptions -Djava.library.path=/data/Install/hadoop/lib/native
• Spark-sql在执行时将一个很小的文件拆分成了20个task进行运行，导致运行速度太慢。
  • 原因：是由于HaddopRDD生成过程中partitions是会拿参数mapreduce.job.maps ,或mapred.map.tasks（20）和spark默认分区数(2)做最大值比较，所以导致默认为20
  • 解决方法：修改该参数就可以将task降下来。
• ThriftServer登录异常：javax.security.sasl.AuthenticationException: Error validating LDAP user
  • 原因：是由于密码错误或者LDAP服务异常
  • 解决方法：解决密码和验证问题
• 使用jdbc的方式连接到ThriftServer，可以执行类似与show tabls的等操作，但是不能执行select相关的操作：java.io.IOException: Failed to create local dir in /tmp/blockmgr-adb70127-0a28-4256-a205-c575acc74f9d/06.
  • 原因：用户很久没使用ThriftServer导致系统清理了该上级目录或者用户根本就对该目录没有写权限
  • 解决方法：重启ThriftServer和设置目录权限：spark.local.dir
• 在Spark SQL中运行的SQL语句过于复杂的话，会出现 java.lang.StackOverflowError 异常
  • 原因：这是因为程序运行的时候 Stack 大小大于 JVM 的设置大小
  • 解决方法：通过在启动 Spark-sql 的时候加上 --driver-java-options “-Xss10m” 选项解决这个问题
• INSERT INTO重复执行出现：Unable to move source hdfs://bigdata05/tmp/hive-hduser1101_hive_2017-09-11_14-50-56_038_2358196375683362770-82/-ext-10000/part-00000 to destination hdfs://bigdata05/user/hive
  • 原因：该问题是2.1.0的Bug，在Spark2.1.1中已经解决2.1.0。
  • 解决方法：2.1.0规避办法INSERT OVERWRITE不带分区重复执行不会出现问题
• 执行大数据量的join等操作时出现：1.Missing an output location for shuffle；2.Failed to connect to bigdata030015/100.103.131.13:38742; 3.FileNotFoundException……(not such file or directory)。4.Container killed on request. Exit code is 143
  • 原因：shuffle分为shuffle write和shuffle read两部分。shuffle write的分区数由上一阶段的RDD分区数控制，shuffle read的分区数则是由Spark提供的一些参数控制。shuffle write可以简单理解为类似于saveAsLocalDiskFile的操作，将计算的中间结果按某种规则临时放到各个executor所在的本地磁盘上。
    • shuffle read的时候数据的分区数则是由spark提供的一些参数控制。可以想到的是，如果这个参数值设置的很小，同时shuffle read的量很大，那么将会导致一个task需要处理的数据非常大。结果导致JVM crash（OOM），从而导致取shuffle数据失败，同时executor也丢失了，看到Failed to connect to host的错误，也就是executor lost的意思。有时候即使不会导致JVM crash也会造成长时间的gc
  • 解决方法：1. 调优sql。
    • 2.SparkSQL和DataFrame的join,group by等操作通过spark.sql.shuffle.partitions控制分区数，默认为200，根据shuffle的量以及计算的复杂度提高这个值。
    • 3.Rdd的join,groupBy,reduceByKey等操作，通过spark.default.parallelism控制shuffle read与reduce处理的分区数，设置大一点。
    • 4.通过提高executor的内存设置spark.executor.memory适当提高executor的memory值。
    • 5.判断join过程中是否存在数据倾斜的问题：可以参考链接：https://tech.meituan.com/spark-tuning-pro.html
• Sparksql使用过程中Executor端抛出：java.lang.OutOfMemoryError: GC overhead limit exceeded
  • 原因：这是由于大部分事件都在GC，导致OOM。
  • 解决方法：加大执行器内存，修改GC策略spark.executor.extraJavaOptions -XX:+UseG1GC
• hiveserver2和SparkThriftServer使用操作orc表的时候报错A用户无法访问B用户的目录。
  • 原因：这是由于orc 在进行Split过冲中会进行用户缓存。ORC在hive1.2.1时的BUG，在hive2.X和Spark2.3.X版本后进行了解决
  • 解决方法：暂时规避方法比较暴力，1、先使用超级用户进行第一次查询，导致缓存的用户为超级用户。2、设置hive.fetch.task.conversion=none不进行缓存
• spark-sql在使用过程中小数据量查询很慢，查看sparkUI显示每个Task处理都很快，但是都隔了3秒进行调度导致整体很慢。
  • 原因：这是由于数据本地性导致的，默认spark.locality.wait为3秒
  • 解决方法：设置该参数为0即可加快速度，只有在数据量较小的情况下才建议这样设置。

二.Spark core相关

• on yarn启动spark-sql 和spark-submit时出现：java.lang.NoClassDefFoundError: com/sun/jersey/api/client/config/ClientConfig
  • 原因：和yarn相关Jersey包冲突
  • 解决方法：配置上–conf spark.hadoop.yarn.timeline-service.enabled=false
• 在使用Spark过程中出现：java.io.IOException: No space left on device
  • 原因：一般是由于Spark的tmp目录满了导致
  • 解决方法：可以将该目录空间设置大点，支持按逗号分割多个目录：spark.local.dir
• 超出最大结果集：is bigger than spark.driver.maxResultSize (2.0GB)
  • 原因：spark.driver.maxResultSize默认配置为1G
  • 解决方法：调大该参数即可
• 常见OOM：java.lang.OutOfMemoryError: Java heap space
  • 原因：1、数据量太大，申请的Executor资源不足以支撑。2.单分区的数据量过大，和分区数过多导致执行task和job存储的信息过多导致Driver OutOfMemoryError
  • 解决方法：1、尽量不要使用collect操作。2、查看数据是否有倾斜，增加shuffle的并行度，加大Executor内存
• 由Executor的FullGC引起Executor lost，task失败，各种超时：Futures timed out after【120S】
  • 原因：一般是由于Executor处理数据量过大如倾斜导致，从而使Executor full gc导致时间超时，Executor 和 task 的lost
  • 解决方法：1、如果通过查看Executor的日志是full GC导致，适当调优SQL，加大Executor内存。2、如果没有fullGC考虑提高：spark.network.timeout
• jar包版本冲突时：java.lang.ClassNotFoundException: XXX
  • 原因：一般可能是用户jar和Spark jar冲突
  • 解决方法：1、最好和Spark相关的jar进行适配。2、如果不行可以使用参数：spark.driver.userClassPathFirst和spark.executor.userClassPathFirst 设置为true
• 进行shuffle抛出：Shuffle Fetch Failed: OOM
  • 原因：Shuffle fetch阶段开启的fetch数据量过大导致
  • 解决方法：1、加大Executor内存。2、将参数spark.reduce.maxSizeInFlight调小，默认48M
• shuffle报org.apache.spark.shuffle.FetchFailedException: Direct buffer memory
  • 原因：堆外内存不够导致，直接内存
  • 解决方法：增大JVM 参数-XX:MaxDirectMemorySize（如：spark.executor.extraJavaOptions = -XX:MaxDirectMemorySize=xxxm）
• 集群节点异常导致Spark job失败，如磁盘只读。
  • 原因：Spark 是一个高性能、容错的分布式计算框架，一旦它知道某个计算所在的机器出现问题会依据之前生成的 lineage 重新在这台机器上调度这个 Task，如果超过失败次数就会导致job失败。
  • 解决方法：Spark有黑名单机制，在超出一定次数的失败后不会往该节点或者Executor调度Task。设置相应Black参数：spark.blacklist.enabled=true

三.Pyspark相关

• driver python和Executor Python版本不一致问题
  • 原因：pyspark要求所有的Executor运行的python版本一致
  • 解决方法：指定python的运行路径：spark.pyspark.python /data/Install/Anaconda2Install/Anaconda3-5.1.0/bin/python 或者 env配置上：export PYSPARK_PYTHON=/data/Install/Anaconda2Install/Anaconda3-5.1.0/bin/python；export PYSPARK_DRIVER_PYTHON=/data/Install/Anaconda2Install/Anaconda3-5.1.0/bin/python
• Pyspark使用过程中出现：RDD时出现序列化pickle.load(obj)报错，EOFError。有时可以，在local也可以。
  • 原因：在on yarn时，机器上也有安装相关的Spark。导致包冲突
  • 解决方法：删除nodeManager上的Spark安装路径就可以解决
• 运行RDD操作时报Randomness of hash of string should be disabled via PYTHONHASHSEED mean in pyspark
  • 原因：这是由于各个Executor的Hash随机值不一样导致。
  • 解决方法：只需要指定各Executor的PYTHONHASHSEED环境变量即可如：–conf spark.executorEnv.PYTHONHASHSEED=321

四.Streaming相关

• 消费kafka时，第一个job读取了现有所有的消息，导致第一个Job处理过久甚至失败
  • 原因：auto.offset.reset设置为了earliest 从最早的offset开始进行消费，也没有设置spark.streaming.kafka.maxRatePerPartition参数
  • 解决方法：指定从之前开始消费的数据开始：设置offsetRange。并将参数设置为：auto.offset.reset=latest 设置Spark每个分区的速率。
• 尽量使用高性能算子
  • 使用reduceByKey/aggregateByKey替代groupByKey
  • 使用mapPartitions替代普通map
  • 使用foreachPartitions替代foreach
  • 使用filter之后进行coalesce操作
  • 使用repartitionAndSortWithinPartitions替代repartition与sort类操作
• Streaming如果存在多个Batch延迟时，消费不过来。有时会报出：Hbase相关的异常如：RegionTooBusyException
  • 原因：Streaming在进行处理时如果单个Batch读取的数据多，会导致计算延迟甚至导致存储组件性能压力
  • 解决方法：1、如果是计算延迟试着调整读取速率如：spark.streaming.kafka.maxRatePerPartition参数 2、调优存储组件的性能 3、开启Spark的反压机制：spark.streaming.backpressure.enabled，该参数会自动调优读取速率。但是如果设置了spark.streaming.receiver.maxRate 或 spark.streaming.kafka.maxRatePerPartition，那么最后到底接收多少数据取决于三者的最小值
• 消费kafka时，读取消息报错：OffsetOutOfRangeException
  • 原因：读取的offsetRange超出了Kafka的消息范围，如果是小于也就是kafka保存的消息已经被处理掉了（log.retention.hours）。或者超出Kafka现有的offset
  • 解决方法：在读取offset时先进行校正，拿到offset的earliestOffset 和lastestOffset
• Kafka抖动导致No leader found
  • kafka变更或者其他原因导致
  • 解决方法：设置 spark.streaming.kafka.maxRetries 大于1

未完待续。