任何对在Apache Livy中实现容错有一些见解的人。例如,Livy服务器出现故障,我们如何实现HA。
发布于 2019-12-30 20:53:12
实际上,由于这个bug,在负载均衡器后面使用多个Livy服务器现在不起作用:https://issues.apache.org/jira/browse/LIVY-541
相比之下,对于需要高可用性的部署,Livy支持使用Zookeeper进行会话恢复,从而确保在Livy服务器发生故障时Spark集群仍然可用。重新启动后,Livy服务器可以连接到现有会话并回滚到失败前的状态。
发布于 2020-05-21 06:14:57
如果您希望Livy会话永久重启,那么只需在livy.conf中设置这些属性
livy.server.recovery.mode = recovery
livy.server.recovery.state-store = filesystem
livy.server.recovery.state-store.url = file:///home/livy您也可以使用hdfs://进行存储。
https://stackoverflow.com/questions/49880449
复制相似问题