首页
学习
活动
专区
工具
TVP
发布
社区首页 >问答首页 >无法创建Extract - Tableau和Spark SQL

无法创建Extract - Tableau和Spark SQL
EN

Stack Overflow用户
提问于 2019-05-30 18:03:11
回答 3查看 856关注 0票数 2

我正在尝试从Spark SQL中提取信息。创建解压缩时显示以下错误消息。

EN

回答 3

Stack Overflow用户

发布于 2019-05-31 07:13:53

一种快速的解决方法是更改执行上下文中的设置。

spark.sql("set spark.driver.maxResultSize = 8G")

票数 0
EN

Stack Overflow用户

发布于 2019-06-04 05:46:36

对Spark SQL Thrift Server并不完全信服,而且要提炼出所有事实有点笨拙。Tableau使用收集到的结果给驱动程序,否则它如何通过Spark获得它们?

但是:

  • 在相关spark-thrift-sparkconf.conf文件中设置spark.driver.maxResultSize 0表示没有限制(驱动节点上的物理限制除外)。
  • 在相关spark-thrift-sparkconf.conf文件中设置spark.driver.maxResultSize 8G或更高版本。注意:并不是驱动程序上的所有内存都可以使用。
  • 或,假设是Hive Impala源,则对Tableau使用Impala连接,这样的问题就少了。

此外,并发用户的数量也可能是一个问题。因此,最后一点。

至少可以说很有趣。

票数 0
EN

Stack Overflow用户

发布于 2020-10-13 23:49:46

spark.driver.maxResultSize %0

这是您可以在高级群集设置中设置的设置。这将解决您的4 GB问题。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/56375979

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档