首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >Spark with Java - Error:无法从JAR加载主类

Spark with Java - Error:无法从JAR加载主类
EN

Stack Overflow用户
提问于 2017-06-23 02:46:29
回答 1查看 2.8K关注 0票数 1

我正在尝试spark中的一个简单的电影推荐机器学习程序。Spark版本:2.1.1 Java版本:java 8 Scala版本: Scala代码运行器版本2.11.7环境: windows 7

运行这些命令来启动主从机和从从机

代码语言:javascript
运行
复制
//start master
spark-class org.apache.spark.deploy.master.Master

//start worker
spark-class org.apache.spark.deploy.worker.Worker spark://valid ip:7077

我正在尝试一个非常简单的电影推荐代码:http://blogs.quovantis.com/recommendation-engine-using-apache-spark/

我已经更新了代码以:

代码语言:javascript
运行
复制
SparkConf conf = new SparkConf().setAppName("Collaborative Filtering Example").setMaster("spark://valid ip:7077");
conf.setJars(new String[] {"C:\\Spark2.1.1\\spark-2.1.1-bin-hadoop2.7\\jars\\spark-mllib_2.11-2.1.1.jar"});

我不能通过运行mvn clean install的intelliJ来运行它,并且将jar文件复制到文件夹也不起作用。我用来运行的命令:

代码语言:javascript
运行
复制
bin\spark-submit --verbose –-jars jars\spark-mllib_2.11-2.1.1.jar –-class “com.abc.enterprise.RecommendationEngine” –-master spark://valid ip:7077 C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\spark-mllib-example\spark-poc-1.0-SNAPSHOT.jar C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\spark-mllib-example\ratings.csv C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\spark-mllib-example\movies.csv 10

我看到的错误是:

代码语言:javascript
运行
复制
C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7>bin\spark-submit --verbose --class "com.sandc.enterprise.RecommendationEngine" --master spark://10.64.98.101:7077 C:\Spark2.1.1\spark-2.1.1-
bin-hadoop2.7\spark-mllib-example\spark-poc-1.0-SNAPSHOT.jar C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\spark-mllib-example\ratings.csv C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\spark-m
llib-example\movies.csv 10
Using properties file: C:\Spark2.1.1\spark-2.1.1-bin-hadoop2.7\bin\..\conf\spark-defaults.conf
Adding default property: spark.serializer=org.apache.spark.serializer.KryoSerializer
Adding default property: spark.executor.extraJavaOptions=-XX:+PrintGCDetails -Dkey=value -Dnumbers="one two three"
Adding default property: spark.eventLog.enabled=true
Adding default property: spark.driver.memory=5g
Adding default property: spark.master=spark://valid ip:7077
Error: Cannot load main class from JAR file:/C:/Spark2.1.1/spark-2.1.1-bin-hadoop2.7/û-class
Run with --help for usage help or --verbose for debug output

如果我给出--jar命令,它会给出错误:

代码语言:javascript
运行
复制
Error: Cannot load main class from JAR file:/C:/Spark2.1.1/spark-2.1.1-bin-hadoop2.7/û-jars

你知道我怎么把这份工作提交给spark吗?

EN

回答 1

Stack Overflow用户

发布于 2017-06-23 04:12:00

您的Jar构建正确吗?此外,您也不需要为--class选项值添加双引号。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/44707173

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档