首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >星火流示例不适用于我:网络字数(也许数据没有被流)

星火流示例不适用于我:网络字数(也许数据没有被流)
EN

Stack Overflow用户
提问于 2015-07-23 05:55:37
回答 3查看 1.8K关注 0票数 3
  1. 刚开始的师傅和工人
  2. 启动控制台并输入

nc -lk 9999

  1. Ran网络字数算例

./bin/run-示例streaming.NetworkWordCount localhost 9999

  1. 写进

“你好世界你好”

netcat控制台。

  1. 但是我运行程序的控制台没有显示计算出来的数据(可能是数据没有流),当我停止程序时,它计算。

你好,2世界,1

EN

回答 3

Stack Overflow用户

发布于 2015-12-13 09:25:51

我也面临着同样的问题,上周末为了让这个简单的流示例发挥作用,我花了很多时间。最后,我能够成功地执行NetworkWorkCount程序。我用的是火花1.5.2。和Ubuntu_14系统。

要解决这个问题,有多种方法,您可以使用其中之一:

  1. 在创建/examples/src/main/scala/org/apache/spark/examples/streaming/),变量时,需要更新NetworkWorkCount.scala的代码(在NetworkWorkCount.scala中添加setMaster("local2"),如下所示)。 新SparkConf().setMaster("local2").setAppName("NetworkWordCount")

这种方法的问题是,您必须以某种方式编译这个更新的代码,以便使我们的修改有效,这可能是刚刚开始学习火花并尝试运行这个简单示例的人的另一个问题。对他们来说,最简单的方法是在下面的选项。

  1. 最简单的解决方案是将主变量设置为local2,如下所示: a.更改为您的/conf目录的SPARK_HOME b.使用提供的模板创建火花-env.sh: cp火花-env.sh.Template火花-env.sh 打开火花-env.sh并在其中设置以下配置: MASTER=local2
  2. 现在打开第一个终端并启动netcat实用程序 nc -lk 9999
  3. 打开第二个终端并执行NetworkWordCount程序 ./bin/run-示例streaming.NetworkWordCount localhost 9999

它将开始显示连续流如下:

代码语言:javascript
运行
复制
-------------------------------------------
Time: 1450077999000 ms
-------------------------------------------
(are,12)
(am,6)
(how,6)
(rashmit,6)
(apache,6)
(hello,5)
(spark,5)
(you,12)
(i,6)
(sparkhello,1)
...

-------------------------------------------
Time: 1450078000000 ms
-------------------------------------------
(are,2)
(am,1)
(how,1)
(rashmit,1)
(apache,1)
(hello,1)
票数 6
EN

Stack Overflow用户

发布于 2017-06-22 17:45:46

这应该能行

代码语言:javascript
运行
复制
./bin/run-example --master local[4] streaming.NetworkWordCount localhost 9999
票数 0
EN

Stack Overflow用户

发布于 2016-11-06 15:49:51

我们不需要任何代码更改或配置更改来运行此示例。在虚拟机中运行此示例时,我遇到了这个问题。当我们运行与主机部分相同的程序时,不会出现此问题。感谢Rashmit Rathod提供有关这个问题的线索。

解决方案是添加“--主local2”作为运行示例命令行的一部分,如下所示

代码语言:javascript
运行
复制
./bin/run-example --master local[2] org.apache.spark.examples.streaming.NetworkWordCount localhost 9999
票数 -1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/31579204

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档