首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >如何计算hdfs URI - java.io.IOException:不完整的HDFS URI,没有主机

如何计算hdfs URI - java.io.IOException:不完整的HDFS URI,没有主机
EN

Stack Overflow用户
提问于 2020-05-26 13:39:59
回答 1查看 722关注 0票数 3

如何计算出我的hdfs dfs命令连接到的URI?

是否有存储URI的配置文件或任何可用于显示它的命令?

我研究了FileSystemShelldfsadmin文档的文档,但没有成功。(而且,我无法访问大多数dfsadmin命令。)

当我用hdfs:///user/myUserName/...调用命令时,它会抛出异常:

代码语言:javascript
运行
复制
Exception in thread "main" java.io.IOException: Incomplete HDFS URI, no host: hdfs:///user/myUserName/test.avro
        at org.apache.hadoop.hdfs.DistributedFileSystem.initialize(DistributedFileSystem.java:136)
        at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2591)
        at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:89)
        at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2625)
        at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2607)
        at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:368)
        at org.apache.hadoop.fs.Path.getFileSystem(Path.java:296)
        at org.apache.avro.mapred.FsInput.<init>(FsInput.java:38)
        at org.apache.avro.tool.Util.openSeekableFromFS(Util.java:110)
        at org.apache.avro.tool.DataFileGetSchemaTool.run(DataFileGetSchemaTool.java:47)
        at org.apache.avro.tool.Main.run(Main.java:87)
        at org.apache.avro.tool.Main.main(Main.java:76)

hdfs dfs -ls这样的简单命令运行良好。

使用Hadoop3.1.0。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2020-05-26 14:14:43

如果您能够访问文件core-site.xml,那么您可以查找分配给属性fs.defaultFS的值

代码语言:javascript
运行
复制
$ grep -A 2 defaultFS /etc/hadoop/conf/core-site.xml
    <name>fs.defaultFS</name>
    <value>hdfs://bigdataserver-2.internal.cloudapp.net:8020</value>
  </property>

注意:我使用Cloudera,core-site.xml是我获得细节的地方。对于Hadoop,您可能拥有core-default.xml

看看这个:https://hadoop.apache.org/docs/r2.8.5/hadoop-project-dist/hadoop-common/core-default.xml

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/62023473

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档