前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >RHadoop应用(1)

RHadoop应用(1)

作者头像
刀刀老高
发布2018-04-11 11:14:48
7210
发布2018-04-11 11:14:48
举报
文章被收录于专栏:奇点大数据

使用RHadoop结合hdfs存储R语言输入数据

1 R语言是著名的开源统计分析和绘图语言,但限于功能,只能进行单机存储数据和计算,通过hadoop的功能可以存储更多的数据和并行计算。

Rhadoop包括rhdfs、rmr2、rhbase等R语言插件,rhdfs插件可以加载hdfs文件系统,rmr2可以使用mapreduce做并行计算。

这里先使用rhdfs来简单介绍下r语言怎样读取较大的文件

2 首先安装rhdfs插件,由于R语言要调用java 因此需要安装rjava插件

install.packages("rJava")

其他插件需要时也可以安装,这里将后续需要的插件一起安装

install.packages("reshape2")

install.packages("Rcpp")

install.packages("iterators")

install.packages("itertools")

install.packages("digest")

install.packages("RJSONIO")

install.packages(“functional")

3 还需要配置好java的环境变量,这里以我测试环境为例,请根据实际情况修改

写入/home/hadoop/.bashrc

export JAVA_HOME=/jdk

export JRE_HOME=$JAVA_HOME/jre

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib

export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

export HADOOP_HOME=/home/hadoop/hadoop

export HADOOP_BIN=$HADOOP_HOME/bin

export HADOOP_SBIN=$HADOOP_HOME/sbin

export PATH=$PATH:$HADOOP_BIN:$HADOOP_SBIN

export HADOOP_CMD=$HADOOP_HOME/bin/hadoop

export HADOOP_STREAMING=$HADOOP_HOME/share/hadoop/tools/lib/hadoop-streaming-2.6.0.jar

4 之后下载最新版本的rhdfs插件包到本地

https://github.com/RevolutionAnalytics/RHadoop/wiki/Downloads

5 在本地安装rhdfs并加载

bash-3.2$ R CMD INSTALL /root/rhdfs_1.0.8.tar

6 好了,我们来构造一些简单数据测试吧

bash> seq 1 100 > average_100.txt

bash> hadoop dfs -mkdir /tmp

bash> hadoop dfs -copyFromLocal average_100.txt /tmp

7 在R语言环境中,执行下面的命令

library(rhdfs)

hdfs.init()

hdfs.cat("/tmp/average_100.txt")

[1] "0" "1" "2" .... "100"

8 通过简单的插件就可以进行统计和计算了,如计算平均值

mean(as.numerica(hdfs.cat("/tmp/average_100.txt")))

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2015-12-29,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 奇点 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档