展开

关键词

Apache Mahout的KMeans算法测试

Mahout是Hadoop中实现数据挖掘的包,虽然现在一般用spark mlib,但是为了做比较,想着将mahout的算法进行验证测试一下。。 Mahout的安装还是非常简单的,只需要解压一下再进行如下配置就可以。 # Mahout export MAHOUT_HOME=/home/ndscbigdata/soft/mahout-0.11.0 export PATH=MAHOUT_HOME/bin:PATH export CLASSPATH=CLASSPATH:MAHOUT_HOME/lib 由于算法有很多博客或者书籍上均有介绍,所以在此就不再重复。 而关于这个数据集mahout提供了三种算法,如下所示: 因此进行kmeans测试,其结果如图所示。

11630

Apache mahout中HMM(隐马尔可夫)算法的测试

(1)按照mahout官方文档给的例子进行测试。 (https://mahout.apache.org/users/classification/hidden-markov-models.html 首先定义一个输入: $ echo "0 1 2 2 =true $ $MAHOUT_HOME/bin/mahout baumwelch -i hmm-input -o hmm-model -nh 3 -no 4 -e .0001 -m 1000     最后返回预测的结果值: $ $MAHOUT_HOME/bin/mahout hmmpredict -m hmm-model -o hmm-predictions -l 10 轻松试验成功,搞定。 (2)进行mahout例子中的词性判断例子验证,其结果如图所示:

6020
  • 广告
    关闭

    90+款云产品免费体验

    提供包括云服务器,云数据库在内的90+款云计算产品。打造一站式的云产品试用服务,助力开发者和企业零门槛上云。

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    深入了解推荐引擎组件(基于Apache Mahout和Elasticsearch)

    其关键部分是基于Apache Mahout的协同过滤算法来建立和训练机器学习模型,以及基于Elasticsearch的搜索技术来简化推荐系统的开发。 什么是推荐? 共同出现(Co-Occurrence)是Apache Mahout可以计算被推荐物品显著性标识的基础。 模型输出指标分数的权重赋值和全文检索引擎背后的数学计算有着相似性。 来自Apache Mahout的物品相似度算法根据用户对电影的已有评分来创建电影推荐的标识符。这些标识符被添加到存储在Elasticsearch的对应电影文件里。 Mahout尤其关注物品是如何在用户历史记录中共同出现的。共同出现是Apache Mahout计算被推荐物品显著性标识的基础。假设Ted喜欢电影A、B和C,Carol喜欢电影A和B。 标识符矩阵 Mahout同时并行地运行多个MapReduce作业来计算物品的共同出现(Mahout 1.0运行在 Apache Spark之上)。

    80650

    mahout学习之推荐算法

    所有mahout对基于内容的推荐涉及很少。 为了解决上述问题,mahout的PearsonCorrelationSimilarity 方法引入了权重的概念,将Weighting.WEIGHTED作为第二个参数传递进去即可使得统计较多数量的物品时, 但是mahout中并没有具体的方法实现,因为当两个输入序列均值为0时,余弦相似度和皮尔逊距离归结为同一个计算过程。所以在协同过滤的时候直接使用皮尔逊相似度即可。 慢到mahout in action这本书是这么说的: Run it, and take a long coffee break. Turn in for the night. sort=created 《Mahout In Action》 http://blog.csdn.net/xidianliutingting/article/details/51916578

    93830

    mahout-0.7-cdh4.5.0安装

    1、下载mahout:http://archive.cloudera.com/cdh4/cdh/4/mahout-0.7-cdh4.6.0.tar.gz 2、解压:mahout-0.7-cdh4.5.0 .tar.gz 3、改名:mv mahout-0.7-cdh4.5.0 mahout 4、添加环境变量/tec/profile: export MAHOUT_HOME=/usr/local/mahout :$CLASSPATH:$MAHOUT_HOME/lib export PATH=$PATH:$MAHOUT_HOME/bin 5、验证: 5.1)、下载测试数据:wget http://archive.ics.uci.edu mkdir testdata 5.3)、上传文件:hadoop fs -put synthetic_control.data testdata 5.4)、运行程序:hadoop jar /usr/local/mahout /mahout-examples-0.5-job.jar org.apache.mahout.clustering.syntheticcontrol.kmeans.Job 由此可见,安装mahout的服务器必须先安装

    5610

    Mahout-Pearson correlation的实现

    计算公式: 并通过以下代码对Mahout in Action的结果进行了验证: 代码例如以下: ` package com.example.mahout; public

    4510

    如何使用Mahout在hadoop进行集群分析

    MahoutApache下的开源机器学习软件包,目前实现的机器学习算法主要包含有协同过滤/推荐引擎,聚类和分类三个部分。 Mahout某些部分的实现直接创建在Hadoop之上,这就使得其具有进行大数据 处理的能力,也是Mahout最大的优势所在。 这是Apache官网上的算法描述,简单来说就是基于划分的聚类算法,把n个对象分为k个簇,以使簇内具有较高的相似度。相似度的计算根据一个簇中对象的平均值来进行。 在Hadoop上实现运行。 3,运行 配置Mahout环境:在Apache官网下载Mahout的版本,我选择的是0.5。 在mahout目录下执行bin/mahout命令,检测系统是否安装成功。

    66750

    Hadoop集群中的Mahout-distribution-0.7安装与配置

    Hadoop集群中的Mahout-distribution-0.7安装与配置 系统配置: Ubuntu 12.04 hadoop-1.1.2 jdk1.6.0_45 Mahout是Hadoop的一种高级应用 运行Mahout需要提前安装好Hadoop,Mahout只在Hadoop集群的NameNode节点上安装一个即可,其他数据节点上不需要安装。 1、下载二进制解压安装。 到http://labs.renren.com/apache-mirror/mahout/0.7下载,我选择下载二进制包,直接解压及可。 5、mahout使用准备 a. -0.7/mahout-examples-0.7-job.jar org.apache.mahout.clustering.syntheticcontrol.kmeans.Job 6.查看结果 hadoop

    6410

    Hadoop2.3.0上部署Mahout0.10,并测试单机版与分布式版个性化推荐程序

    ; import org.apache.mahout.cf.taste.eval.IRStatistics; import org.apache.mahout.cf.taste.eval.RecommenderBuilder ; import org.apache.mahout.cf.taste.eval.RecommenderIRStatsEvaluator; import org.apache.mahout.cf.taste.impl.common.LongPrimitiveIterator ; import org.apache.mahout.cf.taste.impl.eval.GenericRecommenderIRStatsEvaluator; import org.apache.mahout.cf.taste.impl.model.file.FileDataModel ; import org.apache.mahout.cf.taste.model.DataModel; import org.apache.mahout.cf.taste.neighborhood.UserNeighborhood ; import org.apache.mahout.cf.taste.recommender.RecommendedItem; import org.apache.mahout.cf.taste.recommender.Recommender

    52360

    协同过滤推荐算法Java代码实现

    ;import org.apache.mahout.cf.taste.impl.model.file.*; import org.apache.mahout.cf.taste.impl.neighborhood .*; import org.apache.mahout.cf.taste.impl.recommender.*; import org.apache.mahout.cf.taste.impl.similarity .*; import org.apache.mahout.cf.taste.model.*; import org.apache.mahout.cf.taste.recommender.*; import ;import org.apache.mahout.cf.taste.model.DataModel;import org.apache.mahout.cf.taste.recommender.RecommendedItem ;import org.apache.mahout.cf.taste.recommender.Recommender;import org.apache.mahout.cf.taste.similarity.ItemSimilarity

    6K81

    商品搜索引擎—推荐系统设计

    目前,Mahout为DataModel提供了以下几种实现: org.apache.mahout.cf.taste.impl.model.GenericDataModel org.apache.mahout.cf.taste.impl.model.GenericBooleanPrefDataModel org.apache.mahout.cf.taste.impl.model.PlusAnonymousUserDataModel org.apache.mahout.cf.taste.impl.model.file.FileDataModel org.apache.mahout.cf.taste.impl.model.hbase.HBaseDataModel org.apache.mahout.cf.taste.impl.model.cassandra.CassandraDataModel org.apache.mahout.cf.taste.impl.model.mongodb.MongoDBDataModel org.apache.mahout.cf.taste.impl.model.jdbc.SQL92JDBCDataModel org.apache.mahout.cf.taste.impl.model.jdbc.MySQLJDBCDataModel org.apache.mahout.cf.taste.impl.model.jdbc.PostgreSQLJDBCDataModel

    10930

    Mahout0.9 打patch使其支持 Hadoop2.2.0

    引言 Mahout0.9之前的版本默认不支持Hadoop2.2.0以上版本,但很多情况下,由于集群环境的Hadoop已经是2.2.0以上版本,又必须使用Mahout,此时就需要编译源码,使得Mahout ,所以必定有前人已经栽好树了,我们可以在https://issues.apache.org/jira/browse/MAHOUT-1354 里看到4个升级patch,及patch的作者们的详细讨论过程。 步骤一:为Mahout源码打patch 到 http://archive.apache.org/dist/mahout/   或者 https://github.com/apache/mahout/releases 到 https://issues.apache.org/jira/browse/MAHOUT-1354 下载1329-3.patch,拷贝到服务器上。 到源码根目录下执行以下命令打patch: yarn@singletest:~/Mahout/mahout-distribution-0.9$ patch -p0 < ..

    8330

    推荐系统设计方法论

    目前,Mahout为DataModel提供了以下几种实现: org.apache.mahout.cf.taste.impl.model.GenericDataModel org.apache.mahout.cf.taste.impl.model.GenericBooleanPrefDataModel org.apache.mahout.cf.taste.impl.model.PlusAnonymousUserDataModel org.apache.mahout.cf.taste.impl.model.file.FileDataModel org.apache.mahout.cf.taste.impl.model.HBase.HBaseDataModel org.apache.mahout.cf.taste.impl.model.cassandra.CassandraDataModel org.apache.mahout.cf.taste.impl.model.mongodb.MongoDBDataModel org.apache.mahout.cf.taste.impl.model.jdbc.SQL92JDBCDataModel org.apache.mahout.cf.taste.impl.model.jdbc.MySQLJDBCDataModel org.apache.mahout.cf.taste.impl.model.jdbc.PostgreSQLJDBCDataModel

    1.1K80

    Hadoop家族学习路线图

    一句话产品介绍: Apache Hadoop: 是Apache开源组织的一个分布式计算开源框架,提供了一个分布式文件系统子项目(HDFS)和支持MapReduce分布式计算的软件架构。 Mahout:是基于Hadoop的机器学习和数据挖掘的一个分布式框架。 Mahout用MapReduce实现了部分数据挖掘算法,解决了并行挖掘的问题。 Apache Cassandra:是一套开源分布式NoSQL数据库系统。 Mahout学习路线图 用R解析Mahout用户推荐协同过滤算法(UserCF) RHadoop实践系列之三 R实现MapReduce的协同过滤算法 用Maven构建Mahout项目 Mahout推荐算法 API详解 从源代码剖析Mahout推荐引擎 Mahout分步式程序开发 基于物品的协同过滤ItemCF Mahout分步式程序开发 聚类Kmeans 用Mahout构建职位推荐引擎 Mahout构建图书推荐系统

    80180

    Hadoop家族学习路线图v

    主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa,新增加的项目包括  Mahout:是基于Hadoop的机器学习和数据挖掘的一个分布式框架。 Mahout用MapReduce实现了部分数据挖掘算法,解决了并行挖掘的问题。 Apache Cassandra:是一套开源分布式NoSQL数据库系统。 Mahout学习路线图 用R解析Mahout用户推荐协同过滤算法(UserCF) RHadoop实践系列之三 R实现MapReduce的协同过滤算法 用Maven构建Mahout项目 Mahout推荐算法 API详解 从源代码剖析Mahout推荐引擎 Mahout分步式程序开发 基于物品的协同过滤ItemCF Mahout分步式程序开发 聚类Kmeans 用Mahout构建职位推荐引擎 Sqoop Sqoop

    1.1K30

    用R解析Mahout用户推荐协同过滤算法(UserCF)

    ,并用R语言实现,与Mahout的结果进行对比。 Mahout是Hahoop家族用于机器学习的一个框架,包括三个主要部分,推荐,聚类,分类! 我在这里做的是推荐部分。 目录 Mahout的模型介绍 R语言模型实现 算法实现的原理–矩阵变换 算法总结 参考资料 1. Mahout的模型介绍 ? Mahout版本 <dependency> <groupId>org.apache.mahout</groupId> <artifactId>mahout-core</artifactId> <version 算法总结 我这里只是用R语言现实了Mahout的基于“用户的”,“欧氏距离”,“最近邻”的协同过滤算法。实现过程中发现,Mahout做各种算法时,都有自己的优化。

    700120

    【学习】Hadoop大数据学习线路图

    一句话产品介绍: Apache Hadoop: 是Apache开源组织的一个分布式计算开源框架,提供了一个分布式文件系统子项目(HDFS)和支持MapReduce分布式计算的软件架构。 Mahout:是基于Hadoop的机器学习和数据挖掘的一个分布式框架。 Mahout用MapReduce实现了部分数据挖掘算法,解决了并行挖掘的问题。 Apache Cassandra:是一套开源分布式NoSQL数据库系统。 Mahout学习路线图 用R解析Mahout用户推荐协同过滤算法(UserCF) RHadoop实践系列之三 R实现MapReduce的协同过滤算法 用Maven构建Mahout项目 Mahout推荐算法 API详解 从源代码剖析Mahout推荐引擎 Mahout分步式程序开发 基于物品的协同过滤ItemCF Mahout分步式程序开发 聚类Kmeans 用Mahout构建职位推荐引擎 Sqoop Sqoop

    73660

    数据挖掘系列(5)使用mahout做海量数据关联规则挖掘

    mahout本来是指一个骑在大象上的人)。 到Apache官网下载mahout8.0   解压 tar -zxvf mahout-distribution-0.8.tar.gz   移动 sudo mv tar mahout-distribution -0.8 /usr/local/mahout-8   配置 sudo gedit /etc/profile   输入以下内容: export MAHOUT_HOME=/usr/local/mahout- 输入mahout -version测试是否安装成功。 数据准备   到http://fimi.ua.ac.be/data/下载一个购物篮数据retail.dat。    一两分钟后执行完毕,生成的文件被序列化了,直接查看会是乱码,因此需要用mahout还原回来: mahout seqdumper -i /user/hadoop/patterns/fpgrowth/part-r

    42740

    优秀大数据GitHub项目一览

    1.Apache Mahout 我们可以使用Apache Mahout来快速创建高效扩展性又好的机器学习应用。 Apache Mahout支持一个叫做Samsara的数学环境,用户可以在Samsara中使用它提供的常见算法来开发自己的数学解决方案。 Samsara对于线性代数、数据结构和统计操作都有着很好的支持,而且可以通过Scala的Mahout扩展或Mahout库来进行定制。Samara对很多常见算法都进行了重写因此速度上有一定的提升。 Apache Mahout GitHub地址:https://github.com/apache/mahout 2.Apache Spark Apache Spark是一个为实时大数据分析所设计的开源数据处理引擎 Apache Spark GitHub地址:https://github.com/apache/spark 3.Apache Storm Apache Storm的设计针对的是流式数据,不过对于大数据的实时分析它也是很可靠的计算系统

    1.6K80

    优秀大数据GitHub项目一览

    1.Apache Mahout 我们可以使用Apache Mahout来快速创建高效扩展性又好的机器学习应用。 Apache Mahout支持一个叫做Samsara的数学环境,用户可以在Samsara中使用它提供的常见算法来开发自己的数学解决方案。 Samsara对于线性代数、数据结构和统计操作都有着很好的支持,而且可以通过Scala的Mahout扩展或Mahout库来进行定制。Samara对很多常见算法都进行了重写因此速度上有一定的提升。 Apache Mahout GitHub地址:https://github.com/apache/mahout 2.Apache Spark Apache Spark是一个为实时大数据分析所设计的开源数据处理引擎 Apache Spark GitHub地址:https://github.com/apache/spark 3.Apache Storm Apache Storm的设计针对的是流式数据,不过对于大数据的实时分析它也是很可靠的计算系统

    544100

    相关产品

    • 云数据仓库 for Apache Doris

      云数据仓库 for Apache Doris

      云数据仓库Doris(cdwdoris)为您提供基于 MPP(大规模并行处理)架构的云端Doris托管服务,拥有开箱即用,弹性易扩展等特性。云数据仓库 Doris支持标准SQL语言,兼容MySQL协议,支持对PB级的海量数据进行高并发查询,和亚秒级的快速分析,帮助您轻松应对多种ETL数据处理和业务探索场景。

    相关资讯

    热门标签

    活动推荐

    扫码关注腾讯云开发者

    领取腾讯云代金券