腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
0
回答
在
新
数据
上
保存
和
重用
spark
mllib
LinearRegression
模型
、
、
、
我有一个基于历史
数据
的
LinearRegression
模型
,现在我正尝试
在
新
数据
上
重用
相同的
模型
来进行预测。我知道我们可以分别使用model.save
和
LinearRegression
.load方法
保存
和加载
模型
,但是,我无法找到一种方法来将
新
数据
传递到加载的
模型
中进行预测。创建和训练
模型
的代
浏览 0
提问于2017-06-05
得票数 2
回答已采纳
1
回答
ParamGridBuilder in PySpark不适用于LinearRegressionSGD
、
、
、
、
我正在试图找出为什么LinearRegressionWithSGD不适用于
Spark
的ParamGridBuilder。来自星火的文件:paramGrid = ParamGridBuilder()\.addGrid(lr.elasticNetParam, [0.0, 0.5, 1.0])\但是,将
LinearRegression
浏览 2
提问于2017-10-28
得票数 0
回答已采纳
1
回答
使测试
数据
与训练
数据
在
特征选择后的特征相同
、
、
、
、
),(5,[0,2,4],[1,1,2]),(2,[1],[2])]PS:当我想让测试
数据
与功能选择的火车
数据
相同时
浏览 2
提问于2016-03-09
得票数 2
回答已采纳
1
回答
具有单个
数据
记录的
Spark
MLlib
1.6预测
模型
的可扩展调用
、
、
、
我有一个
在
Spark
1.6中内置的预测
模型
(Logistic回归),它已经
保存
到磁盘上,以便以后与
新
数据
记录一起
重用
。我想用多个客户端调用它,每个客户端传入一个
数据
记录。似乎使用
Spark
作业来运行单个记录会有太多的开销,并且伸缩性不是很好(每次调用只会传入一组18个值)。用于加载
保存
的
模型
的
Spark
需要
MLlib
上下文,所以我正在寻找如何以可伸缩的方式实现这
浏览 15
提问于2016-09-07
得票数 1
1
回答
火花负荷
模型
与持续训练
、
、
、
Scala
和
Spark
2.0来训练
模型
.setMaxIter(num_iter) .setStandardization(data).select("prediction") 现在我想继续用
新
的
数据
来训练
模型
,所以我
保存
了
模型
并加载它来继续培训。当我加载
LinearRegression
浏览 0
提问于2016-09-01
得票数 9
2
回答
LabeledPoint
在
pyspark.
mllib
中的类型转换误差,用于pyspark.ml中的线性回归
模型
、
但是,当
模型
适合时,我得到了最后一行的错误消息: org.apache.
spark
.
mllib
.linalg.VectorUDT@f71b0bce.:U‘IllegalArgumentException:列特性必须是org.apache.
spark
.ml.linalg.VectorUDT@3bfc3ba7类型,但实际
上
是org.apache.
spark
.ml.linalg.VectorUDTpyspark.ml中有LabeledPoint
在
pyspark.
ml
浏览 5
提问于2017-02-14
得票数 8
回答已采纳
4
回答
如何加载PMML
模型
?
、
、
、
我正在按照的说明创建K均值
模型
。我
在
努力并显示为: org.apache.hadoop.mapred.InvalidInputException
浏览 4
提问于2016-06-15
得票数 7
2
回答
如何将ML VectorUDT要素从.
mllib
类型转换为.ml类型
、
在
2.0.0版本中使用pySpark ML对于一个线性回归的简单示例,我
在
新
的ML库中得到一个错误。features"])from pyspark.ml.regression import
LinearRegression
lr=
LinearRegression
()
和
错误: IllegalArgumentEx
浏览 1
提问于2016-08-11
得票数 8
1
回答
用于预测分析的Logistic回归方法
、
、
、
、
我是火花,大
数据
和
scala的初学者,我试图用一个样本
数据
集
在
星火中建立一个预测
模型
。我想要使用pySpark,但是当前
mllib
对于pyspark有限制,因为它不进行
保存
和加载。0,24000,1,1,1,0,0,26,0,0,1,1,0,0,0,0,75000,1,1,1,1,1,0,15,1,0,1,1,1,1,0,0 基本
上
,这些
数据
有助于根据所有给定参数预测用户是否购买此杂志如何将这些
数据
转换为<e
浏览 3
提问于2015-07-06
得票数 2
3
回答
如何用线性回归
模型
进行预测?
、
、
、
我目前正在从事一个线性回归项目,在这个项目中,我需要收集
数据
,将其拟合到一个
模型
中,然后根据测试
数据
进行预测。+-----+------++-----+------+| 6000|673|| 8000| 678|+-----+------+ 我
浏览 8
提问于2017-06-27
得票数 3
回答已采纳
2
回答
使用管道基于分区
MLlib
创建多个星火DataFrame
模型
、
、
、
我创建了一个
MLlib
管道来构建一个线性回归
模型
,当我为单个locationID提供
数据
时,它可以工作。现在我想为每个“locationID”创建许多
模型
(生产中可能有几千个locationID)。我想为每个
模型
保存
模型
系数。我的管道定义如下:import org.apache.
浏览 0
提问于2018-04-12
得票数 4
回答已采纳
1
回答
分类字段的一致索引
和
分类
、
、
假设我有以下Scala代码: .fit(df)现在,假设我创建了一个使用这个索引器的org.apache.
spark
.
mllib
.tree.model.DecisionTreeModel,并将
浏览 4
提问于2017-05-08
得票数 0
回答已采纳
1
回答
可以使用
Spark
ML管道加载
和
测试使用
Spark
MLLib
构建的ML
模型
吗?
、
、
我知道
Spark
有两个用于机器学习的库。一个是
spark
.ml,另一个是
spark
.
mllib
。我只想知道使用
spark
.ml构建的
spark
程序是否可以使用
和
测试(预测)使用
spark
.
mllib
pachages构建的
模型
,反之亦然?
浏览 4
提问于2017-04-24
得票数 0
1
回答
如何使用R或SparkR调用SparkMLLib算法?
、
、
我正在尝试使用SparkR
和
R作为前端来开发机器学习
模型
。我想使用
Spark
的
MLLib
,它工作
在
分布式
数据
帧
上
。有没有办法从R调用
spark
MLLib
算法?
浏览 2
提问于2015-07-09
得票数 2
1
回答
Maven -如何在两个相互依赖的项目中使用不同的版本依赖关系
、
、
、
具体描述:项目A实际
上
是一个机器学习器,它有一组使用旧版本的
spark
-
mllib
的算法。我想在项目A中集成XGBOOST-
spark
算法。LabeledPoint转换为
新
的LabeledPoint,调用生成
模型
的XGBoost.train()方法,然后我们将
模型
传递回项目A。我们
在
项目A中导入该类(从项目B),调用它的方法,获取
模型
,然后我们照常继续我们的业务。 当然,我也试过这么做。但它不起作用。我认为这是因为我们
在</e
浏览 0
提问于2018-04-25
得票数 1
1
回答
火花:用火花绘制
模型
的学习曲线
、
、
由于结果不佳,我想在训练的每个阶段(
在
训练
和
测试
数据
集
上
)显示
模型
所产生的误差。问题:如何用火花绘制
模型
的学习曲线?import org.apache.
spark
.ml.regression.
LinearRegression
import org.apache.
spark
.ml.tuning.val lr = new
Lin
浏览 1
提问于2018-06-26
得票数 2
回答已采纳
1
回答
如何将
mllib
.recommendation.MatrixFactorizationModel
保存
到HDFS中?
、
、
为了
保存
HDFS中的培训
模型
,我尝试了如下方法:
和
但是,发现一个错误是这样的:
浏览 6
提问于2016-12-24
得票数 2
回答已采纳
1
回答
如何将FP增长
模型
FrequentItemSet结果
保存
到文本文件中?
、
、
我试图将从
模型
生成的频繁项目集
保存
到文本文件中。代码是
Spark
库中FPGrowth示例的一个示例。直接在
模型
上
使用saveAsTextFile写入RDD位置,而不是实际值。;import org.apache.
spark
.
mllib
.fpm.FPGrowthModel; importorg.apache.
spark
.
m
浏览 4
提问于2016-05-30
得票数 0
回答已采纳
1
回答
Mlflow.
spark
保存
的
模型
可以加载为
Spark
/Scala Pipeline吗?
、
、
我们的算法工程师正在使用pyspark
和
mlflow开发机器学习
模型
。他尝试使用mlflow.
spark
API
保存
模型
&
模型
格式是原生
spark
MLlib
格式。
模型
可以从
Spark
Scala代码加载吗?似乎mlflow
在
跨语言使用方面受到了很大的限制。
浏览 91
提问于2020-06-19
得票数 1
1
回答
无topicDistributions(..)ml.clustering.LocalLDAModel中的方法
、
、
、
我正在使用org.apache.
spark
.ml.clustering.LDA进行主题建模(通过在线优化器),它返回org.apache.
spark
.ml.clustering.LocalLDAModel然而,使用这种
模型
似乎没有任何方法来获得文档
上
的主题分布。而较早的
mllib
应用程序接口(org.apache.
spark
.
mllib
.clustering.LocalLDAModel )确实有这样的方法,即org.apache.
spark
.
m
浏览 1
提问于2017-02-08
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Uber机器学习平台Michelangelo是如何使用Spark模型的?
用随机森林分类算法进行Iris 数据分类训练,是怎样的体验?
Spark中有哪些机器学习库?
Java机器学习加速器:用Spark MLlib快速打造高效模型
值得mark的11个开源机器学习项目
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
腾讯会议
活动推荐
运营活动
广告
关闭
领券