前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >CDSW1.4的Experiments功能使用

CDSW1.4的Experiments功能使用

作者头像
Fayson
发布2018-08-17 17:02:11
3640
发布2018-08-17 17:02:11
举报
文章被收录于专栏:Hadoop实操Hadoop实操

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

Fayson的github: https://github.com/fayson/cdhproject

提示:代码块部分可以左右滑动查看噢

1.文档编写目的


在前面的文章Fayson介绍了关于《CDSW1.4的新功能》及《Hadoop之上的模型训练 - CDSW1.4新功能模块》,本篇文章Fayson主要介绍CDSW1.4版本中新增的Experiments功能及使用。

  • 内容概述

1.Experiments功能介绍

2.Experiment使用

3.总结

  • 测试环境说明

1.CM和CDH版本为5.15

2.CDSW版本为1.4

3.操作系统为RedHat7.4

2.Experiments功能使用


在CDSW中快速的运行一个Experiment,步骤如下:

1.登录CDSW平台创建一个Python模板的工程

工程创建成功

2.打开WorkBench,在工程中创建一个add.py文件,内容如下:

代码语言:javascript
复制
import sys
import cdsw

args = len(sys.argv) - 1
sum = 0
x = 1

while (args >= x):
    print ("Argument %i: %s" % (x, sys.argv[x]))
    sum = sum + int(sys.argv[x])
    x = x + 1

print ("Sum of the numbers is: %i." % sum)

(可左右滑动)

3.点击“Run Experiments”,在脚本栏填写创建好的add.py,Arguments输入: 1 2 3 4

4.点击“Start Run”按钮运行,回到Project界面,点击“Experiments”菜单查看

可以看到我们运行的Experiment,点击Run列的数字进入查看详细信息

点击“Build”显示实验环境build过程

Build成功后,Docker镜像准备就绪并开始运行

此时点击“Session”可以看到运行结果

5.回到“Experiments”页面,可以看到运行状态标识为“Success”

6.在CDSW库中包含了一些内置的函数,可用于比较试验运行结果并保存试验中的任何文件

可以在add.py脚本的默认增加如下内容,记录试验运行结果

代码语言:javascript
复制
cdsw.track_metric("Sum", sum)

(可左右滑动)

再次提交一个“Run Experiment”

查看运行结果,在运行列表中多出了“Sum”列

3.总结


1.Experiment默认继承工程所在环境,在上述测试可以看到test-experiments使用的engine:5,创建的Experiment也是使用的engine:5进行编译,会默认的执行工程下的cdsw-build.sh脚本,自动安装依赖环境。

2.目前Experiments有些功能只支持Python和R,不支持Scala。

3.实验可以支持输出多个指标,默认的实验列表只能显示3个指标,如果需要查看更多的指标可以在实验详情页面查看。

提示:代码块部分可以左右滑动查看噢

为天地立心,为生民立命,为往圣继绝学,为万世开太平。 温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-08-11,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档