Machine Learning 硬件投入调研GPU分布式云硬件投入的建议参考服务器SpecReference

GPU

在HPC领域,GPU比CPU运算速度快是显而易见的。在此简单的调研了一下,如何挑选GPU。

[Tesla K40] Tesla系列是N厂专门为HPC退出的GPU产品,无视频输出,仅能做计算。系列型号有K20, K40, K80。其中K40是最强单芯产品,K80是双core。 从N厂给出的评测可以看出,在HPC计算中,K40的性能是CPU的10倍以上

CPU:12 核,E5-2697v2 @ 2.70 GHz。64 GB 系统内存,CentOS 6.2。GPU:单个 Tesla K80(启用 Boost)或单个 Tesla K40(启用 Boost) K40在amazon售价$3k,K80为$4k。K40国内应该在¥25k左右。 结论: 太贵,不实惠

[GeForce Titan X] Titan X号称是N厂“核弹”,GeForce最强显卡。Titan X的运算性能强于K40,但限制了双精度运算。 评测文章可参见: 深度信仰对决:TitanX和TeslaK40c对阵Caffe深度学习其结论是Titan X在运算性能上要比K40更高。 结论: Titan X的价格在¥8k左右,12G显存,性价比较高

[GTX 970] GTX系列是主流游戏显卡,目前算起来性价比比较高的是GTX970(~¥2500),CUDA数量是Titan X的一半,一般为4G显存。单从GPU来说,组3块显卡的机器比Titan X要更实惠,不过组多台机器分布式就不太划算,因为还要算上其他CPU主板电源一大堆,而且占地方。 结论: 可以在前期花比较少的钱达到不错的效果,后期不能大规模上

【Updated】 GTX1080 是16年新出的卡,5600一块,8G显存,速度比老Titan快30%,经济实惠。新Pascal架构Titan X是最好选择,9000+一块,但一直缺货。后期采购混合搭配新Titan X和GTX1080。

分布式

Jeff Dean在NIPS 2015的slides(Large-Scale Distributed Systems for Training Neural Networks)中讲到了TensorFlow在分布式上的性能提升情况。主要结论为: ImageNet Inception的训练使用50GPU,~40X提升 从描述来看,在几十个replica的规模下,基本上性能提升是线性的。 结论: 在调研阶段结束后,真正真正开始上真实场景时,组集群是非常有必要的

TF已经被人跑在了spark上,spark可以直接跑在云服务器上,所以使用云服务器也是一个选择。 不过目前个人认为云服务器并不是一个很划算的选择,有如下几个原因: 从CPU和GPU的运算性能来看,需要非常多的CPU才能达到一块GPU的性能,云主机在这方面算起来非常不划算 spark也是个规模比较大的项目,坑多,目前团队并没有太多实践积累,应尽量避免陷入处理各种spark的问题的循环中,更专注于DL本身。

另外,阿里云的提供了HPC云服务器,但价格较高,网页报价如下

结论: 使用云服务器搭建集群为时尚早,云HPC服务器太贵。

硬件投入的建议

硬件可以逐步升级

  • Step 0. 两台i7 CPU服务器 (Current)
  • Step 1. 单服务器,2 x GTX 970,要看现有的服务器能插几块 (需要确认目前的主机是否支持)
  • Step 2. 用Titan X来组服务器
  • Step 3. 云服务商 or 自组集群

参考服务器Spec

(From 李沐's blog: GPU集群折腾手记)

(From 淘宝, 北京思腾合力科技有限公司)

Reference


(注:感谢您的阅读,希望本文对您有所帮助。如果觉得不错欢迎分享转载,但请先点击 这里 获取授权。本文由 版权印 提供保护,禁止任何形式的未授权违规转载,谢谢!)

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏我是攻城师

网页去重思路浅析(一)

47780
来自专栏思影科技

静息态网络核心区域的动态连接的调制激活

来自哈佛医学院的Tang wei和Stufflebeam等人在PNAS上发文,主要介绍了其针对静息态网络核心区域的动态连接影响局部神经激活的研究。文...

38780
来自专栏机器之心

综述 | 一文看尽三种针对人工智能系统的攻击技术及防御策略

这篇文章是关于如何使用人工智能构建鲁棒的反滥用保护系统系列文章中的第四篇,也是最后一篇。第一篇文章解释了为何 AI 是构建鲁棒的保护系统的关键,这种保护用来满足...

12530
来自专栏AI研习社

用机器学习搞艺术,谷歌 Megenta 项目集锦(附 Github)

雷锋网 AI 研习社按:本文为雷锋字幕组编译的技术博客,原文 Make Music and Art Using Machine Learning,作者 mage...

18220
来自专栏SAP最佳业务实践

从SAP最佳业务实践看企业管理(141)-批次管理

MM117批次管理 批次管理一般用于每批产品有不一样的特性的情况。常用与食品、药品、化工产品等。 可以管理生产日期、失效日期。 可以管理每批的一些关键属性,如颜...

36370
来自专栏java一日一条

高德百度坐标系转换方法

在开始这个题目之前,先给大家再次扫扫盲,扫的不是坐标系统的盲,而是我们国家所使用的坐标系统。大家都知道,美国GPS使用的是WGS84的坐标系统,以经纬度的形式来...

1.1K20
来自专栏灯塔大数据

洞察|美国大选倒计时:R 语言和蒙特卡洛算法预测希拉里赢面高达89%

距总统大选不到一周,来预测一下竞选结果还是很有挺有趣的。虽然关于选举,有的是博客和网站的预测,但确切告诉你他们究竟用了什么模型,或者告诉你怎么做这个预测的却寥...

39390
来自专栏大数据文摘

李飞飞计算机视觉成名作:斯坦福CS231n作业详解第三弹!

25780
来自专栏AI科技评论

动态 | ACL 2018 公布四篇最佳 demo 候选论文,三篇论文第一作者来自中国

雷锋网 AI 科技评论按:7 月 9 日,自然语言处理顶会 ACL 公布了最佳 demo 论文的四篇候选论文,名单如下:

14940
来自专栏FSociety

Python实现「碟中谍」5W条评论可视化

本篇文章会针对用户在猫眼上对于「碟中谍6」的评论进行一个可视化分析,我们总共采集了44872条用户评论,文章内容包括:

19930

扫码关注云+社区

领取腾讯云代金券