算力“竞速”,企业AI落地的当务之急

充足的算力资源,在数据量持续增长及算法持续复杂化的前提下,无疑是保障人工智能应用落地效果的关键。

软件定义算力——打造AI转型最佳实践

8月2日,第四范式联合英特尔共同举办了AI实践者之声夏令营活动。第四范式基础架构负责人刘一鸣以《软件定义算力——打造AI转型最佳实践》为题做了演讲,他指出,不管是围绕专家规则构建AI系统,还是围绕AutoML技术构建应用系统,都将带来算力的巨大需求。

具体而言,挑战在于数据量越来越大,但模型效果没有多大提升,这就需要做高维复杂的模型。其次,数据的价值是随着时间的增加而递减,比如情报资料知道的越早越容易做出决策。

其中的关键是要让AI释放算力达到极致效果,这就需要基础架构提供算力。为此,第四范式首先做了自研的机器学习框架,现在模型越来越深,此外他们还自研了整个软件栈,每一层都做了精细优化,并且与硬件进行结合。

通过与AI行业核心基础设施技术提供商英特尔公司的深度合作,第四范式AIO引入英特尔Cascade,Optane固态硬盘等技术,拥有了更充沛的算力,进一步加速了企业实施AI应用的进程。

在AI数据处理能力上,结合英特尔Cascade Lake CPU与第四范式软硬一体的优化,先知AI平台分布式模型训练框架训练速度获得飞跃。在TB级数据规模下,“第四范式先知”平台的模型训练速度可达Spark*的数千倍。英特尔Optane固态盘则是“第四范式先知”平台引入的另一项英特尔 “杀手锏”,其3D XPoint 技术,正在打破内存和固态盘之间的边界。

最后,刘一鸣表示,第四范式的最终目标是端到端的机器学习,其软硬一体的企业级AI平台就是为了让AI的价值快速落地,所以不管是网络、存储还是计算,他们要让全流程至少比起普通的机器快四到十倍。

软硬协同——突破产品性能瓶颈

作为硬件平台的重要合作方,英特尔为第四范式提供性能强劲的至强处理器和数据中心级持久化内存硬件平台, 同时为第四范式业务更好的协同硬件工作而提供了一系列的优化工具和方法,帮助企业软件协同硬件,更好的发挥硬件的性能潜力,打破产品性能瓶颈,助推第四范式“1+N”智能化转型。

此次夏令营活动上,英特尔AI方案架构师赵玉萍和英特尔软件工程师吴国安以《软硬协同——突破产品性能瓶颈》为题讲述了系统性能的优化方法以及性能优化的结果。

系统性能的优化方法主要三种:

第一种是资源分析方法,主要包括USE的方法,也就是检测使用率、饱和、错误,还有资源缩放的方法。

第二种是微架构自下而上分析方法,主要是分析CPU微架构的使用情况,包括前端受限、后端受限或者错误预测以及等待卸货的比例,各个比例是怎么样,这主要是为了更高效地使用CPU执行单元。

第三种是代码和热点优化方法,主要是包括热点检测,并发和锁分析,以及如何使代码特别对于AI的代码进行向量化、减少内部布局和多线程并发。

这三种方法是从总体到细节这样一个优化过程,同时三种方法不停地循环往复推动整个系统的性能提升。

吴国安还介绍了英特尔傲腾数据中心级持久内存应用方法。傲腾数据中心级持久化内存与正常内存共享内存控制器和内存通道,主要有三大特点:扩展大内存,也就是可以存放或者缓存更多,不需要做任何代码上的改动,非常简单易用;内存持久化,需要应用做一些改动,可以实现一些高可用场景;快速存储设备,可以减少I/O受限,简单易用,但由于做快速存储设备优势不那么明显,目前还没有找到合适场景。

走进南京大学——AI实践者之声夏令营活动招募

8月31日,由英特尔发起的 AI实践者之声夏令营来到南京大学,该技术沙龙旨在打破技术理论、产品、场景边界,促进人工智能规模化落地。

众所周知,在实现智能化转型的道路上,各行业企业面临着海量数据处理、机器学习和深度学习技术支撑、高昂计算成本以及技术人才紧缺带来的挑战。企业一直在寻求可以不断提高效率、降低成本的生产线,这就需要开发者不断增长技能,紧跟技术发展,帮助企业解决工程实践中的挑战。

此次AI实践者之声夏令营活动一如既往有重磅演讲嘉宾莅临,分别是南京大学人工智能学院教授俞扬教授、英特尔(中国)人工智能行业客户总监孙宇以及创新工场南京国际人工智能研究院执行院长冯霁。

基于上述讲师丰富的产学研经验,他们将帮助开发者们在企业AI转型中掌握核心技能及工具,解析AI技术实践中遇到的挑战。本次技术沙龙,更有英特尔技术专家亲自带领现场开发者进行两小时的技术实操,从模型训练到部署,助力开发者练就上手硬核技能。干货满满,不容错过!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190827A0ON9C00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券