英特尔AIDC2018：神经计算棒二代从天而降，软硬生态合作圈尽露锋芒

允中 发自 国贸大酒店 量子位 报道 | 公众号 QbitAI

浩浩荡荡开了一天半的英特尔人工智能大会（AIDC 2018）刚刚结束。在国贸大酒店三层的大宴会厅里，俨然有地主姿态的英特尔在几场演讲中秀软件、秀硬件、秀自己的开发者社群——在更多的时间里，秀伙伴。

此次大会上，英特尔选择了用更多来自合作伙伴的实际应用案例来为自己的软、硬件产品背书。

除了直接让出大块时段给合作伙伴来进行独立展示，英特尔高管干脆变身访谈主持人，通过提问的形式引导起几位代表来介绍各自的公司和业务。

在剩余相对有限的时间内，英特尔还发布了一份关于推动AI科研和人才培养的“AI未来先锋计划”，以及一款全新的硬件产品——英特尔神经计算棒二代（NCS 2）。

英特尔全球副总裁Naveen Rao在正式发布后者时显得十分冲动，现场一片哗然，更是让量子位当场体验到了“精确打击”的震撼。

此外，Day 2的几场分享中，也有一些有意思的东西，以下详谈~

杨旭：AI发展的三大动力

在第一天的活动中，英特尔全球副总裁、中国区总裁杨旭作为首位演讲者登台。他提到，这是英特尔在中国第一次举办专门面向开发者和技术社区的人工智能大会。

接着，他提出英特尔视角下AI发展的三大动力：

• 第一是持续的技术创新，在关键性技术领域寻求技术突破；
• 第二是建立生态系统和开发者社区、技术社区，开展开放性、全方位的技术协作；
• 第三是AI应用的实际落地。

这三大动力也正是近几年来英特尔在AI领域所作工作围绕的核心：

技术创新方面，英特尔试图从云到端地对深度学习等AI技术进行全面推进，部分进展包括新一代至强平台、基于Movidius和FPGA设计的产品系列以及正在开发中的商用神经网络处理器Nervana NNP-L1000等；

在计算方面，英特尔制造交付了49量子位计算测试芯片并对自旋量子位芯片进行了测试。

在生态合作方面，英特尔建立了神经拟态研究社区，与BAT、华为、第四范式等公司及部分高校开展合作，同时与地方政府和人工智能产业联盟建立联系，尝试打造起一个协同互通的生态。

而在应用落地方面，英特尔推动了微信语音识别的性能提升，甚至在技术上支持了刚刚过去的天猫“双11”。此外，英特尔协助实施了包括保护古长城、拯救野生东北虎、推进乳腺癌诊疗等一系列公益项目。

杨旭认为，人工智能必须要服务于实体经济，推动其进步和发展。

他说，到2022年。中国人工智能市场规模会达到90亿美金，年复合增长率在58%以上。但即便存在巨大的市场潜能与机遇，人工智能还处在非常初期的阶段。这是一场没有终点的马拉松，而且刚刚起步。

△ 杨旭发布英特尔“AI未来先锋计划”

AI未来先锋计划

在演讲的最后部分，杨旭宣布了英特尔的“AI未来先锋计划”。

这项计划立足于前沿研究、师资建设、人才培养、产业对接四个方面，希望能够通过产学研联动来推进人工智能科学研究与人才培养。

前沿研究方面，英特尔将与包括清华大学、南京大学、上海交通大学等在内的多所高校与科研机构展开合作，在人工智能基础框架和平台、模型及优化算法、多模态融合、云服务器平台设计等科研项目上，以及自然语言、视觉、自动驾驶、金融、医疗等特定领域的智能应用上进行探索。

师资建设上，英特尔将利用自己的资源与优势推动高校和中小学的人工智能师资建设和智能校园试点工作，支持教师智能教育素养培训，探索和开发适应人工智能等新技术挑战的教师培训内容及资源，帮助利用人工智能教学助手和情绪化学习等工具，积极有效地开展教育教学。

人才培养领域，“教育部—英特尔产学合作协同育人项目”正在通过课程共建，联合编写教材，联合授课、暑期训练营等方式培养人工智能领域的创新创业人才。

而英特尔也在通过类似英特尔人工智能学院这类的资源，助力中国高校的人工智能专业教学实践和课程建设，提供线上线下资源，包括技术文档、直播课程、学生套件和论坛支持等。

产业对接方面，英特尔与学校和产业伙伴积极合作，支持和推动科研及创新项目的商业化，促进技术成果转化，推动人工智能创新成果的应用示范，并与高校合作伙伴共同探索HPC与人工智能融合的创新实践。

英特尔AI合作生态图景

杨旭之后，英特尔全球副总裁、人工智能产品事业部总经理Naveen Rao接棒演讲。

他说，AI的演进本质上是计算的革命。英特尔对于AI的愿景非常简单，就是为AI建立最好的计算平台。

△ Naveen Rao演讲

Naveen称，英特尔在人工智能业务领域主要专注于三件事：工具、硬件和社区。

工具

英特尔人工智能产品事业部全球数据科学负责人刘茵茵介绍了面向开发者的软件工具产品，一共四种。

第一，MKL-DNN：开源性能库，为深度学习软件框架提供优化内核，支持众多AI基本运算单元，例如卷积、矩阵乘法、批量归一化、激活函数等等，帮助开发人员发挥出英特尔硬件的最大性能。

接着，百度主任架构师董大祥介绍了MKL-DNN对百度搜索引擎中语义匹配模型的矩阵计算部分起到的加速效果，并表示希望能在未来与英特尔一起继续挖掘这一部分的潜力，将复杂模型在线上的训练速度进一步提升。

△ 刘茵茵与董大祥互动

第二，nGraph：跨英特尔所有硬件的统一中间层编译器，帮助开发者将前端、后端有效组合，提高开发过程的灵活性，支持同时使用多个加速器进行模型训练。目前已经在GitHub上开源。

第三，BigDL：针对Spark开发的分布式深度学习库。可以被用于现有的Spark集群，提升对于对大型数据的学习速度，同时支持Scala和Python。

第四，OpenVINO：软件工具包。为在边缘部署深度神经网络而设计，可以快速优化和压缩经过训练的视觉模型，并将其部署在英特尔硬件和加速器上。

在使用已有深度网络框架进行搭建和训练时，不需要大幅度调整当前部署方式，就可以在关键性能上获得大幅提升。

硬件

接下来Naveen重新上台，介绍英特尔的硬件产品。不过他仍旧首先请出了一位合作伙伴：汇医慧影创始人兼CEO柴象飞。

他表示，汇医慧影通过和英特尔合作，在算力上得到了极大加强。

英特尔至强处理器使得在医学影像的海量数据上，尤其是三维数据甚至四维数据和更多维度的数据上的直接训练，包括分类的学习变得可行；另外，在和英特尔的协作上，最大的好处是能够让很多既存的硬件，包括既存的医学影像设备快速实现AI赋能。

而在Naveen介绍英特尔的硬件杀手锏——至强可扩展处理器时，则由美的视觉研究所长胡正上台，解释了包括至强可扩展处理器数据中心在内的英特尔产品如何帮助他们提升工厂质控工作的效率。

另外，介绍了在腾讯优图AI摄像机、优图AI盒子的开发过程中，以及在云端如何同英特尔合作，利用至强处理器和VPU打造产品。

Naveen透露，新一代的至强可扩展处理器Cascade Lake将在明年发布。经过DL Boost功能的加持，速度相比上一代产品将提升近11倍。

社区

这一部分依旧由刘茵茵介绍。

她提到，目前，英特尔人工智能实验室有三个开源工具库。

△ 英特尔人工智能产品事业部全球数据科学负责人刘茵茵

• 第一个是NLP架构。包含专门为NLP模型和任务所设计的拓扑和操作，借助由深度学习驱动的NLP可以在不同抽象层建立不同的NLP模块和模型，并通过他们的变化和不同组合搭建不同的NLP应用方案和解决实际问题。
• 第二个是RL Coach。它是向社区和研究人员提供的强化学习研究工具，包含众多强化学习最新算法和训练环境，这些模型在英特尔的CPU和MKL/DNN优化过的TensorFlow上运行表现十分出色。
• 第三个是神经网络Distiller，神经网络压缩工具包。通过它，研究人员和工程师可以更方便地将压缩方法的变化组合放在一起，并从中选出自己硬件需要的最佳办法。

三种工具目前都已经在Github上开源。

另外，社区合作项目ML Perf是一个适合于深度学习的跨行业的基准测试。

目前的合作伙伴包括谷歌、百度、哈佛、斯坦福、伯克利等，内容涵盖计算机视觉、NLP等领域，涉及不同设备的训练和推理过程。

公益项目

这部分着重介绍了英特尔与中国文物保护基金会与武汉大学测绘遥感信息工程国家重点实验室合作，利用无人机和人工智能技术帮助了箭扣长城的修缮工作。

该公益所为，之前英特尔也详细从技术层面做过解析，感兴趣的同学不妨移步一观。

NCS 2发布

△ Naveen发布NCS 2

英特尔神经计算棒（NCS）是一款基于VPU的“微型无风扇深度学习USB驱动器”，设计用于深度神经网络推理应用的开发。

此次发布的NSC2，则首次配备了神经计算引擎，搭配了OpenVINO工具包，性能为上一代产品的8倍。

NCS 2可以在标准 USB 3.0 端口上运行，不需要额外硬件，用户可以快速转换并将计算机训练模型部署到各种设备上，无需网络或云端连接。

按照英特尔的话说，只需要一台笔记本电脑和NCS 2，开发者就能在数分钟内可以运转起自己的AI。

目前这款产品已经正式发售，售价由一代的599元提高到749元。

不过，量子位这次可能比英特尔之外的所有人都更早地拿到了这个产品。How？

开头说过，Naveen在发布这款产品时显得十分兴奋：“这款产品今天我就可以提供给大家！”然而谁也没想到，说完这句话Naveen就把之前拿在手里展示的神经计算棒二代冲台下扔了出去，飞行距离之远，现场群众纷纷为Naveen的臂力发出惊叹。搭载厚重金属外壳的NSC 2直直飞向媒体席，最终在量子位的手上留下一条血痕后坠落地面。

△ 实物长这样，伤痕图片过于血腥，就不上图了

真的，要不是挡得快，量子位就被爆头了……^_^

而关于将在明年上市的Spring Crest则属于英特尔Nervana神经网络处理器，专为深度学习打造，用以实现高计算利用率和模型并行性。

Naveen称，这款产品具备12个核心，每个核心有2M的本地内存，还有额外的32G的HBM。支持bfloat16格式。