Nvidia发布可编程AI推理加速器，推出自主机器处理器Xavier

李根 发自 GTC现场 量子位 报道 | 公众号 QbitAI

英伟达创始人黄仁勋，依然皮衣夹克，依旧跑步登场。

在GTC2017（GPU 技术大会）北京现场，这位AI领域最富传奇色彩的教父级人物，以《AI的趋势、挑战与机遇》（AI Trends, Challenges and Opportunities）为题，连扔多个重磅炸弹。

重点新产品

此次GTC2017上，黄仁勋推出了如下几款新品：

1）推出NVIDIA TensorRT 3。

作为全球首款可编程AI推理加速引擎，NVIDIA TensorRT 3将在性能上得到进一步提升，老黄说，运行在Volta上的TensorRT 3，在图像分类方面比最快的CPU还要快40倍，在语言翻译方面则要快140倍。

现场举了个例子，当NVIDIA GPU结合TensorRT 3，就能够在所有框架上开展更快、更高效的推理工作，从而实现众多支持AI的服务，例如图像和语音识别、自然语言处理、视觉搜索和个性化建议。

老黄介绍，搭配 Tesla V100 GPU加速器的TensorRT每秒能够识别多达 5,700张图片，而如今所用的CPU则每秒仅能识别140张图片。

而且，搭配NVIDIA最新GPU的一台服务器顶得上当前150台CPU服务器。换个角度来说，采用GPU加速技术的一个数据中心所开展的推理工作相当于13个仅采用CPU的数据中心。

△ CPU和GPU数据中心对比

（现场多处直接对比，CPU被怼得不忍直视）

2）发布全球首款自主机器处理器：Xavier。

老黄介绍说，这是首款全球自主机器处理器，是迄今为止最为复杂的片上系统。不过要等到2018年第一季度才给早期接触的合作伙伴提供样片，2018年第四季度才能全面出货。

△ Xavier

老黄认为Xavier将开启人工智能时代的新篇章，会创造更多自主机器——教机器人与外部世界交互和执行复杂任务这个历史性难题将得到突破。

Xavier也将成为下一代英伟达Jetson的片上系统（SOC）。

此外，英伟达还重点介绍了机器人学习的虚拟仿真系统，他们把这个平台叫做Isaac Lab（取名自“艾萨克-牛顿”）

3）DeepStream SDK、CUDA 9

除了TensorRT 3以外，老黄还发布了能够实现AI加速的软件。

其中包括能够大规模提供实时、低延迟视频分析的DeepStream SDK、以及能够加快HPC和深度学习应用速度的加速计算软件平台CUDA的最新版本：CUDA 9。

朋友圈

新产品之外，教主黄仁勋还晒了一下最新朋友圈。

△ 英伟达的朋友圈

1）中国云服务提供商和OEM采用Tesla V100

黄仁勋宣布，阿里云、百度和腾讯均已在其云服务中部署Tesla V100 GPU加速器。另外，包括华为、浪潮和联想在内的中国顶尖OEM均已采用NVIDIA的 HGX服务器架构并使用Tesla V100 GPU来构建新一代加速数据中心。

2）AI城市

和海康威视在安防领域携手；

为大华、华为和阿里巴巴提供基于英伟达平台的AI视频解决方案；

其中大华的方案为大型活动提供虚拟保安，华为的方案用于监控交通流量，阿里巴巴的方案在于监控交通堵塞并改善交通状况。

3）自动驾驶

△ 145家自动驾驶合作企业

目前共有145家自动驾驶初创公司与英伟达合作；

王劲的景驰科技同时宣布英伟达GPU Ventures在内的Pre-A轮5200万美元融资；

4）物流

自动化配送方面，英伟达宣布将与京东合作；京东派发包裹的JDrover，以及京东无人机JDrone，都将使用NVIDIA Jetson超级计算平台，且运行TensorRT以实现导航和无人送货。

谈趋势

产品和朋友圈之前，其实黄教主最先谈的是趋势。

不过核心要点其实也只有一句话：CPU不行，GPU已立。

老黄说GPU正在加速AI革命，目前为止，全球22000人参加了全球GTC开发者大会，有1900家公司入选英伟达的Inception计划，其中300家来自中国。

教主还坚定留下两个预测：1）AI推理将是下一个巨大挑战；2）中国互联网公司将会是AI领域的全球领导者。

最后值得一提的是，面对众多前来的合作伙伴和潜在合作伙伴，黄仁勋多次强调：我们替你们做的只有一件事：省钱！省钱！！省钱！！！

为了表达到位，老黄好几次手舞足蹈了。现场也一片欢呼——真是一个AI的时代、英伟达的时代。