前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >上海张江又一款AI芯发布!性能超英伟达T4,AMD背景团队创办,快手投资

上海张江又一款AI芯发布!性能超英伟达T4,AMD背景团队创办,快手投资

作者头像
量子位
发布2021-07-19 16:40:02
5310
发布2021-07-19 16:40:02
举报
文章被收录于专栏:量子位量子位
晓查 发自 上海 量子位 报道 | 公众号 QbitAI

今年4月刚刚5亿元人民币A+轮融资的AI芯片公司瀚博半导体,发布了云端推理AI芯片SV100系列,以及搭载该系列芯片的AI推理加速卡VA1

在发布会上,瀚博半导体创始人兼CEO钱军展示了SV100系列的首款产品——SV102智能视觉芯片,瀚博半导体CTO张磊展示了VA1板卡。

瀚博半导体这两款产品主要瞄准了AI领域中成熟的CV市场,主打低延时、多路视频处理能力,相比市面上的GPU在能效上具有优势,可节省60%服务器成本。

瀚博半导体CEO和CTO均来自AMD,公司于2018年2月创立,作为一家新兴AI芯片公司,瀚博发展迅速,在去年5月就完成了首颗半定制7nm芯片流片,之后又获得了快手等领投的5000万美元的A轮融资。

云端推理芯片SV100系列

SV100系列是瀚博为云端推理而打造的服务器芯片,SV102是该系列的第一款芯片,INT8峰值算力达到200TOPS。

瀚博半导体创始人兼CEO钱军认为,目前AI落地应用已经日趋成熟,根据调研机构IDC的报告,从今年开始,AI基础设备市场上的推理负载将超过训练负载,而且今后二者差距将越来越大。

因此瀚博半导体选择进入了云端AI推理硬件的赛道。

钱军表示,SV102具有超高推理性能、超低延时以及高密度视频解码等特点。

SV102支持64路1080p视频解码,最大功耗为75W,接口为PCIe Gen4 x16,采用被动散热。

这款芯片在今年6月刚刚测试成功。据钱军透露,SV100在开始测试之后8分钟就全部点亮,低于40小时之内所有模块基础测试提前完成。

“这个对于一个全新设计的高端芯片是一个奇迹”,钱军说。

VA1板卡

而搭载SV102的VA1采用单宽半高半长75瓦PCIe卡设计,因此相比一般的GPU卡更节省能耗与空间。

张磊表示,在ResNet-50的基准测试中,VA1是英伟达T4吞吐量的2倍以上。

由于VA1节省服务器50%以上TCO,因此在一个2U服务器中,搭载VA1的设备可以解码384路视频,整机算力是T4设备的2.5倍以上,功耗比相同搭载GPU的服务器更低,可节省60%的服务器成本。

在视频处理方面,VA1支持64路以上H264、H265或AVS2 1080p解码,分辨率支持高达8K。

除了硬件产品外,瀚博也搭建了自己的VastStream AI软件平台,支持PyTorch、TensorFlow等主流AI框架,目前正在与CentOS、Ubuntu、Red Hat、银河麒麟等服务器操作系统进行适配。

最后,SV102芯片与VA1板卡预计将于今年第四季度量产。

钱军透露说,未来瀚博半导体还将推出15W~150W不同功耗范围的AI推理产品供用户选择。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-07-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 量子位 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 云端推理芯片SV100系列
  • VA1板卡
相关产品与服务
媒体处理
媒体处理(Media Processing Service,MPS)是一种云端音视频处理服务。基于腾讯多年音视频领域的深耕,为您提供极致的编码能力,大幅节约存储及带宽成本、实现全平台播放,同时提供视频截图、音视频增强、内容理解、内容审核等能力,满足您在各种场景下对视频的处理需求。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档