首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

奎芯科技参加2023全球AI芯片峰会

(全球TMT2023年9月18日讯)9月14-15日,2023全球AI芯片峰会(GACS 2023)在深圳正式举行。奎芯科技副总裁王晓阳发表主题为《驱动云/边缘侧算力建设的高性能互联接口方案》的演讲。王晓阳分享了AIGC产业算力需求引发的芯片互联趋势,并对算力芯片瓶颈进行了分析,提出了奎芯内存互联解决方案和Chiplet落地解决方案。

奎芯科技副总裁王晓阳在GACS 2023芯片架构创新专场进行演讲

当前,AIGC的发展推动了算力需求快速增长,但由于内存带宽和I/O带宽发展速度的相对滞后,大模型训练和推理面临内存墙和I/O墙。此外,未来大模型进行推理部署时,比起芯片的算力和工艺,对于内存容量和带宽的要求更高。针对大模型推理这类访存密集型任务,对其算力需求的估计不能只考虑FLOPs的需求,更重要的瓶颈在于内存带宽,使用奎芯M2link 互联方案可以增加封装内的HBM容量,增加SOC的有效可使用算力面积。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OkXZF_FoUPt1UWksYUNW7iTw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券