首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

芯片最大有多大?美国研发40万核的芯片,专为AI设计!

初创的美国AI芯片公司Cerebras Systems在19日造出了人类史上最大的人工智能专用芯片,芯片名为Cerebras Wafer Scale Engine,占地42225平方毫米,携带1.2万亿个晶体管与40万个核心,内存有18 Gigabytes,内存带宽19 PByte/s,fabric带宽100 Pbit/s。当之无愧的史上最大芯片!

芯片进化史上,1971年的英特尔首款4004CPU处理器晶体管就只有2300个,现今AMD拥有的320亿个晶体管都不如Cerebras Wafer Scale Engine的1.2万亿个晶体管。其实三星曾经研制出过一个2万亿个晶体管的闪存芯片eUFS,但是流程加工和AI计算能力都不如Cerebras芯片。

可能会有人问:芯片不是越大越笨重吗?尺寸大是因为在AI处理任务信息中是需要这样的芯片支撑,尺寸大的芯片可以更快处理信息并给出答案。减少人工智能所需要的训练时间,这样研究人员就有更多时间尝试更多的想法和解决方法。如今谷歌、腾讯、百度等大企业都认为,制约AI发展的罪魁祸首就是不够时间训练模型,如何缩短这个时间是整个人工智能行业的首要研究方向

芯片的计算能力

Cerebras芯片是专门为人工智能计算而生的,面积比现如今的最大GPU还要大56.7倍, 提供更多核心进行运算,有更多核心在内存里运行,因此内核的运行十分高效。由于内存与内核位于单个芯片上,因此所有通信与运算都在一个芯片中进行,带宽高、延迟低、反应快,所以核心芯片组可以在最高效率下进行协作。

随着AI的发展,智能芯片和平台的解决方案也在不断发展改进。Cerebras WSE是半导体方面的一项惊人成就,它在单个晶圆级中提供了超级计算机级的计算能力、高性能内存和带宽。

低延迟、高带宽的通信

Swarm通信结构是WSE上使用的处理器间通信结构,它以传统通信技术功耗的一小部分实现了带宽的突破和低延迟。Swarm提供了一个低延迟、高带宽的2D网格,它将WSE上的所有400,000个核连接起来,每秒的带宽总计达100 petabits。

路由、可靠的消息传递和同步都在硬件中处理。消息会自动激活每个到达消息的应用程序处理程序。Swarm为每个神经网络提供了一个独特的、优化的通信路径。软件根据正在运行的特定用户定义的神经网络的结构,配置通过400,000个核心的最优通信路径,以连接处理器。

典型的消息遍历一个具有纳秒延迟的硬件链接。一个Cerebras WSE的总带宽是每秒100 PB。不需要TCP/IP和MPI等通信软件,因此可以避免性能损失。这种结构的通信能量成本远低于远低于每比特 1 焦耳,比GPU低了近两个数量级。结合了巨大的带宽和极低的延迟,Swarm通信结构使 Cerebras WSE比任何当前可用的解决方案学习得更快。

Cerebras芯片的出现会带来新生一代的人工智能,通用人工智能或许已经不再是无法完成的泡影!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190820A0MKXT00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券