存内计算加速大模型-腾讯云开发者社区

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

存内计算加速大模型

传统冯诺伊曼无法满足算力需求，存内计算为大模型提供底层算力支持。

专栏成员

6

文章

1081

阅读量

7

订阅数

ISSCC 2023 16.1 MulTCIM详解-存内计算在多模态领域的应用前沿论文

chatgpt 论文芯片大模型知识引擎 aigc

多模态模型，是指具备理解来自不同模态（如视觉、自然语言、语音等）的混合信号能力的神经网络模型，是当今人工智能模型发展的重要方向之一。本文将要介绍的文献题目为《16.1 MulTCIM: A 28nm 2.24μJ/Token Attention-Token-Bit Hybrid Sparse Digital CIM-Based Accelerator for Multimodal Transformers》，作者是来自清华大学集成电路学院和香港科技大学电子与计算机学院（Department of Electronic and Computer Engineering）的涂锋斌博士，提出了一种数字存算一体核心设计，可以支持多模态Transformer模型的计算。

存内计算开发者

2024-05-21

1670

国产五大模型之一MiniMax 使用国内首个MOE架构

神经网络并行存储架构大模型知识引擎机器学习

阿里被曝2024年面向AIGC的第二次大手笔投资来了——加注大模型赛道独角兽Minimax，领投至少6亿美元。

存内计算开发者

2024-05-21

2600

腾讯发表多模态综述，什么是多模态大模型

机器学习神经网络人工智能大模型知识引擎

多模态大语言模型（MLLM）是近年来兴起的一个新的研究热点，它利用强大的大语言模型作为大脑来执行多模态任务。MLLM令人惊讶的新兴能力，如基于图像写故事和无OCR的数学推理，在传统方法中是罕见的，这表明了一条通往人工通用智能的潜在道路。在本文中，追踪多模态大模型最新热点，讨论多模态关键技术以及现有在情绪识别上的应用。

存内计算开发者

2024-05-14

2780

存内计算技术大幅机器学习算法的性能

aigc 芯片机器学习神经网络

人工智能技术的迅速发展使人工智能芯片成为备受关注的关键组成部分。在人工智能的构建中，算力是三个支柱之一，包括数据、算法和算力。目前，人工智能芯片的发展主要集中在两个方向：一方面是采用传统计算架构的AI加速器/计算卡，以GPU、FPGA和ASIC为代表；另一方面则是采用颠覆性的冯诺依曼架构，以存算一体芯片为代表。

存内计算开发者

2024-05-14

650

存算架构优化：为大模型算力提升铺平道路

神经网络 aigc 芯片大模型知识引擎机器学习

随着人工智能技术的飞速发展，大模型已经成为了推动各行各业进步的关键力量。从自然语言处理到图像识别，再到复杂的数据分析，大模型以其卓越的性能和广泛的应用前景，正逐渐成为AI领域的焦点。然而，大模型的高效运行离不开强大的算力支持，而存算架构的优化则是提升算力的关键所在。本文将探讨现有大模型对算力的需求以及RRAM架构优化如何为大模型的算力提升提供动力，为开发者提供一些实用的指导。

存内计算开发者

2024-05-14

2420

REM-CiM的RGB-事件融合多模态类比计算内存(CiM)技术

大模型知识引擎机器学习神经网络深度学习 aigc

本文为大模型&存内计算融合专题的首篇文章，我们将以这篇名为《REM-CiM: Attentional RGB-Event Fusion Multi-modal Analog CiM for Area/Energy-efficient Edge Object Detection during both Day and Night》为例[1]，探讨其在文中提到的多模态大模型与存内计算技术的融合等信息。

存内计算开发者

2024-05-14

690

没有更多了

社区活动

AI代码助手快速上手训练营

鹅厂大牛带你玩转AI智能结对编程

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态