首页
学习
活动
专区
工具
TVP
发布

GPUS开发者

专注NVIDIA Jetson产品开发。
专栏作者
1063
文章
1675013
阅读量
206
订阅数
详细介绍NVIDIA边缘计算解决方案
首先,什么是边缘计算?这是一个广泛的概念,但简单来说,它是在数据源头或靠近数据源头处理数据的方式。它有许多不同的好处或理念。大多数人寻求每秒处理毫秒级的数据,因为他们想要低延迟,同时也想要能够节省带宽。他们不需要将所有原始数据发送到顶层,每个人可能都熟悉云计算,因为这是我们每天工作的术语,云数据中心是全球部署的,平均响应时间,虽然到今天可以做到毫秒级,但绝对不是实时的。有时您实际上需要更多的处理时间,可以是分钟或有时候小时,最后一个是,您通常需要更大的带宽来进行处理,因为所有数据都需要被传输到数据中心的某个地方进行处理和发送回来。因此,这需要大量的资源。所以说。边缘计算具有本地处理、实现低延迟和减少带宽的好处。
GPUS Lady
2024-03-26
630
NVIDIA发布地表最强GPU芯片Blackwell到底是纪念谁?
美国时间3月21日,NVIDIA GTC主题演讲的舞台上闪耀着一道光芒,那就是联合创始人兼总裁黄仁勋推出的一项划时代的创新:Blackwell GPU。这款GPU并不仅仅是一块硬件,它仿佛是一座通向未来的桥梁,一个连接人类智慧与科技奇迹的纽带。
GPUS Lady
2024-03-25
810
转变癌症诊断:Path-BigBird 用于病理学报告的人工智能方法
美国能源部橡树岭国家实验室(Oak Ridge National Laboratory)和路易斯安那州立大学(Louisiana State University)的研究人员与美国国家癌症研究所(National Cancer Institute,简称NCI)合作,开发了一种长序列AI转换器,能够处理数百万份病理报告,为研究癌症诊断和管理的专家提供更准确的癌症报告信息。
GPUS Lady
2024-03-25
710
一种持续预训练大语言模型简单且可扩展的方法
在大型语言模型(LLMs)领域,我们常常听到微调LLMs以遵循指令的话题。但是如何为LLMs提供新知识或领域特定数据呢?通常,LLMs会在数十亿标记上进行常规预训练,一旦有新数据可用,就会重新开始这个过程。然而,新数据引起的分布转移通常会导致在先前数据上性能下降或对新数据适应性差。最新的《Simple and Scalable Strategies to Continually Pre-train Large Language Models》论文提供了一些宝贵的见解,指导如何在新数据上持续预训练LLMs,提出了一种更高效的解决方案是持续对这些模型进行预训练,这比重新训练节省了大量计算资源。
GPUS Lady
2024-03-25
770
浙江大学研究团队如何在消费级GPU上实现对100B模型微调
近年来,大型语言模型的快速发展为世界带来了巨大的价值,其优越性能源自它们所利用的庞大参数数量。然而,即使是目前内存容量最高的GPU,也只有80GB,远远不足以容纳这些庞大的参数及其相关的优化器状态,尤其在进行基于随机梯度下降的优化时。
GPUS Lady
2024-03-25
1270
华硕AIOT推出搭载NVIDIA RTX A5000 GPU的医用级电脑
全球领先的 AIoT 解决方案提供商华硕物联网(ASUS IoT)本月宣布推出 MDS-M700,一款专为医疗环境设计的全新医疗箱式电脑。这款产品经过专业设计,旨在为医疗行业提供卓越的性能和服务。
GPUS Lady
2024-03-25
710
NVIDIA发布的人形机器人 Project GR00T 基础模型究竟是啥?
NVIDIA 在2024GTC上宣布推出 GR00T 项目,这是一个面向人形机器人的通用基础模型,旨在进一步推动机器人和具身 AI 领域的突破。
GPUS Lady
2024-03-25
1360
优化内存使用:TensorRT-LLM和StreamingLLM在Mistral上提升推理效率
内存是否不足以支持长时间聊天内容的#LLM应用?NVIDIA工程师Song Han 开发了StreamingLLM,集成了TensorRT LLM v0.8。让我们看看StreamingLLM在中的应用吧!
GPUS Lady
2024-03-25
1120
从数字化到智能化:华硕AIoT推动智能工厂的探索与案例分析
工业 4.0 促进了精确生产和快速灵活的变化。它加速了制造业智能制造的进步。如何将传统工厂转变为智能工厂?从数字化到工业4.0,工厂必须经历六个阶段,即计算机化、连接性、可见性、透明度、预测能力和适应性,以开发智能大脑并成为智能工厂。
GPUS Lady
2024-03-15
850
利用生成式人工智能的力量:未来生产力的关键
生成式人工智能将成为企业的强大工具,能帮助增强我们的工作与处理日常任务,使我们更高效、更有生产力。据最新研究估计,这项新技术每年将带来两万五千亿到四万亿美元的GDP增长。
GPUS Lady
2024-03-14
700
NVIDIA TensorRT通过8位量化将Stable Diffusion加速近2倍
在充满活力的生成式人工智能领域,扩散模型以其能够通过文本提示生成高质量图像而脱颖而出。像Stable Diffusion这样的模型已经彻底改变了创意领域的格局。
GPUS Lady
2024-03-14
1350
华硕发布基于第14代英特尔酷睿处理器的全新工业主板和边缘 AI计算机
球 AIoT 解决方案提供商华硕物联网今天宣布推出其采用最新英特尔酷睿™(第 14 代)处理器的全新工业主板和边缘 AI 计算机系列。这些尖端解决方案提供卓越的计算性能、增强的能效和加速的连接,使其成为各种工业应用的理想选择。®
GPUS Lady
2024-03-14
940
女科学家提出GaLore:为消费级GPU上高效训练LLM铺平道路
Anima Anandkumar,这位研究科学家堪称人工智能界的传奇人物。作为加州理工学院的布伦教授(Bren Professor),她是ACM、IEEE、Schmidt Science、Guggenheim以及Alfred.P.Sloan基金会的成员,堪称学术界的一颗耀眼明星。她曾获得NeurIPS最佳论文奖和ACM Gordon Bell特别奖,展现出在科学研究领域的卓越才华。
GPUS Lady
2024-03-14
1240
NVIDIA发布TensorRT-LLM 0.8.0:加速最先进语言模型
NVIDIA上周宣布TensorRT-LLM版本0.8.0的发布!这个更新标志着在GPU加速推断方面取得了重大进展,使得部署最前沿的语言模型架构变得轻而易举。在TensorRT-LLM,NVIDIA的目标是为您提供极速的执行速度,以解决语言模型任务,而此版本带来了大量增强功能,正是为了实现这一目标。
GPUS Lady
2024-03-14
690
装个NVIDIA Chat With RTX,没想到这么多坑...
NVIDIA AIPC训练营昨天开营第一天,讲解Chat With RTX的安装和使用,群里可以说是大型的翻车现场,光在安装环节,就是各种问题。我就不列举了,几乎满屏都是....
GPUS Lady
2024-02-28
4100
NVIDIA DeepStream SDK 6.4发布:最新功能及注意事项
DeepStream的Jetson版本基于JetPack 6.0 DP(开发者预览版)。此版本不适用于生产目的。
GPUS Lady
2024-01-05
2750
NVIDIA TAO 5.2发布:全新功能助力视觉AI模型开发
在人工智能迅速发展的领域中,NVIDIA TAO 5.2版本崭露头角,引入了突破性功能,推动视觉AI模型开发迈向新的高度。无论你是初学者还是资深数据科学家,这一低代码、开源的AI框架通过迁移学习提供了一条无缝高效的路径,以实现最先进的准确性并具备生产级吞吐量。
GPUS Lady
2023-12-20
1020
升级JetPack 6开发者预览版可能遇到的坑
Jetson生态系统的最新发展为那些迫不及待地期待JetPack 6开发者预览版的开发人员和爱好者带来了令人兴奋的消息(NVIDIA发布JetPack 6.0开发者预览版)。我们将深入了解NVIDIA的官方开发指南等文档,以确保GPUS开发者们在升级和使用过程顺利。
GPUS Lady
2023-12-14
1490
升级JetPack 6开发者预览版可能遇到的坑
Jetson生态系统的最新发展为那些迫不及待地期待JetPack 6开发者预览版的开发人员和爱好者带来了令人兴奋的消息(NVIDIA发布JetPack 6.0开发者预览版)。我们将深入了解NVIDIA的官方开发指南等文档,以确保GPUS开发者们在升级和使用过程顺利。
GPUS Lady
2023-12-13
3530
NVIDIA发布JetPack 6.0开发者预览版
https://developer.nvidia.com/embedded/jetpack-sdk-60dp
GPUS Lady
2023-12-10
2650
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
【玩转EdgeOne】征文进行中
限时免费体验,发文即有奖~
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档