首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#gpu

英特尔Arc Battlemage显卡测试成绩曝光:中端型号已追平上代旗舰!

芯智讯

9月25日消息,英特尔的下一代 Arc Battlemage GPU当中的中端产品 “G21” 已经在Geekbench 上曝光,在早期测试中表现出了与 英特尔...

11910

深度学习500问——Chapter15:异构计算,GPU和框架选型(2)

JOYCE_Leo16

对于大部分用户来说,只要考虑计算能力就可以了。GPU内存尽量小于4GB。但如果GPU要同时显示图形界面,那么推荐的内存大小至少为6GB。内存带宽通常相对固定,选...

10710

深度学习500问——Chapter15:异构计算,GPU和框架选型(1)

JOYCE_Leo16

深度学习训练和推理的过程中,会涉及到大量的向量(vector),矩阵(matrix)和张量(tensor)操作,通常需要大量的浮点计算,包括高精度(在训练的时候...

9810

联发科天玑9400 GPU性能曝光:比高通骁龙8 Gen3高出41%!

芯智讯

9月24日消息,联发科已宣布将于10月9日在深圳召开“2024 MediaTek天玑旗舰芯片新品发布会,届时将正式发布全新的天玑9400芯片。

9810

【知识】对比Share mem/Pin mem/GPU mem之间的传输速度

小锋学长生活大爆炸

所以,share to gpu是最慢的,而对于pin和gpu之间的互传非常快(异步传输)。以后如何选,心里也大概有个数了。

8010

为大模型提供服务需要多少 GPU 显存?

TechLead

关注TechLead,复旦AI博士,分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员,国家级大学生赛事评审专家,发表多篇SC...

10810

英特尔重磅产品曝光:1.8nm制程,最多16核CPU和12核Xe3 GPU

芯智讯

9月2日消息,英特尔在今年6月的Computex 2024展会期间正式发布了全新的综合算力高达120TOPS的AI PC芯片Lunar Lake(Core Ul...

18510

又被我找到一款宝藏AI抠图工具:BatchTool!免登录、隐私保护、GPU加速、AI驱动!

Python兴趣圈

这是一个可以免费无限使用的在线AI批量背景去除工具,效果非常好,重点是无需登录,模型都是在本地运行,真正做到了隐私优先。

78210

无需GPU运行AI的情况:一个“Farm Fresh”案例研究

云云众生s

最新一代支持英特尔 AMX 的至强处理器如何为许多以前只能用 GPU 完成的 AI 任务提供动力。

11010

互联网十万个为什么之什么是GPU?

linus_lin

GPU(图形处理单元)是一种专用处理器,设计用以高效处理图形渲染和并行计算任务。与传统的CPU相比,GPU包含成百上千个较小、更高效的核心,专门用于处理大量数据...

5110

GPU数据编排在AI成功中的关键作用

云云众生s

最近 英伟达进行的研究 关注了 2024 年 AI 的现状,其中一项发现是,几乎 50% 的跨行业公司计划在云端和本地运行 AI 项目。换句话说,AI 基础设施...

9910

高通骁龙8 Gen 4 细节参数曝光:CPU及GPU性能均提升25%以上!

芯智讯

8月20日消息,随着高通新一代旗舰移动平台骁龙8 Gen 4的即将发布,该芯片的更多细节参数也开始被陆续曝光。

12510

ChatGLM-4-9b-chat本地化|天翼云GPU上vLLM本地部署开源模型完整攻略

技术人生黄勇

“ 拥有一个私有化的领先国产开源大模型?本文详细介绍了如何在天翼云GPU上使用vLLM部署ChatGLM-4-9b-chat本地化模型的完整攻略,助您快速上手。...

44210

【AI大模型】Transformers大模型库(七):单机多卡推理之device_map

LDG_AGI

这里的Transformers指的是huggingface开发的大模型库,为huggingface上数以万计的预训练大模型提供预测、训练等服务。

39910

GPU 性能原理拆解

腾讯技术工程官方号

腾讯 | 产品经理 (已认证)

我希望可以结合一些现有资料,对这些「迷思」做定性的分析,避免一不小心变成了负优化。有条件时,甚至希望可以做一些定量分析的实验。

28410

GPU共享技术指南:vGPU、MIG和时间切片

云云众生s

vGPU、MIG 和 时间切片技术优化 AI 和 ML 的 GPU 使用。了解这些方法如何降低 GPU 成本并提高项目可扩展性。

57210

玩AI,如何查看电脑的 CUDA 和 GPU 信息并进行配置?

AIGC部落

玩AI模型,GPU算力是基础,首先得了解自己电脑的 CUDA 和 GPU 信息,并安装相对应的软件、进行正确的配置。

45410
领券