最近几年有幸参与公司GPU芯片的软件开发工作，目前公司和个人都到了一个十字路口，趁着闲暇时间从一个软件工程师的角度梳理总结一下GPU相关知识。知识多数来自网络和...

今天起，高校/教培机构、学生、开发者及数据科学家可以拥有更易用、更高效的轻量GPU工作空间啦！「腾讯云高性能应用服务HAI」与「腾讯云Cloud Studio」...

在上期，我们提到，实现支持完备QoS的运营级别GPU虚拟化的关键在于，实现GPU任务的上下文切换。这实际上涉及到一个问题：

在深度学习领域，针对GPU的高性能执行深度神经网络（DNNs）对于现代机器学习应用至关重要。当前的DNN框架通常使用张量程序来指定DNN计算，张量程序是由节点和...

在一个昏暗的机箱里，一台 RTX 3090 GPU「唱」着经典英语儿歌《一闪一闪亮晶晶》（Twinkle,Twinkle,Little Star）的旋律。

近日，美国一家 web3 开发公司的创始工程师之一 Adam Majmudar 分享了他「手搓 GPU」成功的经历，引发了网友们的一大片点赞。令人惊讶的是，他仅...

本文主要讲一些看到的RWKV 6模型的Linear Attention模块推理加速方法，在这篇博客中暂不涉及对kernel的深入解析。首先，flash-line...

https://kyju.org/blog/piccolo-a-stackless-lua-interpreter/

CuPy 是一个开源的 Python 库，它的设计初衷是为了使得在 GPU 上的计算变得简单快捷。 它提供了与 NumPy 非常相似的 API，这意味着如果你...

5月7日，据“中国光谷”消息，武汉凌久微电子有限公司（简称“凌久微”）宣布，其自主设计的第二代图形处理器（GPU）GP201已成功量产上市。

通过采用模型优先的心态、优化利用率和战略性地运用负载平衡，首席信息官可以缓解芯片短缺。

比起当前的CPU、GPU、TPU、FPGA等数字处理器，这种全新的AI加速器快了数个数量级，而且更加节能。

对于 NVIDIA 特定的 GPU，GPUdev 库功能是通过CUDA 驱动程序 DPDK 库在 DPDK 驱动程序级别实现的。要启用NVIDIA GPU 上所...

比起当前的CPU、GPU、TPU、FPGA等数字处理器，这种全新的AI加速器快了数个数量级，而且更加节能。

今天偶然看到一篇关于介绍GPU的推文，我们在复现代码以及模型训练过程中，GPU的使用是必不可少的，那么大模型训练需要的是GPU，而不是CPU呢。现在市面上又有哪...

在生成式AI（GenAI）和大模型时代，不仅需要关注单个GPU卡的算力，更要关注GPU集群的总有效算力。单个GPU卡的有效算力可以通过该卡的峰值算力来测算，例如...

在Kubernetes的Master节点上，也增加一个组件，叫做gpu-admission，其作用是接管Kubernetes Scheduler的predica...

在 Python 下 onnxruntime-gpu 加载 onnx 模型后，创建 seddion 进行数据推断，在第一次执行时会比之后执行耗时更久，需要资源更...

在数字设计的Implementation过程中，从RTL到GDSII的每一步都是高度计算密集型的。在SoC层面，为了最小化互连的延迟，我们需要评估数百个par...

在运行MindSpore程序时，设置device_target为GPU，结果运行时报错：