在当今的人工智能时代，有一家公司凭借着其强大的技术和领先的地位，一直坐稳了AI芯片市场的龙头宝座，那就是著名的Nvidia。无论是懂AI的专家还是对AI一窍不通...

在深度学习项目中，CUDA内存溢出（OutOfMemoryError）是一个常见的难题，尤其在使用PyTorch框架进行大规模数据处理时。本文详细讨论了CUDA...

图像融合（Image Fusion）是指将多源信道所采集到的关于同一目标的图像数据经过图像处理和计算机技术等，最大限度的提取各自信道中的有利信息，最后综合成高质...

图像融合（Image Fusion）是指将多源信道所采集到的关于同一目标的图像数据经过图像处理和计算机技术等，最大限度的提取各自信道中的有利信息，最后综合成高质...

下图第一个是cuda融合结果，第二个是cpu融合结果，通过计算图像清晰度数值，可以看到融合的结果是一样的，融合后图像比融合前的三张图像质量都好，而计算时间cud...

CUDA 并行计算平台可以使用 C++、Fortran 和 Python 进行编程，但该公司正在寻找其他人来运行其 GPU。

随着大语言模型(LLM)时代的到来，我一直想玩玩一些开源的自托管小工具。我正在使用一台老工作站作为家庭实验室，方便的是它安装了一个老的 NVIDIA GPU。由...

在旧金山时间3月20日上午，Zilliz 与英伟达携手在 GTC 2024 大会上发布了 Milvus 2.4 版本。

在安装CUDA 11.6及更高版本时，最终用户许可协议（EULA）中明确表示：禁止在其他硬件平台上通过翻译层运行基于CUDA的软件！

https://docs.docker.com/config/containers/resource_constraints/#gpu

在前面的一篇文章中，我们介绍了在C++中使用指针数组的方式实现的一个不规则的二维数组。那么如果我们希望可以在CUDA中也能够使用到这种类似形式的不规则的数组，有...

继续Triton的学习，这次来到 https://triton-lang.org/main/getting-started/tutorials/06-fused...

2月20日消息，对于 x86、Arm、MISC 和 RISC-V 等处理器架构都有深入研究的传奇处理器架构师Jim Keller在本周末批评了被外界认为是英伟达...

接着【BBuf的CUDA笔记】十三，OpenAI Triton 入门笔记一 继续探索和学习OpenAI Triton。这篇文章来探索使用Triton写Layer...

官网网址：https://www.nvidia.com/Download/index.aspx?lang=en-us

当今众多的基于Python的AI框架（如MindSpore、PyTorch等）给了开发者非常便利的编程的条件，我们可以用Python的简单的语法写代码，然后由框...

2023年很多mlsys工作都是基于Triton来完成或者提供了Triton实现版本，比如现在令人熟知的FlashAttention，大模型推理框架lightl...

我也是偶然在知乎的一个问题下看到这个问题，大概就是说在使用apex的LayerNorm/RMSNorm的时候可以打开这个api的memory_efficient...

GPU的存储单元分为两大类： 板子上芯片周围的显存颗粒(on board)，读取速度相对慢，如下图中的local memory，global memory，c...

命令行输入：make 然后生成一个可执行文件 接着输入：./hello_cuda 即可运行文件