3.5. Mode Switches GPUs that have a display output dedicate some DRAM memory to the so-called primary surface, which is used to refresh the display device whose output is viewed by the user. When users initiate a mode switch of the display by changing th
我们正带领大家开始阅读英文的《CUDA C Programming Guide》,今天是第89天，我们正在讲解Unified Memory Programming，希望在接下来的13天里，您可以学习到原汁原味的CUDA，同时能养成英文阅读的习惯。
3.2.7. Unified Virtual Address Space【统一虚拟地址空间】 When the application is run as a 64-bit process, a single address space is used for the host and all the devices of compute capability 2.0 and higher. All host memory allocations made via CUDA API calls a
大家好，我是来自PPTV的王斌。接下来我将围绕以下几个话题，为大家分享有关全平台硬件解码的渲染与优化的实践经验。
AI大模型部署到本地很耗资源，需要很大的内存和硬盘，很多电脑都满足不了要求。而且部署过程很复杂，非专业人士很难上手。
今年最为火爆的产业无疑就是AIGC，也就是以AI为主导的生成式内容，包括ChatGPT、AI画图、AI作诗等功能。可以说，只能玩游戏而不支持AIGC的显卡已经不符合时代的需求。如今NVIDIA 在AI时代一飞冲天，可能会让很多同学误认为只有NVIDIA显卡才支持Stable Diffusion这类的AI应用。但事实上，还有一家厂商对于AI的投入力度并不逊于NVIDIA，而且在多年前就开始布局AI，它就是芯片巨头Intel公司。
dogecoin近期在具有如此大影响力的情况下，是否会促使黑灰产团队和疯狂的投机者们对公有云服务器开始疯狂挖币行为，影响公有云服务器安全和可用性呢？为此，研究一下狗狗币的挖矿模式。
在深度学习和计算机图形学等领域，使用GPU进行加速已经成为常见的做法。然而，GPU的显存是一种有限的资源，我们需要时刻关注显存的使用情况，以避免显存溢出导致的程序错误。NVIDIA提供了一个命令行工具nvidia-smi，能够实时查看GPU的状态和显存使用情况。本文将介绍如何使用nvidia-smi命令在终端实时刷新GPU显存。
QAnything (Question and Answer based on Anything) 是致力于支持任意格式文件或数据库的本地知识库问答系统，可断网安装使用。
Management PCI-Express Runtime D3 (RTD3) Power Management是一种用于管理PCI-Express设备的低功耗模式的技术RTD3是一种睡眠状态，当PCI-Express设备处于空闲状态时，可以将其置于低功耗模式，以减少能源消耗和热量产生。英伟达™（NVIDIA®）图形处理器有许多省电机制。其中一些机制会降低芯片不同部分的时钟和电压，在某些情况下还会完全关闭芯片部分的时钟或电源，但不会影响功能或继续运行，只是速度较慢。然而，英伟达™（NVIDIA®）GPU 的最低能耗状态需要关闭整个芯片的电源，通常是通过调用 ACPI 来实现。这显然会影响功能。在关机状态下，GPU 无法运行任何功能。必须注意的是，只有在 GPU 上没有运行任何工作负载的情况下才能进入这种状态，而且在试图开始工作或进行任何内存映射 I/O (MMIO) 访问之前，必须先重新开启 GPU 并恢复任何必要的状态。
其中，性能最强大的RTX 3090具有24GB显存和10496个CUDA核心。而2018年推出的旗舰显卡Titan RTX同样具有24GB显存。
我们正带领大家开始阅读英文的《CUDA C Programming Guide》,今天是第30天，我们正在讲解性能，希望在接下来的60天里，您可以学习到原汁原味的CUDA，同时能养成英文阅读的习惯。 本文共计273字，阅读时间15分钟 5.3.1. Data Transfer between Host and Device Applications should strive to minimize data transfer between the host and the device. On
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答，更多信息请参考我们的博客。欢迎通过 chatglm.cn 体验更大规模的 ChatGLM 模型。
本文介绍了开源框架MXNet的环境变量配置和显存问题。首先介绍了如何设置进程数量、显存选项和控制数据通信，然后讨论了如何恢复训练。
============= 1.触摸屏原始数据解析 ===================
2020 开年，ZILLIZ 与 InfoQ 筹备了以异构计算为专题的一系列文章。此篇文章作为异构计算专题的开篇，整体性的介绍了异构计算的定义、场景与局限性。在后续的专题文章中，我们将深入不同的 AI 应用场景进一步解释异构计算的优势。
谷歌 Gemma 是一个基于 Python 的图像分析工具，提供快速和准确的物体检测、定位、分类和风格迁移功能。它使用 TensorFlow Lite 模型，使它可以快速运行在移动设备上。
扎克伯格亲自宣布，PyTorch基金会已新鲜成立，并归入Linux基金会旗下，管理委员会成员，包括Meta、AMD、AWS、谷歌云、微软和英伟达。Meta表示，PyTorch成功背后的驱动力，是开源社区充满活力的持续增长。成立基金会将确保社区成员以透明和公开的方式作出决定。
1.分配fb_info 2.设置 3.注册register_framebuffer 4.硬件相关操作
在大型机构分配的服务器集群中，需要使用GPU的程序默认都会在第一张卡上进行，如果第一张卡倍别人占用或者显存不够的情况下，程序就会报错说没有显存容量，所以能够合理地利用GPU资源能帮助你更快更好地跑出实验效果。 1、指定使用GPU0运行脚本（默认是第一张显卡, 0代表第一张显卡的id,其他的以此类推） 第一种方式：
显示设备例如 LCD，在 Linux 中用 Framebuffer 来表征， Framebuffer 翻译过来就是帧缓冲，简称 fb，在 /dev 目录下显示设备一般表示成这样：/dev/fbn，应用程序通过访问这个设备来访问 LCD，实际上应用程序通过操作显存来操作显示设备，显存由驱动程序设置。说白了，我们要在 linux 下操作屏幕进行显示那么直接对 /dev/fbn 进行操作即可。
本篇文章，我们聊聊如何使用 Docker 来本地部署使用 Stability AI 刚刚推出的 SDXL 1.0，新一代的开源图片生成模型，以及在当前如何高效的使用显卡进行推理。
而本月25号，国行定价2499元的甜品级显卡3060即将发售，在喊真香之前，玩家们也不禁担心：这波真的能抢到？
SD目前最大的问题还是显存占用问题，特别是个别视频插件，包括最近出的Stability videoAI，更是将显存占到了极致，再加上4090的禁售，这对硬件玩家很不友好,那么对此我总结了市面上最具性价比的6种解决方式，让你在Tensor RT的基础上利用LCM再搭配FO，将你的硬件利用率拉满的同时体验SDXL！！！
硬件设备，是任何一名深度学习er不可或缺的核心装备。各位初级调参魔法师们，你们有没有感到缺少那一根命中注定的魔杖？
由于测试环境使用的是NVIDIA的显卡，这里直接通过lspci命令即可查询具体显卡信息
环境配置是模型训练的基础工作,本教程将详细介绍Transformer模型的训练环境配置过程,包括计算硬件选择、深度学习框架选型、多机集群构建、分布式训练等内容。希望本指南能帮助大家顺利配置Transformer的训练环境。
LCD Framebuffer 就是一块显存，在嵌入式系统中，显存是被包含在内存中。LCD Framebuffer里的若干字节（根据驱动程序对LCD控制器的配置而定）表示LCD屏幕中的一个像素点，一一对应整个LCD屏幕。举个例子，LCD屏幕是800*600的分辨率，即LCD屏幕存在480000个像素点，若每个像素点4个字节表示，那么LCD Framebuffer显存大小为480000 *4=960000字节，即1.92MB。因此我们的内存将会分割至少1.92MB的空间用作显存。具体地址在哪里，这个就是又驱动程序去定，应用程序只需直接使用即可，硬件相关操作已由驱动程序封装好。
这篇文章，我们来聊聊如何本地运行最近争议颇多的，李开复带队的国产大模型：零一万物 34B。
每个外设，例如: 显示器有对应的显卡，显卡里面有相关的寄存器，通过往这些寄存器中设置对应的值，就可以控制该外设工作起来了。
为什么需要GPU虚拟化 根据平台收集的GPU使用率的历史，我们发现独占卡的模式会对GPU这种宝贵计算资源存在浪费现象，即不同用户对模型的理解深度不同，导致申请了独立的卡却没有把资源用满的情况。针对这种情况，虚拟化GPU技术可以更好的解决这种痛点，让机器的计算资源得到充分利用。 现有技术情况 目前来看，绝大多数公司使用的是英伟达（NVIDIA）的公司的计算卡，所以下面主要介绍NVIDIA的技术现状。 NVIDIA在前几年释放出来一个NVIDIA vGPU的一个硬件虚拟化的技术，该技术的介绍是 NVIDIA
LVGL全称Light and Versatile Graphics Library，轻量化和多功能的图形库，遵循MIT开源许可协议，具有以下特性（what LVGL can do for you）。
我们正带领大家开始阅读英文的《CUDA C Programming Guide》,今天是第29天，我们正在讲解性能，希望在接下来的71天里，您可以学习到原汁原味的CUDA，同时能养成英文阅读的习惯。 本文共计363字，阅读时间15分钟 5.3. Maximize Memory Throughput The first step in maximizing overall memory throughput for the application is to minimize data transfe
几天前meta发布了史上最强开源大模型Llama3，要想免费使用Llama3，除了去官网 https://llama.meta.com/llama3/ 在线使用外，还可以本地部署。
提到挖矿，很多人都比较感兴趣，众所周知，挖矿是除了直接交易数字货币之外，获取数字货币的唯一途径，而挖矿会根据不同的数字货币定义成不同的挖矿形式，比如说最近比较火的流动性挖矿，就是投资者抵押或锁定加密货币以换取报酬的做法，还有就是本文要说的显卡挖矿，下面小编就给大家通俗的讲解一下显卡挖矿是什么意思。
在上一节LCD层次分析中,得出写个LCD驱动入口函数,需要以下4步: 1) 分配一个fb_info结构体: framebuffer_alloc(); 2) 设置fb_info 3) 设置硬件相关的操作
初步尝试 Keras (基于 Tensorflow 后端)深度框架时, 发现其对于 GPU 的使用比较神奇, 默认竟然是全部占满显存, 1080Ti 跑个小分类问题, 就一下子满了. 而且是服务器上的两张 1080Ti.
之前在Linux系统移植时提到过LCD驱动，本篇来看下Linux设备树如何配置LCD驱动。
在近年来的深度学习领域，许多研究机构和研究者通过增大模型的参数量来提升模型的表现，取得了非常显著的成果，一次次令业界称奇。这客观上使得“扩大模型的尺寸”几乎一度成为各家竞相追逐的唯一指标。
很多人会说，Windows不适合写代码？各种各样类似于visual studio的IDE那么牛逼，还不适合写代码？
笔者在执行一个Jax的任务中，又发现了一个奇怪的问题，就是明明只分配了很小的矩阵空间，但是在多次的任务执行之后，显存突然就爆了。而且此时已经按照Jax的官方说明配置了XLA_PYTHON_CLIENT_PREALLOCATE这个参数为false，也就是不进行显存的预分配（默认会分配90%的显存空间以供使用）。然后在网上找到了一些类似的问题，比如参考链接中的1、2、3、4，都是在一些操作后发现未释放显存，这里提供一个实例问题和处理的思路，如果有更好的方案欢迎大家在评论区留言。
我们正带领大家开始阅读英文的《CUDA C Programming Guide》,今天是第90天，我们正在讲解Unified Memory Programming，希望在接下来的10天里，您可以学习到原汁原味的CUDA，同时能养成英文阅读的习惯。
https://docs.nvidia.com/cuda/cuda-c-best-practices-guide/index.html 来阅读原文。
Tensorflow支持基于cuda内核与cudnn的GPU加速，Keras出现较晚，为Tensorflow的高层框架，由于Keras使用的方便性与很好的延展性，之后更是作为Tensorflow的官方指定第三方支持开源框架。
1 说明背景1.1 近来想法1.2 几个概念2 全局视角2.1 应用场景(了解)2.2 大概原理(了解)2.3 技术图景(了解)3 用户空间3.1 OpenGL 和 libGL(了解)3.2 libXCB 和 XServer(了解)3.3 libGL 和 Mesa(了解)4 用户和内核4.1 软件构图(了解)4.2 驱动视角(待掌握)4.3 源码视角(了解)5 内核和固件5.1 工作流程(掌握)5.2 交互途径(掌握)5.3 寄存器组设计(掌握)5.4 通信协议设计(掌握)6 固件和硬件6.1 固件软件设计(掌握)6.2 软件硬件接口(了解)6.3 体系结构简介(了解)6.4 图形流水线(了解)7 参考资料
为tensorflow指定GPU，原因是，默认创建session时，会将所有显存占满，发现有人在用的时候，就会session不能创建而报错。 首先nvidia-smi查看显卡的编号，最左边一列，看看哪个空的
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
云直播
对象存储
