腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
帅云霓的技术小屋
专栏成员
举报
352
文章
160277
阅读量
51
订阅数
订阅专栏
申请加入专栏
全部文章(352)
tcp/ip(59)
容器(58)
虚拟化(54)
缓存(46)
模型(39)
编程算法(36)
存储(35)
硬件开发(33)
分布式(31)
kubernetes(29)
云计算(29)
linux(27)
网络安全(27)
sdn(20)
node.js(19)
容器镜像服务(19)
网络(17)
开源(16)
负载均衡(14)
访问管理(14)
单片机(12)
http(12)
对象存储(11)
VPN 连接(11)
负载均衡缓存(10)
nat(10)
流计算 Oceanus(10)
gpu(10)
内存(10)
数据库(9)
网站(9)
kvm(9)
https(9)
bit(9)
交换机(9)
算法(9)
虚拟机(9)
sql(8)
服务器(8)
计算机(8)
数据(8)
线程(8)
弹性伸缩(7)
openstack(7)
udp(7)
工作(7)
硬件(7)
ios(6)
api(6)
NAT 网关(6)
机器人(6)
私有网络(5)
ubuntu(5)
文件存储(5)
socket编程(5)
大数据(5)
数据分析(5)
微服务(5)
fpga(5)
intel(5)
内核(5)
设计(5)
其他(4)
swift(4)
github(4)
tomcat(4)
运维(4)
迁移(4)
函数(4)
连接(4)
云硬盘(3)
区块链(3)
html(3)
access(3)
git(3)
nginx(3)
SSL 证书(3)
rpc(3)
windows(3)
ipv6(3)
etcd(3)
network(3)
部署(3)
集群(3)
架构(3)
接口(3)
数学(3)
云服务器(2)
java(2)
c++(2)
腾讯云测试服务(2)
游戏(2)
自动化(2)
dns(2)
物联网(2)
ghost(2)
db(2)
ethernet(2)
virtual(2)
程序(2)
二进制(2)
公有云(2)
管理(2)
开发(2)
路由(2)
通信(2)
系统(2)
芯片(2)
异常(2)
云原生(2)
费用中心(1)
人脸识别(1)
DNS 解析 DNSPod(1)
自动驾驶(1)
机器学习(1)
php(1)
actionscript(1)
scala(1)
json(1)
arm(1)
云数据库 Redis(1)
ide(1)
jar(1)
unix(1)
centos(1)
apache(1)
神经网络(1)
归档存储(1)
腾讯云可观测平台(1)
TDSQL MySQL 版(1)
弹性网卡(1)
渲染(1)
devops(1)
无人驾驶(1)
jvm(1)
erp(1)
线性回归(1)
zookeeper(1)
flash(1)
kernel(1)
微信(1)
安全(1)
小程序(1)
数据处理(1)
数据结构(1)
sas(1)
kafka(1)
防火墙(1)
隐私计算(1)
腾讯云(1)
amp(1)
app(1)
aws(1)
backup(1)
core(1)
device(1)
edge(1)
endpoint(1)
input(1)
int(1)
interface(1)
io(1)
iot(1)
ip(1)
it(1)
mesh(1)
metadata(1)
mips(1)
output(1)
pdf(1)
port(1)
qemu(1)
snmp(1)
sum(1)
token(1)
tree(1)
vmware(1)
wireless(1)
编译(1)
并发(1)
插件(1)
产品(1)
磁盘(1)
多线程(1)
翻译(1)
工程师(1)
基础(1)
进程(1)
局域网(1)
流量(1)
路由器(1)
逆向工程(1)
配置(1)
容器技术(1)
软件(1)
数据中心(1)
同步(1)
效率(1)
协议(1)
优化(1)
原型(1)
指针(1)
终端(1)
搜索文章
搜索
搜索
关闭
大模型与AI底层技术揭秘(小结-下)
虚拟化
模型
内存
线程
虚拟机
在大型的计算集群中,往往有成千上万张GPU卡。如何将这些卡构成的算力集群分配给不同的租户,执行租户各自的计算任务,并实现租户之间的资源隔离和故障隔离呢?这就是算力分配与调度系统的功能了。
用户8289326
2024-07-25
90
0
大模型与AI底层技术揭秘(小结-上)
网络
服务器
模型
设计
数据
目前IT行业的首要热点,也就是所谓的“大模型”和“机器学习”等AI技术,背后的算法,本质上是列出一个参数方程,并根据现有样本(参数方程的输入和输出),来迭代计算参数方程的参数,也就是所谓的调参。
用户8289326
2024-07-25
115
0
大模型与AI底层技术揭秘(42)蜂巢里藏着的奥秘
函数
模型
数学
算法
编译
在上期,我们讲到,在CUDA中,可以利用GPU的通用指令(加减乘除、乘方等),通过计算麦克劳林展开式,来计算超越函数。
用户8289326
2024-07-12
87
0
大模型与AI底层技术揭秘(41)割圆术与雪糕
原型
函数
计算机
模型
数学
小H在楼下见到S和他的妈妈,S的妈妈对S说:你看,你还记得小H当初教你背圆周率吗?
用户8289326
2024-07-01
100
0
大模型与AI底层技术揭秘(40)踩着书堆爬出坑
模型
内存
数据
线程
缓存
在计算机系统中,如果想取的数据不在缓存中,就是所谓的cache line miss,需要去内存里面找。如果数据是新的(类似新书刚出版)则一定得从内存里面找,需要忍受较长的时延。
用户8289326
2024-07-01
100
0
大模型与AI底层技术揭秘(39)王者荣耀与小龙虾饭
硬件
指针
模型
内存
线程
最近,小H工作地方食堂新增了一个窗口,卖小龙虾尾盖浇饭,在高峰时段排长队。小H在体验过几次痛苦的排队以后,决定悄摸摸地提前去吃小龙虾尾盖浇饭。
用户8289326
2024-06-18
96
0
大模型与AI底层技术揭秘(38)远看泰山黑乎乎
缓存
多线程
模型
线程
存储
小H把这首诗读给方老师听,方老师笑了:其实你看GPU里面寄存器和其他存储子系统的组织方式,跟CPU中,存储子系统的组织方式相比,还真就很类似这首诗描述的情景呢!
用户8289326
2024-06-18
92
0
大模型与AI底层技术揭秘(37)绞刑架下的报告
函数
模型
内存
同步
线程
在上期,我们留下了一个问题:在warp中,多个CUDA核需要同步的时候需要怎么做呢?
用户8289326
2024-06-06
89
0
大模型与AI底层技术揭秘(36)分裂没有出路
效率
架构
模型
内存
线程
在GPU程序中,如果有if-else这样的分支,在一个warp中,不同的CUDA Core走到了不同的分支,此时scheduler应当如何发射后续的指令呢?
用户8289326
2024-05-27
105
0
大模型与AI底层技术揭秘(35)身后就是莫斯科
架构
进程
模型
内核
线程
在上期,我们讲到了图灵的故事。图灵发明的密码破译机是盟军赢得二战的得力助手,但正义的联盟战胜法西斯,最终还是依靠英雄的血肉之躯。
用户8289326
2024-05-27
120
0
大模型与AI底层技术揭秘(34)最早的国际象棋程序
gpu
程序
模型
线程
硬件
在上期,我们提到,实现支持完备QoS的运营级别GPU虚拟化的关键在于,实现GPU任务的上下文切换。这实际上涉及到一个问题:
用户8289326
2024-05-18
126
0
大模型与AI底层技术揭秘(33)从蒸汽动力到电气化的跃进
虚拟化
腾讯云
模型
内存
软件
在上期,我们说到,益民食品厂的一名青年工程师利用自己所学的电机学的知识,在电网解体的情况下,抢修工厂供电成功。
用户8289326
2024-05-09
122
0
大模型与AI底层技术揭秘(32)保卫冰砖的逆向工程
容器
虚拟化
模型
内核
逆向工程
上一期,小H在梦里把游戏《仙剑奇侠传》跟武侠小说混到一起并且说梦话了,被大家嘲笑了。方老师顺便嘲笑了旁边玩《和平精英》的一个家伙:
用户8289326
2024-04-30
184
0
大模型与AI底层技术揭秘(31)令狐冲化身酒剑仙
gpu
模型
容器技术
容器
虚拟化
上期我们说到令狐冲在思过崖了解到了剑宗与气宗的区别,武功很快就有了质的飞跃,消灭了大boss东方不败,跟任盈盈携手隐居在山清水秀的杭州,将饮酒与练剑作为日常娱乐项目,最终得道成仙。
用户8289326
2024-04-24
129
0
大模型与AI底层技术揭秘(30)剑宗与气宗
模型
异常
硬件
虚拟化
gpu
在上一期,我们讲了一个令狐冲通过使用NVidia GRID vGPU方案,把虚拟化的GPU通给多个虚拟机的方案。但是,这个方案仍然没有解决一个关键的问题——不同的GPU虚拟化实例之间的故障隔离问题。如果任何一个虚拟化实例出现故障,会导致物理GPU上,虚拟的所有GPU实例中运行的程序被全部抛出异常。
用户8289326
2024-04-10
123
0
大模型与AI底层技术揭秘(28)思过崖上踢实况
开源
虚拟化
gpu
服务器
模型
在上期,我们讨论了AMD主导的基于SRIOV的GPU虚拟化方案。我们也发现了,由于GPU本质上不是CPU的一个外设,而是一个高度并行,具备成千上万个核的计算机,而SRIOV只是提供了对外的PCI-E接口的虚拟化,并没有提供GPU计算核心与内存分配给不同VM的能力,因此,GPU的SRIOV虚拟化方案存在着一些固有的缺陷。
用户8289326
2024-04-10
137
0
大模型与AI底层技术揭秘(26)从悲惨世界到和平精英
虚拟机
虚拟化
gpu
管理
模型
在上期,小H在梦里穿越成了“发哥”,并且成功理解了什么是“时分复用”和“空分复用”。这次,小H又梦见了什么呢?
用户8289326
2024-03-25
189
0
大模型与AI底层技术揭秘(27)食神挑战烤肥肠
硬件
虚拟化
模型
虚拟机
异常
小H最近因为沉迷学(you)习(xi),瘦了不少,小伙伴们打算把小H带去搞点好吃的。
用户8289326
2024-03-25
101
0
大模型与AI底层技术揭秘(25)大丈夫日记
渲染
虚拟化
计算机
模型
通信
有一天,小H被人拉进了一个技术交流群,却发现群里讲的都是各种八卦、社会新闻和pdf小作文。小H立即产生了浓厚的兴趣,天天在这个群里面学习知识。皇天不负有心人,有一天群里终于出现了技术话题,讨论起GPU服务器内部的组件互联。小H看见了一句金句:“计算的尽头是通信”。再一看,原来是方老师说的!
用户8289326
2024-03-13
95
0
大模型与AI底层技术揭秘(24)从葫芦娃到植物大战僵尸
工作
模型
虚拟机
容器
gpu
在很久以前,有一个老爷爷,种下了一棵葫芦,变成了七个各有绝学的葫芦娃。可惜葫芦变成的七个葫芦娃为了保卫和平,救出爷爷,逐一被蛇精和蝎子精抓到了。蛇精和蝎子精想把七个葫芦娃炼成七心丹,没想到七个葫芦娃合体成为了葫芦小金刚,踢碎了炼丹炉,经过艰苦的战斗,最后打败了各路妖魔鬼怪,让山谷恢复了往日的和平。
用户8289326
2024-03-05
114
0
点击加载更多
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档