首页
学习
活动
专区
工具
TVP
发布

帅云霓的技术小屋

专栏作者
339
文章
144128
阅读量
47
订阅数
大模型与AI底层技术揭秘(31)令狐冲化身酒剑仙
上期我们说到令狐冲在思过崖了解到了剑宗与气宗的区别,武功很快就有了质的飞跃,消灭了大boss东方不败,跟任盈盈携手隐居在山清水秀的杭州,将饮酒与练剑作为日常娱乐项目,最终得道成仙。
用户8289326
2024-04-24
490
大模型与AI底层技术揭秘(30)剑宗与气宗
在上一期,我们讲了一个令狐冲通过使用NVidia GRID vGPU方案,把虚拟化的GPU通给多个虚拟机的方案。但是,这个方案仍然没有解决一个关键的问题——不同的GPU虚拟化实例之间的故障隔离问题。如果任何一个虚拟化实例出现故障,会导致物理GPU上,虚拟的所有GPU实例中运行的程序被全部抛出异常。
用户8289326
2024-04-10
780
大模型与AI底层技术揭秘(28)思过崖上踢实况
在上期,我们讨论了AMD主导的基于SRIOV的GPU虚拟化方案。我们也发现了,由于GPU本质上不是CPU的一个外设,而是一个高度并行,具备成千上万个核的计算机,而SRIOV只是提供了对外的PCI-E接口的虚拟化,并没有提供GPU计算核心与内存分配给不同VM的能力,因此,GPU的SRIOV虚拟化方案存在着一些固有的缺陷。
用户8289326
2024-04-10
950
大模型与AI底层技术揭秘(26)从悲惨世界到和平精英
在上期,小H在梦里穿越成了“发哥”,并且成功理解了什么是“时分复用”和“空分复用”。这次,小H又梦见了什么呢?
用户8289326
2024-03-25
1280
大模型与AI底层技术揭秘(27)食神挑战烤肥肠
小H最近因为沉迷学(you)习(xi),瘦了不少,小伙伴们打算把小H带去搞点好吃的。
用户8289326
2024-03-25
660
大模型与AI底层技术揭秘(25)大丈夫日记
有一天,小H被人拉进了一个技术交流群,却发现群里讲的都是各种八卦、社会新闻和pdf小作文。小H立即产生了浓厚的兴趣,天天在这个群里面学习知识。皇天不负有心人,有一天群里终于出现了技术话题,讨论起GPU服务器内部的组件互联。小H看见了一句金句:“计算的尽头是通信”。再一看,原来是方老师说的!
用户8289326
2024-03-13
680
大模型与AI底层技术揭秘(24)从葫芦娃到植物大战僵尸
在很久以前,有一个老爷爷,种下了一棵葫芦,变成了七个各有绝学的葫芦娃。可惜葫芦变成的七个葫芦娃为了保卫和平,救出爷爷,逐一被蛇精和蝎子精抓到了。蛇精和蝎子精想把七个葫芦娃炼成七心丹,没想到七个葫芦娃合体成为了葫芦小金刚,踢碎了炼丹炉,经过艰苦的战斗,最后打败了各路妖魔鬼怪,让山谷恢复了往日的和平。
用户8289326
2024-03-05
760
大模型与AI底层技术揭秘(23)抽象派的小黑子
在上期,我们遗留了另一个问题:在ARM Cortex-A 体系架构下,应当如何让让虚拟机的OS能够访问到PCI-E设备的配置空间,IO BAR空间和DMA缓冲区?
用户8289326
2024-02-26
1100
大模型与AI底层技术揭秘(21)幽灵的暗流
我们在以前提到过,Intel通过多核技术,推翻了PowerPC,SPARC等大小型机的反动统治,将计算技术带入了一个崭新的时代,并迅速在服务器领域占据统治地位。
用户8289326
2024-02-05
1020
大模型与AI技术揭秘 (19) 小学生的高数题
A和B两个人距离5000米,两个人相向而行,A每分钟走110米,B每分钟走90米。此时,A的一只小狗与A同时出发跑向B,每分钟跑300米,遇到B则回头跑向A,遇到A再回头跑向B,如此反复,直到A和B相遇。最终小狗跑了多少米?
用户8289326
2024-01-23
1000
大模型与AI底层技术揭秘 (18) 开局爆装备的玩家
对小H这个对吃和玩更感兴趣的调皮孩子而言,这几个问题好像有点难,所以小H暂且挂起这个问题,跑出去玩几天找找灵感。
用户8289326
2024-01-17
910
大模型与AI底层技术揭秘 (17) 仓鼠病了应当吃老鼠药吗
办公室里立即充满了欢快的笑声,并且建议小H化悲痛为力量,学习好科学文化知识,避免以后别再把老鼠药理解为给鼠治病的药。
用户8289326
2024-01-10
1170
大模型与AI底层技术揭秘 (16) 从上海到苏州应该坐船吗
在上期,我们提到,在DGX A100中,由于CPU的PCI-E IO通道数少于GPU、RoCE网卡和NVMe SSD盘所需要的通道数量,工程师们设计了PCI-E Switch来实现PCI通道的扩展:
用户8289326
2024-01-02
1310
大模型与AI底层技术揭秘 (13) 大纵深与协同作战
“参加主攻方向的有:17个装甲师,2个摩托化师和22个步兵师,近百万士兵,2700辆坦克,其中包括800辆虎式坦克,还有1800架飞机,我的元首。”
用户8289326
2023-12-13
1890
大模型与AI底层技术揭秘 (12) 小日子过得不错的某岛国
这天,方老师的同事Y,很羡慕方老师有很多粉丝,所以怂恿一个熊孩子Z去问方老师一个困难的问题。
用户8289326
2023-12-04
1620
大模型与AI底层技术揭秘 (11) 变形记
有一天,小H在吃完午饭回到办公室,旁边几位同学在打《王者荣耀》,并且在挑拨匹配到的一对情侣队友分手。
用户8289326
2023-11-27
1470
大模型与AI底层技术揭秘 (10) 工业化武装的巨龙 (下)
在前几期,我们提到英伟达为了将GPU Direct拉远到机箱外,收购了芯片厂商Mellanox。那么,Mellanox拥有什么样的黑科技,才能够加入NVidia引领的高性能计算战团呢?
用户8289326
2023-11-20
1930
大模型与AI底层技术揭秘 (9) 工业化武装的巨龙 (中)
在上期,我们提到了NVLink技术能够为GPU之间提供高速低时延可靠的数据通道,两块GPU之间可以通过NVLink互通。
用户8289326
2023-11-13
1980
大模型与AI底层技术揭秘 (7) 卡车搬运的数据
在开篇之初,我们提到了最简单的AI算法:线性回归 (Linear Regression)。让我们重温一下一元线性回归算法的公式:
用户8289326
2023-10-30
1930
大模型与AI底层技术揭秘 (6) 分割与征服
二战结束后,考虑到二战为人类带来的巨大灾难,爱因斯坦与特斯拉联手研发了一台时空穿梭机,并回到了1924年,除掉了由于啤酒馆政变入狱的希特勒,纳粹德国不复存在,但这却将欧洲拖入了新的血雨腥风,使得苏联统治了整个欧洲。不久,斯大林被Nod兄弟会派来的女刺客暗杀……
用户8289326
2023-10-25
1910
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档