你好,我是术哥,云原生开源技术布道者:KubeSphere Ambassador、Milvus 北辰使者。很高兴在「运维有术」与你相遇。
Tesla M40 24G 实测系列回顾:
【独家揭秘】百元级"垃圾卡"竟能媲美万元RTX?M40+QwQ-32B组合让AI大佬都惊呆了!
【独家首发】百元显卡逆袭记:Tesla M40 24G挑战 66G显存的 SRE-Qwen运维大模型,测完又要涨价了!
一年爆涨3倍!Tesla M40 24G 一款被低估又被吹高的神卡?实测 Gemma3-27B,看到结果我沉默了!
Tesla M40 24G 实测!DeepSeek-R1-Qwen-32B、Gemma3-27B、QwQ-32B 三王PK!
作为一名深耕 AI 技术的科技博主,我前几期对 Tesla M40 24G 显卡的深度测评获得了广泛关注。这款显卡的优异表现让我一度认为它将成为个人用户部署本地大模型的最佳选择。
然而,垃圾佬的世界没有最强只有更强。最近我收到众多读者的反馈:术哥,有一个新的性价比之王正在崛起 - AMD Mi50 32G,它会终结 M40 的统治地位吗?
带着这个问题,我投入了大量时间研究 AMD Mi50 32G 的技术规格和实际应用潜力。经过深入分析,我认为这款显卡确实展现出令人期待的性能特点。
本着为读者提供第一手测评数据的职责,我投资了1900元人民币购入两块 AMD Mi50 32G 显卡和配套散热系统(每块显卡900元,外加运费和两个3D打印的散热风扇共100元)。接下来,我将对这款显卡进行全方位的性能测试和实战评测。
先说第一次测试结果:
AMD Mi50 32G 优势:
主要限制:
不想看冗长文档?那就直接看视频吧
一句话 32G大显存能跑推理、能训练的的 AI 显卡!
显卡真身
参数特性
下图是16G版本的详细参数,32G版的除了显存不一样,其它参数基本一致
AMD 官网的Mi50 32G显卡参数介绍(其它不重要的略过)
其它说明:
硬件环境:
软件环境:
关于虚拟机使用说明
目前 Mi50 显卡在PVE虚拟机环境下存在一些技术瓶颈,暂时无法完美支持虚拟机直通。因此本次测试直接在 PVE 宿主机(Debian 12)上进行,具体步骤如下:
重要提示: 如果你也打算入手 Mi50 显卡,建议先在裸机上安装 Ubuntu 或 Debian 等 Linux 系统进行测试。目前不建议在PVE虚拟化环境下使用该显卡(ESXI虚拟化没准可行?)。
作为 Mi50 实战测试系列的开篇之作,我们将聚焦一个核心问题:在大模型推理速度方面,AMD Mi50 32G 和 Tesla M40 24G 这两款百元级显卡,谁才是真正的性价比之王?
让我们开启第一轮对决 - 推理速度测试!
今天(2025年6月7日),恰逢2025年高考,我们直接用高考作文(新课标 I 卷)来进行一次实际测试。这不仅能检验模型的生成速度,也能让我们直观感受模型的实际表现。不过需要提醒的是,在模型 INT4 量化的条件下,我们更应该关注模型的性能表现,而不是过分期待生成内容的质量。
以下是高考作文题目(来自网络):
题目:家国情怀
阅读下面的材料,根据要求写作。(60分)
他想要给孩子们唱上一段,可是心里直翻腾,开不了口。
——老舍《鼓书艺人》(见全国一卷阅读II)
假如我是一只鸟,
我也应该用嘶哑的喉咙歌唱
——艾青《我爱这土地》
我要以带血的手和你们一一拥抱,
因为一个民族已经起来
——穆旦《赞美》
以上材料引发了你怎样的联想和思考?请写一篇文章。
要求:选准角度,确定立意,明确文体,自拟标题;不要套作,不得抄袭;不得泄露个人信息;不少于800字。
$ docker compose exec -it ollama ollama run qwen3:32b --verbose
>>> 你是参加中国高考的考生,题目:家国情怀
... 阅读下面的材料,根据要求写作。(60分)
... 他想要给孩子们唱上一段,可是心里直翻腾,开不了口。
... ——老舍《鼓书艺人》(见全国一卷阅读II)
... 假如我是一只鸟,
... 我也应该用嘶哑的喉咙歌唱
... ——艾青《我爱这土地》
... 我要以带血的手和你们一一拥抱,
... 因为一个民族已经起来
... ——穆旦《赞美》
... 以上材料引发了你怎样的联想和思考?请写一篇文章。
... 要求:选准角度,确定立意,明确文体,自拟标题;不要套作,不得抄袭;不得泄露个人信息;不少于800字。
Thinking...
好的,我现在需要帮用户解决一个关于高考作文的问题。题目是“家国情怀”,材料里引用了老舍、艾青和穆旦的诗句。用户希望我模拟一个考生的思考过程,然后写出一篇符合要求的作文。
首先,我得仔细分析材料。老舍的句子提到“心里直翻腾,开不了口”,可能表现了一种压抑的情感或者责任感。艾青的诗强调即使喉咙嘶哑也要歌唱,显示了深沉的爱与坚持。穆旦的诗句则带有牺牲和团结的意味,一个民族的觉
醒。
接下来,我需要确定主题。家国情怀通常涉及个人与国家的关系,牺牲、责任、情感等。结合三位作家的诗句,可以联想到不同时代背景下,人们如何表达对家国的热爱和奉献。可能需要从历史角度切入,展示不同时期的家国情
怀表现形式。
然后考虑结构。可能需要分几个部分:比如古代、近现代、当代,或者不同人物的例子。比如文天祥、林则徐、鲁迅、抗疫医护人员等,展示不同时代的家国情怀。这样既有历史深度,又有现实意义。
还要注意引用诗句,结合材料中的例子。比如老舍的《鼓书艺人》可能反映抗战时期的文化人的挣扎,艾青的诗表现对土地的热爱,穆旦则强调民族的觉醒。需要将这些诗句与论点结合起来,说明家国情怀的延续和变化。
可能需要一个比喻,比如“家国情怀如长河”,用河流比喻其延续不断,不同时期有不同的表现。这样结构清晰,也容易展开。
还要注意开头和结尾。开头可以引用诗句,点明主题。结尾要升华,联系当下,强调青年人的责任。
检查是否符合要求:明确文体(议论文),自拟标题,比如“家国情怀如长河,奔流不息映丹心”。确保不抄袭,例子要准确,比如文天祥的《正气歌》,林则徐的虎门销烟,鲁迅弃医从文,抗疫中的医护人员等。
可能需要注意避免套作,所以例子要具体,分析要深入。比如文天祥在狱中仍坚持气节,林则徐在禁烟中的牺牲,鲁迅用笔唤醒民众,这些都能体现不同时代的家国情怀。
最后,确保语言流畅,有文采,使用排比、比喻等修辞手法,增强感染力。同时,注意字数不少于800字,结构合理,论点明确。
...done thinking.
## 家国情怀如长河,奔流不息映丹心
老舍笔下艺人颤抖的喉咙,艾青诗中带血的鸟鸣,穆旦笔下觉醒的民族,共同谱写出中华民族的精神长歌。家国情怀不是凝固的标本,而是奔涌的长河,在历史的峡谷中回旋激荡,在时代的河床上滋养万物。从甲骨文的刻痕到航天器的轨迹,这份情怀始终是华夏儿女血脉中的精神密码。
当文天祥在元大都的土牢里写下《正气歌》时,他枯槁的手指间迸发出的,是中华文脉最坚韧的气节。南宋的残阳染红了零丁洋的浪花,却让"人生自古谁无死"的绝唱穿越七百年时空。这让我想起《鼓书艺人》中欲唱不能的艺人,他们的喉咙里堵塞的不是音符,而是对山河破碎的悲愤,对家国存亡的担当。正如青铜器上的饕餮纹在商周王朝更迭中永不褪色,家国情怀早已熔铸成文明的基因。
明清易代之际,林则徐在虎门海滩的滚滚浓烟中,用硝烟的烈焰点燃民族的觉醒。他深知销烟激怒的不只是洋商,更是整个时代的沉疴。就像艾青笔下"用嘶哑的喉咙歌唱"的鸟,林则徐在《赴戍登程口占示家人》中写下"苟利国家生死以"时,枯瘦的笔锋里跃动着凤凰涅槃的光焰。这份情怀穿越鸦片战争的硝烟,在五四运动的街头化作"外争主权"的呐喊,在长征路上凝结成雪山草地的足迹。
当新冠疫苗在武汉研发成功时,我看见白大褂下的脊梁延续着穆旦诗中"带血的手"的温度。张定宇院长拖着渐冻的身躯奔走病区,陈薇院士在实验室争分夺秒,他们与百年前的先烈有着同样的选择:在历史的危急关头,用生命作火把照亮人间。这种选择,让大禹治水的神话在当代续写,让都江堰的智慧在病毒基因序列中重生。
从良渚玉琮的神人兽面纹到空间站的中国结,家国情怀始终是文明长河的金色脉络。当我们站在两个百年交汇处,这份情怀不再是"开坛斩仇寇"的悲壮,而是"功成不必在我"的从容。就像黄河九曲终奔大海,我们的选择早已注定:以青春为墨,在时代的宣纸上续写家国天下的永恒诗篇。
实测速度:
total duration: 1m18.498559816s
load duration: 21.92663ms
prompt eval count: 166 token(s)
prompt eval duration: 119.093659ms
prompt eval rate: 1393.86 tokens/s
eval count: 1142 token(s)
eval duration: 1m18.356122883s
eval rate: 14.57 tokens/s
资源使用情况:
$ nvidia-smi
Sat Jun 7 07:11:54 2025
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.144.03 Driver Version: 550.144.03 CUDA Version: 12.4 |
|-----------------------------------------+------------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+========================+======================|
| 0 Tesla M40 24GB Off | 00000000:00:10.0 Off | 0 |
| N/A 87C P0 172W / 250W | 21057MiB / 23040MiB | 98% Default |
| | | N/A |
+-----------------------------------------+------------------------+----------------------+
+-----------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=========================================================================================|
| 0 N/A N/A 323291 C /usr/bin/ollama 21053MiB |
+-----------------------------------------------------------------------------------------+
$ docker compose exec -it ollama ollama run qwen3:32b --verbose
>>> 你是参加中国高考的考生,按以下要求完成作文。
... 题目:家国情怀
... 阅读下面的材料,根据要求写作。(60分)
... 他想要给孩子们唱上一段,可是心里直翻腾,开不了口。
... ——老舍《鼓书艺人》(见全国一卷阅读II)
... 假如我是一只鸟,
... 我也应该用嘶哑的喉咙歌唱
... ——艾青《我爱这土地》
... 我要以带血的手和你们一一拥抱,
... 因为一个民族已经起来
... ——穆旦《赞美》
... 以上材料引发了你怎样的联想和思考?请写一篇文章。
... 要求:选准角度,确定立意,明确文体,自拟标题;不要套作,不得抄袭;不得泄露个人信息;不少于800字。
...
<think>
好的,我现在需要帮用户完成一个高考作文题目,题目是“家国情怀”。材料包括老舍、艾青和穆旦的三段引文。首先,我得仔细
分析这些材料的共同点和各自的独特之处,然后确定一个合适的立意。
老舍的句子提到“心里直翻腾,开不了口”,这可能表现了在困境中难以表达情感,或者内心矛盾。艾青的诗句“用嘶哑的喉咙歌唱
”显示了即使艰难也要表达对土地的热爱。穆旦的“带血的手”和“民族已经起来”则强调牺牲和民族觉醒。这三者都围绕家国情怀,
但角度不同:老舍可能更侧重内心的挣扎,艾青是坚持表达爱,穆旦则是牺牲与团结。
接下来,我需要确定一个统一的主题。家国情怀通常涉及个人与国家的关系,责任、奉献、情感等。可能的立意方向包括:在困
境中坚持爱国情怀,个人牺牲为国家,文化传承中的家国情感,或者不同时代的家国表达方式。
考虑到高考作文需要结构清晰,论点明确,我应该选择一个能涵盖三个材料的角度。比如,可以讨论家国情怀在不同情境下的表
现形式:有时是沉默的坚守,有时是呐喊的表达,有时是牺牲的行动。或者从文化传承的角度,说明家国情怀如何通过艺术、诗
歌等形式传递。
然后,我需要构思文章结构。通常分为引言、论点段落、结论。引言部分可以用其中一个诗句引出主题。每个论点段落分析一个
材料,联系历史或现实的例子,最后总结升华。
比如,第一段分析艾青的诗句,联系抗战时期的文人,用例子如文天祥、岳飞,或者现代的例子如抗疫中的医护人员。第二段分
析老舍,讨论沉默中的坚守,比如工匠、教师等默默奉献的人。第三段穆旦的牺牲精神,结合历史上的牺牲者,如屈原、近代革
命者。
需要注意避免套作,所以例子要新颖,结构要有层次。同时,语言要符合高考作文的要求,有文采但不浮夸,论点明确,逻辑连
贯。
可能遇到的困难是如何将三个不同的材料有机结合起来,而不是孤立分析。需要找到一个主线,比如时间线(不同时代的表现)
,或者情感表达的不同形式(呐喊、沉默、行动),或者个人与集体的关系。
另外,标题要吸引人,比如“家国情怀:沉默的歌喉与带血的诗行”或者“家国之歌,穿越时空的回响”。
现在检查是否符合要求:是否明确文体(议论文),是否有套作(需确保例子和论点原创),是否泄露个人信息(没有),字数
足够(需要展开每个部分)。
最后,确保开头和结尾呼应,引用材料中的句子,升华主题到当代青年的责任,呼应高考考生的身份,增强感染力。
</think>
## 家国之歌:沉默的喉咙与带血的诗行
"他想要给孩子们唱上一段,可是心里直翻腾,开不了口。"老舍笔下的这句呢喃,与艾青"嘶哑的喉咙"、穆旦"带血的手"形成奇妙的呼应。在历史的长河中,家国情怀从未是单一声部的咏叹,而是由沉默的坚守、呐喊的炽热与带血的温柔共同谱写的交响诗。
当文天祥在零丁洋畔写下"人生自古谁无死"时,他正用带血的手书写民族气节。南宋的残阳如血,这位状元宰相在漂泊的战船上回望破碎山河。他本可以像无数士大夫那样南渡偏安,却选择以死明志。正如穆旦诗中"一个民族已经起来"的宣言,文天5年的崖山海战,十万军民投海殉国,用血肉之躯谱写气吞山河的悲壮。这种以生命为祭的家国情怀,是青铜鼎上永不褪色的铭文。
艾青的"嘶哑的喉咙"让我们看见另一种坚守。抗战时期的西南联大师生,在漫天烽火中肩挑背扛,将典籍古籍千里护送;敦煌守护者常书鸿在黄沙驼铃中守护壁画,用生命抵御风沙侵蚀。这些无声的守护者如同大运河的流水,默默滋养着文明的根脉。就像《鼓书艺人》中欲唱又止的艺人,有时最深沉的爱恰恰是沉默的守望,是故宫文物南迁时三千箱古物在山洞中静静沉睡的尊严。
在贵州天眼FAST的观景台,我看见工程师们用带血的手创造国之重器。南仁东教授二十二年坚守,把论文写在祖国大地上;敦煌女儿樊锦诗在洞窟中守护千年时光。他们继承了屈原"路漫漫其修远兮"的执着,延续着范仲淹"先天下之忧而忧"的担当。这种情怀早已融入民族血脉,成为刻在基因里的文化密码。
站在两个百年的历史交汇点,我们这一代人正在书写新的家国篇章。从"嫦娥"探月到"蛟龙"潜海,从脱贫攻坚到抗击疫情,新时代青年用科技之光照亮山河,用仁爱之心温暖人间。正如青铜器在岁月中生长出青苔却愈发厚重,家国情怀在传承中不断焕发新的生机。这或许就是中华文明五千年不息的奥秘——每个时代都有人愿做那只"嘶哑的鸟",有人甘为那双"带血的手",更有人在沉默中守护文明的火种。
实测速度
total duration: 4m55.910737807s
load duration: 33.001883ms
prompt eval count: 170 token(s)
prompt eval duration: 4.83983409s
prompt eval rate: 35.13 tokens/s
eval count: 1245 token(s)
eval duration: 4m51.036443273s
eval rate: 4.28 tokens/s
看到结果,屏幕前的你,是否也感到震惊?让我们来对比一下具体数据:
Mi50 的推理速度是 M40 的 3.4 倍!这个差距远超我的预期。为了确保数据准确性,我进行了多次测试,结果都显示出类似的性能差异。这意味着在大模型推理任务中,Mi50 确实展现出了显著的性能优势。
资源使用情况:32G大显存确实爽,还有10G左右的剩余
翻车现象:
显卡直通给虚拟机使用时,虚拟机无论使用 Ubuntu 22.04、Ubuntu 24.04 还是 Debian 12 都会报下面的错误:
root@ub2204-vllm-node-1:~# dmesg | grep amd
[ 0.000000] Linux version 6.8.0-60-generic (buildd@lcy02-amd64-054) (x86_64-linux-gnu-gcc-13 (Ubuntu 13.3.0-6ubuntu2~24.04) 13.3.0, GNU ld (GNU Binutils for Ubuntu) 2.42) #63-Ubuntu SMP PREEMPT_DYNAMIC Tue Apr 15 19:04:15 UTC 2025 (Ubuntu 6.8.0-60.63-generic 6.8.12)
[ 2.250918] amdkcl: loading out-of-tree module taints kernel.
[ 2.250926] amdkcl: module verification failed: signature and/or required key missing - tainting kernel
[ 5.913497] [drm] amdgpu kernel modesetting enabled.
[ 5.913517] [drm] amdgpu version: 6.10.5
[ 5.913857] amdgpu: Virtual CRAT table created for CPU
[ 5.913915] amdgpu: Topology: Add CPU node
[ 6.012843] amdgpu 0000:00:10.0: amdgpu: Fetched VBIOS from ROM BAR
[ 6.012902] amdgpu: ATOM BIOS: 113-D1631711-100
[ 6.018998] amdgpu 0000:00:10.0: amdgpu: Trusted Memory Zone (TMZ) feature not supported
[ 26.019915] [drm:atom_op_jump [amdgpu]] *ERROR* atombios stuck in loop for more than 20secs aborting
[ 26.020855] [drm:amdgpu_atom_execute_table_locked [amdgpu]] *ERROR* atombios stuck executing 4EC4 (len 74, WS 0, PS 8) @ 0x4EDC
[ 26.021623] amdgpu 0000:00:10.0: amdgpu: gpu post error!
[ 26.021980] amdgpu 0000:00:10.0: amdgpu: Fatal error during GPU init
[ 26.022364] amdgpu 0000:00:10.0: amdgpu: amdgpu: finishing device.
[ 26.048742] amdgpu: probe of 0000:00:10.0 failed with error -22
解决方案:
目前能确定的是,肯定不是显卡硬件的问题。属于操作系统内核、驱动上的问题,GitHub 上有类似的问题及解决方案,但是该解决方案是四年前的解决方案。亲测不适用于使用6.8.x 内核的 Linux系统。
未完待续!AMD MI50 32G显卡的探索之旅才刚刚开始,后续我们将继续深入测试: