首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

黄仁勋刚走,H20就来了,华为昇腾910B也准备好了 | 日理

春节前夕,黄仁勋低调来中国,在英伟达中国公司的年会上,披上花坎肩,扭起了秧歌。

他前脚刚走,H20就来了,已经开始接受中国商家的预订。

2022年10月,美国商务部下令对中国禁运先进GPU H100和A100,英伟达随即为中国定制了H800和A800,但去年10月份再度遭禁。英伟达也再次为中国厂商设计缩水版GPU。

英伟达计划去年11月推出H20,但服务器制造商在集成该芯片时遇到麻烦,因而推迟到今年一季度开始小批量交付,二季度开始大量交付,英伟达二季度也开始大规模生产。

H20是英伟达为中国市场开发的三款显卡中性能最强的一种。据中国分销商透露,定价在12000美元到15000美元之间。国内一些分销商已经开始以大约110,000元人民币的价格推销这些H20。相比之下,华为的昇腾910B芯片售价约为120,000元人民币。

据一些业内人士认为,H20的某些性能似乎不如华为的昇腾 910B强大。如H20似乎在FP32性能上不及昇腾910B的一半。这是一个关键指标,用于衡量芯片处理常见任务的速度。

但H20在互连速度方面比昇腾910B有优势,这一指标衡量数据在芯片之间传输的速度。也就是说,将大量芯片连接,集成一个系统,H20仍然能够与昇腾910B竞争。

分销商提供的H20服务器,预配置了8片H20芯片,售价为140万元人民币。一年前推出时,8片H800构成的服务器售价约为200万元人民币。

在美国实施限制之前,英伟达以超过90%的市场份额主导了中国的AI芯片市场。目前华为是其主要的竞争对手。

美国商务部把英伟达折腾了两回之后,国内厂商对缩水版AI芯片开始冷淡下来。华为的AI芯片制造技术已经开始取得突破,吸引了国内更多的买家开始从华为订购。

英伟达计划推出的另外两款专为中国市场设计的芯片是L20和L2。

Miqu,CodeLLama直卷GPT-4

开源模型Code Llama 70B 发布,一些开发者试了试,发现写代码有些地方已经超过了GPT-4。码农们开始用来当编程的Copilot。有些人把它量化成4 bits,直接下载到苹果笔记本电脑上,飞机上也可以写代码了。

这几天人们热议的另外一个神秘开源模型是Miqu-1-70B ,在EQ-Bench v2测试中,居然在开源模型中位居第一,直逼GPT-4。有人预计,再对它进行精调,应该能赶上甚至超过GPT-4。

Miqu 1月28日被“泄露”在Huggingface上,还出现在一个另类网站4chan上。似乎开源圈子喜欢玩泄露,当初Meta的开源大模型Llama也是被从AI研究圈内“泄露”出去的,也是在4chan上“被泄露”的。

就在大家猜测Miqu的出身时,MistralAI联合创始人CEO  Arthur Mensch在X平台上确认了:

“一位热情过头的早期客户泄露了我们训练并相当公开分发的一款旧模型的量化(和带水印的)版本。为了能够快速开始与一些特选客户合作,我们在获得对整个集群的访问权限后,立即从Llama 2重新训练了这个模型 —— 预训练在Mistral 7B发布当天完成。自那以后,我们取得了良好的进展 — 敬请关注。”

当红开源模型Mistral由法国初创公司MistralAI开发,基于Llama2模型架构。去年底Mistral 7B在所有基准测试中表现优于Llama2 13B,并且在许多基准测试中甚至可以与Llama 134B相媲美,引起了轰动。

由8个专家模型构成的Mistral 8X7B,最近在一个定制用来进行语言推理的芯片Groq上,跑出了每秒488 tokens 的惊人速度。

致力于开源大模型的Meta,今年将采购35万张GPU H100。要知道,它已经建立起了科技巨头中最大的AI算力集群,如果把其他GPU都加上的话,其算力大约相当于60万张H100。Meta还将采购AMD的MI300X。

Llama3正在训练之中,与GPT-5和Gemini Ultra一起,是今年最受期待的下一代大模型。

目前Meta拥有一个由图灵奖区获得者杨立昆领导的AI基础研究团队(Fair),以及一个AI产品团队GenAI。

开源模型如此生猛,闭源大模型的研究人员,是不是已经开始怀疑人生?

OpenAI Jason Wei: 大语言模型不是AI最后一个范式,准备转向“next big thing”

OpenAI的科学家Jason Wei,因写出Chain of Thoughts论文而知名,他在X上称:“到到目前为止,我职业生涯的决定性赌注,是在2021年押到语言模型的扩展能力上。显然,这是当前的范式,大型语言模型已经产生了巨大的影响。但这不会是AI中的最后一个范式。所以当时机到来时,我希望我将有智慧来对抗这种惯性并转向下一个重大的事物。”

Microsoft 365入驻苹果Vision Pro

就在苹果Vision Pro开始发售的2月2日,微软的Microsoft 365将入驻Vision Pro的应用商店,包括Microsoft Word、Excel、PowerPoint、Outlook、OneNote、Loop 和 Microsoft Teams 套件。其中包括了 Copilot,如创建草稿、总结文档以及用语音生成 PowerPoint 演示文稿等功能。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Ov3aC19lUTcp6fjb4TzMzFug0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券