2023 年的 AI 产业可以用风起云涌来形容。ChatGPT 的横空出世让生成式 AI 技术一夜之间红遍全球,很多从未了解过人工智能的普通人也开始对大模型产生了浓厚的兴趣。媒体、调研机构纷纷推出长篇专题,论证 ChatGPT、StableDiffusion、Midjourney 等文本和图像大模型会对哪些行业产生颠覆式影响;甚至有很多员工和企业开始利用这些大模型提升日常工作中的生产力,乃至取代人类岗位。毫无疑问,2023 年将是大模型技术开始爆发的转折点,一场影响深远的技术革命正在徐徐拉开帷幕。
人工智能技术改变了我们的生活,而说到 AI 背后的算力,人们经常会先想到 GPU。从 2019 年英特尔为其第二代至强可扩展处理器增添了内置的深度学习加速技术后,原本定位通用计算的 CPU 芯片,也加入了为 AI 加速的行列。
机器之心报道 机器之心编辑部 英特尔在自己最擅长的 CPU 上完成了一次 AI 计算的革新。 人工智能技术改变了我们的生活,而说到 AI 背后的算力,人们经常会先想到 GPU。从 2019 年英特尔为其第二代至强可扩展处理器增添了内置的深度学习加速技术后,原本定位通用计算的 CPU 芯片,也加入了为 AI 加速的行列。 今天,代号为「Sapphire Rapids」的第四代至强可扩展处理器也在中国迎来发布首秀,除了一系列微架构的革新和技术规格的升级外,新 CPU 对 AI 运算「更上层楼」的支持也格外引人
据悉,近日虚拟货币全线大跌,狗狗币一度跌近10%。马斯克言论一出,狗狗币短线快速拉升,24小时跌幅收窄至1.2%。此外,马斯克最近被一名美国狗狗币投资者起诉,要求索赔2580亿美元(约合人民币1.7万亿元)。
本文主要介绍服务器的概念、常见的服务器技术和架构组成,此外将详细介绍磁盘、RAID知识,网卡概念、分类和主流厂商、产品,内容大致分为3部分。
由于游戏行业的需求复杂,其相对较晚受到 AI 创新浪潮的影响,独特的创新周期、对游戏性和故事性的高要求,以及市场接受度和玩家期望的多样性,也延缓了 AI 在游戏中的广泛应用。再加上对经济因素和开发成本的考量,使得游戏行业在采纳 AI 技术时持谨慎态度。
服务器CPU,就是在服务器上使用的CPU。目前,服务器CPU按CPU的指令系统来区分,通常分为CISC型CPU和RISC型CPU两类,后来又出现了一种64位的VLIM(Very Long Instruction Word超长指令集架构)指令系统的CPU,而Intel选择称呼他们的新方法为EPIC(Explicitly Parallel Instruction Computer,精确并行指令计算机)。
加利福尼亚州弗里蒙特,2023年7月27日,高性能计算 (HPC)、人工智能 (AI) 和数据中心解决方案的领先提供商Exxact公司现在提供专用的液体冷却AI开发平台,该平台具有适用于CPU和GPU的企业级冷却解决方案,以加速最密集的AI应用。它承诺为AI开发工作负载构建的卓越性能,同时保持噪音水平几乎无声。
今天腾讯云正式上线第八代云服务器标准型实例 S8和内存型实例M8。基于自研服务器的高密设计与硬件升级,搭载第五代英特尔®至强®可扩展处理器的腾讯云实例S8/M8,计算性能大幅提升,对比腾讯云云服务器上代实例,整机性能提升115%,单核性能提升28%[1],内存带宽提升75%。 内置英特尔® 高级矩阵扩展(英特尔® AMX)AI加速器,推理场景性能最高提升8倍,深度学习场景性能最高提升2倍,可为主流AI带来强力支持。
1月11日下午,英特尔在北京召开了主题为“芯加速 行至远”的第四代至强新品发布会,正式推出代号为“Sapphire Rapids”的第四代英特尔至强可扩展处理器、英特尔至强CPU Max系列(代号“Sapphire Rapids HBM”)以及英特尔首个数据中心GPU Max系列(代号“Ponte Vecchio”),在实现数据中心性能、能效和安全性大幅跃升的同时,为AI、云、网络、边缘和全球领先的超级计算机带来全新功能。
以Intel为例,有酷睿(Core),赛扬(Celeron),奔腾(Pentium),至强(Xeon)这几大系列。对于CPU,大家可能对核心,线程数,频率这些性能指标比较熟悉,其实最重要的是需了解不同的CPU是针对不同场合设计的,好比你再追求速度也不会开着兰博基尼去跑越野吧[1]。简单来说,至强是给服务器用的,酷睿是主流家用的,奔腾和赛扬则是面向低成本低性能的配置,赛扬又是奔腾的简配版本。
在如今大数据流量剧增的网络应用时代,服务器租用越来越成为众多企业和运营商的首选。而性能和配置不达标的服务器选择只会给企业带来诸多运营问题;但不经过实际需求的评估,轻率的选择一台性能强劲、价格昂贵的服务器,无疑是会带来成本上的浪费;因此,不能一味的为了省钱而选择一台很容易称为计算瓶颈,或者没有充分考虑数据冗余的服务器,都是会影响正常的业务运行,你需要从不同的角度来决定选择一台什么样的服务器,找到满足技术需要、业务发展和成本控制之间的最佳平衡点,为了做到这一点,绝对还是需要一点智慧。
近日,腾讯云宣布推出多款全新的云服务器产品,包括标准型 S6、内存型 M6和计算型 C6。这几款产品基于最新发布的英特尔第三代英特尔® 至强® 可扩展处理器和全新一代自研星星海双路服务器打造,产品性能和业务表现显著提高,可以为游戏、网关场景带来最大高达5倍的性能增幅。
机器之心原创 作者:思 CPU 不适合模型推理和训练?那已经是老刻板印象了,英特尔® 至强® 可扩展处理器搭配 AVX-512 指令集,单核一次能同时进行 128 次 BF16 浮点运算,这对于一般的深度学习模型不论在训练还是推理已经是足够的了。 说到模型训练,很多算法工程师首先想到的就是各种深度学习框架,以及 CUDA、cuDNN、NCCL 等 GPU 训练环境,似乎我们很少优先考虑在 CPU 上直接训练模型。这可能是在潜意识里,我们将 CPU 视为不适合并行计算的设备,思考着,也许 CPU 训练模型不仅
AI 研习社按:TensorFlow 的机器学习库可以说大家都已经很熟悉了,但 IBM 的研究人员们表示这都是小意思。
本文对服务器知识进行了汇总,并添加了服务器基准测试和认证章节,内容包括9大章节,从服务器的概念、服务器重要部件技术和架构组成,并且对磁盘、RAID知识,网卡等知识做了深度详细介绍。
腾讯与英特尔合作推出两款零售的AI产品,这两款产品均由腾讯的YouTu Lab(其计算机视觉研究部门)开发,内置英特尔的Movidius Myriad芯片。
美光本周宣布,它已经开始对其 256 GB multiplexer combined (MCR) DIMM 进行采样,这是该公司迄今为止容量最大的内存模块。这些全新的基于 DDR5 的 MCRDIMM 面向下一代服务器,特别是那些由英特尔至强可扩展“Granite Rapids”处理器提供支持的服务器,该处理器将支持12或24 memory slots per socket。使用这些DIMM 可以使数据中心计算机具有3TB或6TB的内存,达到 DDR5-8800 的数据速率。
图片来自施敏 - 半导体元件物理 - 台湾交通大学公开课 📷 第一个三极管 📷 第一个增强型场效应管 📷 非易失性半导体存储器 作为对比,下图是英特尔下一代至强(Xeon)可扩展处理器。图片来源腾讯网。 📷 📷
在机器学习的领域中,张量指的是描述神经网络的数学模型中使用的多维数组。换言之,张量通常是一个矩阵或矢量的更高维泛化。 通过一种使用秩来显示维数的简单表示法,张量可以将复杂的 n 维矢量和超形状表示为 n 维数组。张量有两个属性:数据类型和形状。 关于 TensorFlow TensorFlow 是一个开源的深度学习框架,于 2015 年末依据 Apache 2.0 许可进行发布。自那以后,它成为了在全球得到最广泛采用的深度学习框架之一(根据它的 GitHub 项目数量来判断)。 TensorFlow 的起源
随着企业业务云化和大语言模型等人工智能应用的爆发,社会对算力的需求正飞速增长,对数据中心提出了前所未有的要求,包括更强的计算力、更大的存储容量和更高的网络带宽等。同时,算力规模的增大也给数据中心带来越来越高的能源等成本支出。在 “双碳” 目标驱动下,数据中心亟需通过持续变革实现算力提升和能耗降低的双重目标,同时保持低碳运营。
1月11日,英特尔在北京召开了主题为“芯加速 行至远”的第四代至强新品发布会,正式推出第四代英特尔至强可扩展处理器(代号“Sapphire Rapids”),通过丰富的内置加速器提供领先的性能,解决客户在AI、分析、网络、安全、存储和科学计算领域面临的重大计算挑战,面向人工智能、云计算、数据分析等众多场景提供强劲算力。
晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI 英特尔的GPU“大招”——硬件产品和软件生态——终于一起来了。 AI时代,GPU对计算加速的重要性毋庸置疑。 连英特尔也承认,进入海量智能设备和数据指数增长的时代后,需要将重点从CPU转移到跨CPU、GPU、FPGA和其他加速器的混合架构。英特尔将其称之为“XPU”愿景。 今天,英特尔发布了“XPU”愿景中的两个重要产品: 1、首款数据中心独立显卡,即英特尔服务器GPU 2、用于统一和简化的跨XPU体系架构编程的oneAPI Gold工具包
当今时代,各行各业与人工智能(AI)加速融合,通过智能化创新来寻求业务转型升级。与为数不多的顶级AI研发公司相比,大多数传统行业或企业有着更丰富的 AI 应用场景,推动着规模化的AI应用落地,其AI应用更具有实践意义。然而,在智能化技术架构和平台选择上,它们又往往面临着“拿着钉子到处找锤子”的尴尬局面。
△ TPU的印刷电路板 李杉 编译整理 量子位 报道 | 公众号 QbitAI 自从Google去年透露自己开发了一款名为TPU的专用芯片,用于提高人工智能计算任务的执行效率,关于这种新芯片的猜测就从未停止。 今天,Google终于披露了关于TPU的更多信息。除了发表一篇有75位联合作者的论文《In-Datacenter Performance Analysis of a Tensor Processing UnitTM》外,文章的第四作者David Patterson还在美国国家工程院的活动上发表了演
英特尔首款10nm工艺的服务器处理器来了,基于Ice Lake的第三代至强可扩展处理器正式发布。
“随着DPU 越来越多地出现在大众视野中,期待未来可以看到加密/解密、防火墙、数据包检查、路由、存储网络等功能由 DPU 处理,”Turner 预测。
丰色 明敏 发自 凹非寺 量子位 | 公众号 QbitAI 搅翻计算生物界的AlphaFold2一开源,各种加速方案就争相涌现。 妹想到啊,现在居然有了个CPU的推理优化版本,不用GPU,效果也出人意料的好—— 端到端的通量足足提升到原来的23.11倍。 △ 高达23.11倍的提升不是一蹴而就,但依然惊艳 换个更具体的数据,它直接让AlphaFold2的通量从每天约4.6个序列提升到了约105.4个。 要知道,由DeepMind开源的AlphaFold2,通过AI算法对蛋白质结构预测实现了接近实验精度的精
2024年6月6日,以“绿色向新,释放新质生产力”为主题的英特尔®至强® 6能效核处理器新品发布会在北京举行。会上,英特尔重磅推出首款配备能效核的英特尔至强6(Xeon 6)处理器产品(代号Sierra Forest),为高密度、横向扩展工作负载带来性能与能效的双重提升,同时携手金山云、浪潮信息、南大通用,以及记忆科技等多家生态合作伙伴,分享基于该处理器的端到端创新解决方案,及其在诸多领域的实践成果与应用价值。
8月3日,鸿海集团发布公告,宣布通过子公司再度对AI芯片创业公司耐能(Kneron)投资1400万美元,此次增加投资后,鸿海将累计持有耐能2.7024%股权。
8月19日消息,据彭博社报道称,芯片制造商高通正准备重新进入Arm服务器芯片市场。
北京时间4月9日晚间,英特尔在美国召开了“Intel Vision 2024”大会,介绍了英特尔在AI领域取得的成功,并发布了新一代的云端AI芯片Gaudi 3及第六代至强(Xeon)可扩展处理器,进一步拓展了英特尔的AI产品路线图。
大数据、云计算、人脸识别、自动驾驶……近年来这些耳熟能详的人工智能科技,正在悄然改变着我们的生活。英特尔作为全球领先的科技公司,一直致力于用人工智能解决大问题。
网络智能化为何能够获得2022年吴文俊人工智能科技进步奖? 作者丨汤向根 编辑丨陈彩娴 5G和人工智能都是新一轮科技革命和产业变革的重要驱动力量。 随着5G网络的大规模商用,加速的服务创新对网络智能提出了更高的要求。运营商如何利用AI技术应对未来网络的挑战,更好地管理来自网络不同层的数据,支撑公司业务管理向智能化转型,成为了一个关键的课题。 目前,全球运营商、设备商和数字化应用服务提供商皆已开始了将AI技术应用到通信网络本身的探索,并取得了不错的进展。2019年,TM Forum提出了自智网络的概念。随后
Saltyfish(中文名咸鱼云)是一家成立于2020年的云主机商,目前主要提供KVM 云主机,机房有美国(西雅图、圣何塞)、德国(法兰克福)、荷兰(阿姆斯特丹)和香港等地,另外它还提供美国西海岸专用服务器。Saltyfish咸鱼云支持中文,中国银联付款。性价比高、性能稳定,不定期还推出一些优惠活动,是一个不错的选择。本文介绍了咸鱼云主机的优势、套餐类型以及购买流程,希望对你有所帮助。
其实,在不那么直观的地方,数据也在悄然发生变化:斯坦福大学发布的「2023 年 AI 指数报告」显示,2022 年采用 AI 的公司比例自 2017 年以来翻了一番以上。这些公司报告称,采用 AI 之后,它们实现了显著的成本降低和收入增加。
计算、存储、网络都有核心处理芯片的问题,但从关注度来看,存储系统采用什么核心处理芯片并不为人关注。
在大语言模型(LLM)领域,越强大的模型就越需要算力。最近有消息称,当前业界标杆 GPT-4 在训练中使用了约 2.5 万块 A100,训练时长超过 90 天。
从数据分析、经典机器学习到搜索、推荐,再到语言处理和图像识别,每个 AI 任务运行的背后都需要海量的数学计算。可以说,AI 真的就是数学,但却是很多很多的数学。
很多深度学习入门者或多或少对计算机的配置需求有一些疑惑。入门的硬性需求是什么,应该买什么样的电脑,什么样的显卡比较适合,自己的笔记本可以使用吗等等问题。这些问题之前我也有很多疑惑,现在总结了下,为大家稍微讲解一下所需要的配置,以及推荐清单。
有人说是云市场本身的魅力。IDC的最新报告显示:全球云市场会持续高速增长,到2024年市场规模将达到1万亿美元,中国市场的份额预计超过10%。
编辑 | Lisa 阿里云和英特尔作为云与硬件厂商的代表,如何打破摩尔定律失效的魔咒? 在摩尔定律失效的今天,各行各业对算力的需求却空前膨胀。大数据、AI 等趋势方兴未艾,生命科学、智能制造等行业的深度数字化,也给数据处理的规模和性能带来更高要求。 云作为如今数字经济的基础设施,承载着海量的应用。云厂商不得不思考,如何才能更好地满足客户对数据处理效率越来越高的要求,对算力性能、性价比越来越高的要求? 在摩尔定律失效的今天,当前云上的企业是否已经触碰到了云效益的天花板?云厂商可以做点什么,来突破传统计算
1月12日消息,线索发现难、监督工作碎片化、监督实效不明显,这些都是检察机关法律监督工作常常遇到的难题。北京市检察院不断强化数字治理效能,提升检察履职能力,依托覆盖各检察业务领域的“数据池”,构建起大数据法律监督模型70个,发现线索、监督立案8024件,制发检察建议1072份,实现了法律监督的提质增效。
2012年11月,英特尔(Intel)在盐湖城举办的全球超级计算机(SC12)大会上,正式发布了基于集成众核(MIC)架构的Xeon Phi(至强融核)协处理器。其中Xeon Phi协处理器5110P即日起出货。日前,华硕超算服务器明星产品——ESC4000系列宣布领先支持Intel 至强融核Phi 5110P协处理器。 作为全球电脑与数字技术首屈一指的领导品牌,华硕电脑一直致力于超算产品的开发,采用做工精良的超算级主机板及CPU+GPU协同计算架构,以领先业界的技术和严格的工业品质,为科研人员
财报显示,英特尔一季度营收117亿美元,同比下跌36%,这已经是连续第五个季度下滑,同时也是2010年以来的历史新低。净利亏损27.6亿美元,也是连续第二个财季亏损,并刷新了2017年第四财季亏损6.87亿美元的纪录。
📷 鉴于英特尔可扩展视频技术(SVT)开源视频编码器以及其他开源视频编码器/解码器的最新更新,以下是AMD 霄龙 7742 双路服务器在与英特尔竞争的情况下与之抗衡的最新表现,同时让我看看AMD在企业
迄今为止,全球超过一半的数据都在过去两年产生,仅有不到2%的数据经过了处理和分析。
在竞争日益激烈的环境中,数据中心作为传统信息化的基础,伴随着全面AI时代与5G、物联网的不断临近,企业希望获得出色的模拟和建模、人工智能(AI)和大数据分析功能,以便取得突破性的发现与创新,而高性能计算(HPC)基础设施能够为这些工作负载带来优势。
领取专属 10元无门槛券
手把手带您无忧上云