前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >新火种AI|马斯克自曝Grok 2将于下月上线!Grok 3也在加紧训练中

新火种AI|马斯克自曝Grok 2将于下月上线!Grok 3也在加紧训练中

原创
作者头像
新火种
发布2024-07-05 15:40:01
660
发布2024-07-05 15:40:01
举报
文章被收录于专栏:新火种AI新火种AI

马斯克自曝Grok 2将于下月上线!Grok 3也在加紧训练中...

马斯克真是的世界上精力最旺盛的富豪之一,他一面进行着火箭计划,一面加紧研发新能源车的步伐,还在百忙之中抽空在自己的社交软件上宣布“Grok 2将于下月上线”的重大消息。

同时完成好几件工作,马斯克算是把“多线作战”玩的明明白白的了。

连发两条推文为xAI造势!8月发布Grok 2,年底将推出Grok 3...

就在最近,深谙营销和宣传之道的马斯克在自己的推特上连发两条推文,为自己的xAI造势。

大家都知道,xAI由马斯克建立,它致力于构建通用人工智能,其目标是“了解宇宙的真实本质”。事实上,xAI的出现是带着“使命感”的,就是要与谷歌的DeepMind,ChatGPT的制造商OpenAI等行业领导者进行竞争。

马斯克本人也与当下的AI 巨头公司OpenAI之间存在着错综复杂的关系。他曾是OpenAI的联合创始人和早期支持者,后来因为尝试收购OpenAI失败以及利益冲突而离开了公司。如今,马斯克已经公开表示与OpenAI的CEO Sam Altman关系不合,更严厉斥责该公司和Altman“只顾利润,不顾安全”的态度,他甚至对OpenAI发起了起诉。

2023年3月,xAI推出了Grok的第一代版本Grok-1模型,Grok-1是由xAI从头开始训练的3140亿参数专家混合模型,其参数远超OpenAI GPT-3.5的1750亿,并且是Llama 2的4倍。4月16日,xAI乘胜追击,效率极高的推出了升级版的Grok 1.5V,在性能上拥有了显著的提高。它不仅拥有强大的文本功能,还能处理各种视觉信息,包括文本,图像,文档以及表格内容。特别是在理解物理世界方面,Grok-1.5V的表现优于其他同类产品。

而在推特上进行回帖的马斯克表示,xAI的大语言模型Grok 2将于8月推出。并且马斯克为大家划重点:在数据训练方面将有大跨步。与此同时,他还透露,xAI的Grok 3使用了10 万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”

Grok 2还没推出,就已经开始为Grok 3造上势了,不得不说,马斯克的确是懂流量的。

Grok 2的最大看点:数据训练飞跃,或有效解决“人体蜈蚣效应”。

值得一提的是,马斯克宣布Grok 2将在8月推出这条回帖的原帖也颇有意味。

原帖中,Cohere首席执行官Aidan Gomez表示,由于许多人工智能模型都是根据OpenAI的输出结果进行训练的,因此会产生“人体蜈蚣效应”,即模型会产生相同的输出结果。对于这一现象,使用大语言模型的用户应该深有体会。譬如一位网友就发现,自己虽然付了GPT-4和Claude两份的钱,却得到了同一份相同的答案,还都是错误的答案。

这条负面消息一出,可是个千载难逢的抹黑GPT的机会,马斯克自然不会错过。毕竟,他与OpenAI之间的战火弥漫了4个月,已经到了水火不容,势不两立的境地。

借着这个机会,马斯克一方面对OpenAI进行狠狠拉踩,另一方面乘胜追击,为即将推出的Grok 2造势。他发帖表示,从互联网语料中清除掉LLM合成的错误数据,形成高质量数据集需要大量的工作,而8月份推出的Grok 2将是这方面的巨大进步。马斯克的消息一出,立刻受到了大批网友和粉丝的拥趸,大家纷纷表示,要转投这个出身豪门的Grok的怀抱。

毕竟,背靠大树好乘凉。即便是在花钱如流水的AI领域,xAI的资金实力也算是遥遥领先的。早在今年5月,xAI就官宣拿到60亿美元(折合约435亿人民币)的B轮融资,估值达到约180亿美元(折合约1304亿人民币) ,一举跃升独角兽。本轮融资的主要投资者包括特斯拉和SpaceX的首批投资者Antonio Gracias领导的Valor Equity Partners;迪拜投资公司Vy Capital;美国私人风投Andreessen Horowitz及Sequoia Capital;风投公司Fidelity Management&Research Company;沙特王国控股公司Kingdom Holding等。

反观xAI的最强劲竞争对手OpenAI,在过去10年间获得融资总额为143亿美金,在xAI之下。有了这笔资金的加持,xAI瞬间拥有了“钞能力”,将有助于xAI加速其聊天机器人Grok的开发和迭代,使其与OpenAI的GPT,Meta的Llama,Anthropic的Claude以及Google的Gemini等人工智能领导者的大模型表现保持一致,甚至实现一定程度的领先和反超。

豪掷40亿美元买10万个H100训练模型,只为让Grok 3于年底惊艳亮相。

根据马斯克的说法,xAI给大家带来的惊喜绝不只是Grok 2,拥有更强性能和表现的Grok 3也将于年底亮相。

要说Grok 3有什么特点,最显著的一个当属身家特别壕。

马斯克透露,Grok 3会在“经过10万个英伟达H100 GPU的训练后,成为特别的东西”。

10万个H100 GPU意味着什么?要知道,科技公司都在竞相打造更加智能的AI产品,在这场扩日持久的科技战中,H100会成为当仁不让的香饽饽。

作为打造AI产品时必不可缺的关键组件,热门商品H100 GPU的价格自然是不便宜,每块的成本都在3万美元----4万美元之间。

而马斯克居然为了训练Grok 3买了10万个H100 GPU,这是个什么概念?这意味着这笔订单的价格会达到10位数的天价,英伟达也会因此赚得盆满钵满。

当然,也存在一个可能,就是xAI并没有直接购买这一批芯片。而是从云服务提供商租用GPU进行计算,这也是可能的。根据The Information在5月份的报道,马斯克的xAI与甲骨文公司进行了洽谈,准备斥资100亿美元租用云服务器。

但无论如何,有一点毋庸置疑,马斯克的xAI近年来直接购买了大量的H100,是英伟达的忠实客户。就连特斯拉官方,也将原定用于特斯拉的一批价值5亿美元的英伟达H100转用于xAI。

即便Grok 2和Grok 3都还没有问世,我们完全可以预见,Grok 2的性能会比先前的Grok 1.5有显著的提升,而基于10万个GPU训练的Grok 3势必会比Grok 2更上一层楼(Grok 2大约需要2万张H100拉进行训练)。

那么问题来了,手握10万个GPU,是否意味着马斯克和他的xAI可以在下一轮AI产品迭

代中遥遥领先,高枕无忧了?

显然不能。因为在AI这个领域,没有最卷,只有更卷。

10万个GPU听起来确实很多,但是,其他的AI巨头正在购买更多的GPU。有消息称,Meta

将在2024年底向英伟达采购约35万个英伟达H100 GPU。届时,包括已经采购的和其他

GPU,Meta将拥有约60万个芯片。也就是说,Meta会花费约180亿美元打造AI芯片。

由此可见,AI的这场军备赛,会日趋白热化。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档