首页
学习
活动
专区
工具
TVP
发布

新智元

专栏作者
8286
文章
5752658
阅读量
203
订阅数
谷歌狂喜:JAX性能超越Pytorch、TensorFlow!或成GPU推理训练最快选择
谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow,7项指标排名第一。
新智元
2024-04-12
790
PyTorch 2.2大更新!集成FlashAttention-2,性能提升2倍
继去年十月份的PyTorch大会发布了2.1版本之后,全世界各地的521位开发者贡献了3628个提交,由此形成了最新的PyTorch 2.2版本。
新智元
2024-02-06
1670
矩阵成真!Pytorch最新工具mm,3D可视化矩阵乘法、Transformer注意力
矩阵乘法(matmul),是机器学习中非常重要的运算,特别是在神经网络中扮演着关键角色。
新智元
2023-10-04
3440
Facebook万字长文:AI模型全部迁移至PyTorch框架
---- 新智元报道   来源:Facebook AI Blog 编辑:LQ、yaxin 【新智元导读】2017年,PyTorch诞生,成为当下最流行的深度学习框架。近日,Facebook宣布让PyTorch成为构建AI和机器学习模型的默认框架,为工程师们提供更好的开发体验。 PyTorch自2017年推出以来,就迅速占领GitHub热度榜榜首,一度有赶超Tensorflow的趋势。 这是一个开源的Python机器学习库,基于Torch,底层由C++实现。 近日,Facebook宣布要将所有的人工智
新智元
2023-05-22
2730
集成3400 条commit!PyTorch 1.10 正式版发布,能帮你选batch size的框架
---- 新智元报道   来源:GitHub 编辑:LRS 【新智元导读】历时四个多月,PyTorch 1.10终于发布了正式版,这次的更新内容性能更强,对安卓的支持更多,对开发人员也更友好了! 10月21日晚上,PyTorch 1.10终于发布! 本次更新包含了自1.9版本以来的426名贡献者的3400多条commit共同组成,更新内容主要在于改善PyTorch的训练、性能以及开发人员可用性。 集成了 CUDA Graphs API以减少调用CUDA时CPU开销; FX、torch.specia
新智元
2023-05-22
2320
PyTorch 2.0正式版发布!一行代码提速2倍,100%向后兼容
---- 新智元报道   编辑:Britta 桃子  【新智元导读】PyTorch 2.0正式发布。 PyTorch 2.0正式版终于来了! 去年12月,PyTorch基金会在PyTorch Conference 2022上发布了PyTorch 2.0的第一个预览版本。 跟先前1.0版本相比,2.0有了颠覆式的变化。在PyTorch 2.0中,最大的改进是torch.compile。 新的编译器比以前PyTorch 1.0中默认的「eager mode」所提供的即时生成代码的速度快得多,让PyTor
新智元
2023-03-29
8780
一行代码,炼丹2倍速!PyTorch 2.0惊喜问世,LeCun激情转发
这次的更新不仅将PyTorch的性能推到了新的高度,同时也加入了对动态形状和分布式的支持。
新智元
2023-01-08
3440
Kaggle发布年度调研报告,悬赏3万美元邀请你来「讲故事」
说到数据科学和机器学习竞赛平台,第一个想到的肯定是全球最大的开发者社区Kaggle了。
新智元
2023-01-06
3410
PyTorch和Meta「分家」!以后归Linux基金会管了
---- 新智元报道   编辑:David 【新智元导读】PyTorch要和Meta分开了?成立新的基金会,成为Linux基金会的一部分。 一觉醒来,PyTorch「换家」了? Meta宣布,其AI研究框架PyTorch有了一个新家,将转移到一个独立的PyTorch基金会。 该基金会将成为非营利性的Linux基金会的一部分,是一个以协作开发开源软件为核心任务的技术联盟。 据Meta的工程副总裁Aparna Ramani说,明年的重点,将是实现从Meta到基金会的无缝过渡。 Ramani表示,「长
新智元
2022-09-14
4200
特斯拉前AI总监变身网红,详解反向传播,引上万网友围观
---- 新智元报道   编辑:David 桃子 【新智元导读】特斯拉前AI总监离职后,在YouTube上开启教学路,连前boss都来推销他的课程了。 离开特斯拉后,Andrej Kalpathy摇身变成了一名网红老师。 如今,特斯拉前AI总监Kalpathy在YouTube上更新自己的视频,已经有1万多人订阅。 截至目前,他已经上传了5个视频,其中4个都是关于文本到图像生成模型演示视频。 其中,流量最高、最有影响力的便是长达2个半小时的讲课视频。 更新奇的是,连前boss马斯克都来推销他的视频了
新智元
2022-08-26
3170
被PyTorch打爆!谷歌抛弃TensorFlow,押宝JAX
---- 新智元报道   编辑:拉燕 如願 好困 【新智元导读】谷歌Meta之争看来还没完!TensorFlow干不过还有JAX,二番战能否战胜PyTorch? 很喜欢有些网友的一句话: 「这孩子实在不行,咱再要一个吧。」 谷歌还真这么干了。 养了七年的TensorFlow终于还是被Meta的PyTorch干趴下了,在一定程度上。 谷歌眼见不对,赶紧又要了一个——「JAX」,一款全新的机器学习框架。 最近超级火爆的DALL·E Mini都知道吧,它的模型就是基于JAX进行编程的,从而充分地利用了谷
新智元
2022-06-16
4080
苹果炼丹6倍速!PyTorch加持Mac GPU训练,性能最高提升21倍
---- 新智元报道   编辑:David 拉燕 好困 【新智元导读】果粉Big Day!PyTorch宣布,原生支持苹果Mac GPU机器学习加速。与单CPU加速相比,训练性能提升6倍,推理任务性能最高提升21倍 对于搞AI和机器学习的苹果用户来说,今天无疑是个好日子。 如果是用PyTorch的苹果用户,可能更是盼了一年半的大日子! 刚刚,PyTorch官宣,在苹果Mac系统上正式支持GPU加速训练。现在,M1芯片强悍的GPU终于可以在机器学习任务上大展身手了! 作为业界应用最广泛的机器学习框架
新智元
2022-05-20
1.3K0
Julia开源新框架SimpleChain:小型神经网络速度比PyTorch快5倍!
---- 新智元报道   编辑:LRS 【新智元导读】世上没有免费的午餐,享受了通用框架的便利,在特定任务上就要牺牲性能。最近Julia开源了一个新框架SimpleChain,在小型神经网络的运行速度上比PyTorch至少快5倍! Julia从一出生开始,就瞄准了科学计算领域,并且一直在与Python暗中较量。 在神经网络的框架上,Python有PyTorch和TensorFlow,几乎是深度学习开发的首选框架,并且获得了Meta和Google在技术和资金上的支持,蓬勃发展。 虽然Julia也有Flu
新智元
2022-04-26
1.3K0
大模型「进厂」有多难?这个源自中国的AI框架整整用了2年
---- 新智元报道   编辑:好困 David 【新智元导读】AI热了这么多年,但框架还是「二人转」,国产框架真的一个能打的都没有吗? 2020年末,DeepMind开发的第二代深度学习神经网络震惊了结构生物学界。 AlphaFold 2的问世解决了困扰科学家几十年的蛋白质折叠问题。 就在上个月,来自国内的团队也成功地完成了对蛋白质结构的预测。 经过优化后的模型在单步迭代性能上提升了40%,TM-score也达到85分,可媲美AlphaFold 2,更重要的是代码也对外开源。 在此之前,另一组联合团
新智元
2022-04-02
4540
从「根」上找出模型瓶颈!康奈尔AI联合创始人发文,从第一原理出发剖析深度学习
---- 新智元报道   编辑:LRS 【新智元导读】了解事物的底层逻辑才能更好地解决问题。康奈尔大学AI联合创始人最近发了一篇文章,从第一原理出发,深度剖析深度学习性能瓶颈的三座大山:计算、内存和开销。 如果想提升模型的性能,你的第一直觉是问搜索引擎吗? 通常情况下你得到的建议只能是一些技巧性的操作,比如使用in-place operation,把梯度设置为None,或者是把PyTorch版本从1.10.1退回到稳定版1.10.0等等。 这些临时找到的骚操作虽然可以一时地解决当下问题,但要是用了以后
新智元
2022-03-24
4160
2022年再不学JAX就晚了!GitHub超1.6万星,Reddit网友捧为「明日之星」
---- 新智元报道   编辑:LRS 【新智元导读】数值计算库JAX自发布以来就备受关注,支持者认为它是「真香」,性能快;但反对者也表示JAX还太年轻,漏洞多,为此最近还引发了一场Reddit大讨论。 自从JAX在2018年底发布以来,受众逐渐增加。随着DeepMind在2020年宣布开始使用JAX来加速研究,越来越多的代码,如来自Google Brain等公司的项目都开始使用JAX。似乎JAX已经是下一个巨头深度学习框架了。最近一位做开发人员教育的从业者Ryan O'Connor发布了一篇文章,详
新智元
2022-03-04
6840
2022新年荐书!最值得一读的8部机器学习教程(PDF下载)
在过去的几年里,有不少讲深度学习的书籍。今天给小伙伴们推荐8本关于AI和机器学习的经典书籍,大部分都有完整版PDF下载。
新智元
2022-02-24
1.9K0
谁是深度学习框架一哥?2022年,PyTorch和TensorFlow再争霸
对于不同人群可能有不同的答案,科研人员可能更偏爱PyTorch,因其简单易用,能够快速验证idea来抢占先机发论文。
新智元
2022-02-24
1K0
让手机跑SOTA模型快8倍!Facebook AI开源最强全栈视频库:PyTorchVideo!
视频已逐渐超过文字和图片,可以说成为了现在使用最广的媒体形式,同时也占据了用户更多的浏览时间,这就使得视频理解变得尤为重要。
新智元
2021-07-29
6530
Reddit引爆框架决战!TensorFlow遭疯狂吐槽,PyTorch被捧上神坛
对于不同人群可能有不同的答案,科研人员可能更偏爱pyTorch,因其简单易用,能够快速验证idea来抢占先机发论文。
新智元
2021-03-24
6150
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档