首页
学习
活动
专区
工具
TVP
发布

AI科技评论

专栏作者
4092
文章
3387303
阅读量
184
订阅数
千卡规模训练算力利用率达 60%,蚂蚁开源分布式训练加速扩展库 ATorch
近日,蚂蚁集团宣布开源大模型分布式训练加速扩展库ATorch。ATorch可针对不同模型和硬件资源,实现深度学习自动资源动态优化和分布式训练稳定性提升,可帮助优化深度学习的智能性,解决大模型训练的提效问题。据了解,ATorch大模型训练算力利用率可达60%,对于千亿模型千卡级训练提效非常友好,相当于为跑车装上了强劲的引擎。
AI科技评论
2024-01-11
2570
Call for Papers | 思维对撞,第三届分布式人工智能国际会议邀你共话通用AI
AI科技评论报道 编辑 | 吴彤 上海将于今年12月迎来第三届分布式人工智能国际会议,谷歌、微软等工业研究员将与国际高校教授一同亮相! 近年来,随着人工智能研究的逐步深入,针对多智能体系统的研究逐渐成为一个重要研究方向。在这一领域,研究者重点关注的问题是:决策不再由中心,而是自治的分布式多智能体决定,分布式人工智能(Distributed Artificial Intelligence)研究应运而生。 随着分布式人工智能国际上在德州扑克、星际争霸及国内王者荣耀等不同场景上取得突破性进展,分布式人工智能的研
AI科技评论
2023-04-26
2800
港科大褚晓文:医疗场景下的 AutoML ,模型参数量更小、分类准确率更高
作者|黄楠 编辑|陈彩娴 探索 AI 和医学结合更多的可能性,是人工智能发展的一个重要命题。 AutoML 作为近年来备受瞩目的概念之一,被视为解决算法工程师来提高训练模型效率的一个工具,在工业、农业、零售等诸多场景中均有被使用。 而随着 AI 在医学影像分析、医疗决策、个人就诊助手等场景领域的广泛应用,AutoML凭借其智能化、自动化等特性,也引发了越来越多研究团队开始思考:如果将其放置在医学场景下,是否也能获得不错的结果? 褚晓文,香港科技大学(广州)数据科学与分析学域正教授,由他所带领的团队也是这条探
AI科技评论
2022-09-14
4730
复旦大学校友周礼栋升任微软全球资深副总裁
作者 | 黄楠 编辑 | 陈彩娴 9月8日,微软公司宣布,微软亚洲研究院(MSRA)院长周礼栋升任为微软公司全球资深副总裁。 周礼栋,IEEE Fellow,ACM Fellow,微软杰出首席科学家,现任微软亚洲研究院院长。 周礼栋本科毕业于复旦大学计算机科学系,后前往康奈尔大学深造,先后获得计算机科学硕士及博士学位,师从 Fred B. Schneider 、Robbert van Renesse 和 Zygmunt J. Haas 。2002 年,周礼栋加入微软,曾任职微软硅谷研究院研究员、微软雷德蒙
AI科技评论
2022-09-09
3610
2013年图灵奖得主 Leslie Lamport 专访:程序员需要更多的数学知识
作者|李梅 编辑|陈彩娴 Leslie Lamport可能并不是一个家喻户晓的名字,但对于计算机科学家们来说,他是一些耳熟能详的「名字」幕后的贡献者。比如Paxos算法、排版程序LaTeX、规格语言TLA+、「面包店算法」和「拜占庭将军问题」等等。 Leslie Lamport 彻底改变了现代计算机之间的对话方式。2013年,他被授予图灵奖,以表彰他在分布式系统方面的工作。 在分布式系统中,不同网络上的多个组件协调一致,以实现一个共同的目标。互联网搜索、云计算和人工智能都需要协调众多强大的计算机器协同工作。
AI科技评论
2022-05-25
6440
北京大学团队获 WWW 2022 唯一最佳学生论文奖
图1 获奖证书以及官方宣传 4月29日晚,国际万维网顶会WWW-2022(The Web Conference,简称WWW)公布了本届会议的最佳论文。以北京大学计算机学院崔斌教授博士生张文涛为第一作者的论文“可扩展的图神经结构搜索系统 (PaSca: a Graph Neural Architecture Search System under the Scalable Paradigm)”斩获大会唯一的最佳学生论文奖(Best Student Paper Award)。 WWW官方Award链接:http
AI科技评论
2022-05-06
3490
2021年CCF会士评选结果揭晓
本文转载自丨中国计算机学会 2021年12月27日,2021年度 CCF会士评选会在京举行。经函评和CCF会士评选委员会会评,有9位CCF杰出会员当选CCF会士。谨向新当选会士表示祝贺! CCF从2008年起设立会士制度,旨在表彰在计算机领域取得卓越成就或为CCF做出突出贡献并有连续五年及以上会龄的CCF杰出会员。会士是会员在CCF的最高学术荣誉,目前,CCF会士人数150人,占专业会员人数的0.32%。 2021年度当选的9名会士(按姓氏拼音为序): ‍‍ 曹建农 教授  香港理工大学 ‍长期致力于分布
AI科技评论
2022-03-03
3560
IEEE Fellow黄建伟:智能低碳理论探索和关键技术研究
碳中和和碳达峰已上升为国家战略,中央文件曾不止一次指出“要狠抓绿色低碳技术攻关”。那么作为最吸引人的前沿技术,AI如何赋能碳达峰?
AI科技评论
2021-12-29
5640
全球首个知识增强千亿大模型——鹏城-百度·文心:不止于拼参数量,更有内涵和根基
或许很难想象,从晶体管的每个具有确定性的0和1之间的变换,到最后也能变成一场科学实验般的探索。自人们用计算机证明四色猜想以来,这个硅质人造物就充满了无限的不确定性。
AI科技评论
2021-12-10
8350
联邦迁移学习最新进展:计算和传输如何“限制”模型性能?
人工智能系统需要依赖大量数据,然而数据的流转过程以及人工智能模型本身都有可能泄漏敏感隐私数据。
AI科技评论
2021-08-24
7910
​联邦学习下的安全矩阵分解 | 2021 WAIC 论文分享
7月8日,为期三天的2021 年世界人工智能大会(WAIC)于上海世博展馆拉开序幕。本届大会继续秉持「智联世界」的理念,以「众智成城」为主题,集聚全球范围内的人工智能创新思想、技术、应用、人才和资本,推动全球科技的创新协同。8日下午,星云Clustar受邀出席同期举办的「2021 WAIC· 隐私计算学术交流会」,并进行了基于联邦学习的安全矩阵分解框架的论文分享。
AI科技评论
2021-07-27
4710
曾颁给Jeff Dean和David Silver的ACM 计算奖,今年竟然颁给了他.....
AI科技评论获悉,ACM向Scott Aaronson授予2020年度ACM计算奖,以表彰其对量子计算的开创性贡献。Aaronson是德克萨斯大学奥斯汀分校计算机科学系David J. Bruton Jr .百年教授。
AI科技评论
2021-04-16
3720
华人学者张晓东获得IEEE / ACM国际微架构研讨会最高荣誉
据俄亥俄州立大学官方网站报道,华人学者张晓东20年前的一篇论文获得了IEEE / ACM国际微架构研讨会(MICRO)最高荣誉:时间检验奖。该奖的全称是“ACM/IEEE Micro Test of Time Award”,评选标准是论文在发表18~22年后仍然有强大的影响力。
AI科技评论
2021-02-08
4440
OpenNetLab 平台建立!MSRA 联合亚洲高校助力 AI 加速
南京大学计算机科学与技术系副教授田臣谈到研究中经常会遇到的困难:“我们在做相关实验的时候遇到了很多问题。首先很难获得资源;其次,即使获取了资源,也很难满足实验设置的真实性;第三,我们为了验证一个新想法,首先需要把之前所有的相关研究全部实现一遍,而且还要实现得比较靠谱,之后再来跟自己的实验做对比。最后,没有真实的数据,很多时候也是要靠自己创造一些数据集。”
AI科技评论
2021-01-07
4370
ImageNet训练再创纪录,EfficientNet异军突起,ResNet:感受到了威胁
近年来,随着深度学习走向应用落地,快速训练ImageNet成为许多机构竞相追逐的目标。
AI科技评论
2020-11-06
1.1K0
PyTorch 1.7来了:支持Windows上的分布式训练,还有大波API袭来
据Facebook 官方博客公告,PyTorch1.7版本已经于昨日正式发布,相比于以往的 PyTorch 版本,此次更新除了增加了更多的API,还能够支持 NumPy兼容下的傅里叶变换、性能分析工具,以及对基于分布式数据并行(DDP)和远程过程调用(RPC)的分布式训练。
AI科技评论
2020-11-06
1.2K0
构建 GNN 的「统一场」:从与 WL 算法、组合优化算法的联系看 GNN 的表达能力
近年来,图神经网络(GNN)领域內可谓百家争鸣。然而,真正要想在图神经网络的设计上有革命性的创新,不可避免地要对图的本质问题进行深入探究。
AI科技评论
2020-04-14
1.3K0
谷歌推出分布式强化学习框架SEED,性能“完爆”IMPALA,可扩展数千台机器,还很便宜
过去几年,强化学习领域取得了令人印象深刻的进展,不仅可以下围棋,还可以玩 StarCraft、Dota 2等各种游戏,并且还获得了超越人类玩家的傲人成绩。
AI科技评论
2020-03-26
9000
《Nature》最新研究:大脑中存在分布式强化学习机制
学习和动机是由内、外部奖励所驱动的。我们的许多日常行为都以预测或预测给定的行动是否会带来积极的(即有益的)结果为指导。
AI科技评论
2020-02-13
9190
2019年ACM Fellow出炉,陈熙霖、陶大程、周礼栋、谢源、李向阳等7位华人学者入选
AI 科技评论消息,纽约时间12月11日,美国计算机学会(ACM)宣布了 2019 年新当选 ACM Fellow 名单,共有 58 位科学家当选,其中包括 7 位华人。
AI科技评论
2019-12-18
4350
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档