专栏首页腾讯大数据的专栏北大腾讯联合共建Angel4.0,自研深度学习框架“河图”融入生态

北大腾讯联合共建Angel4.0,自研深度学习框架“河图”融入生态

近日,北京大学-腾讯协同创新实验室(以下简称:实验室)宣布,北京大学与腾讯大数据团队将联合共建Angel4.0——新一代分布式深度学习平台,面向拥有海量训练数据、超大模型参数的深度学习训练场景,为产业界带来新的大规模深度学习破局之策。

实验室成立于2017年,主要在人工智能、大数据等科研领域展开前沿探索和人才培养,由北京大学计算机系副主任崔斌教授担任实验室主任,腾讯公司副总裁、数据平台部总经理蒋杰出任副主任。

实验室打造的Angel分布式机器学习平台(https://github.com/Angel-ML),于2017年对外开源1.0版本;2018年发布2.0版本,同时正式宣布加入LF AI基金会;2019年,Angel发布3.0版本,升级为覆盖机器学习全流程的全栈平台。其后不久,Angel顺利从LF AI基金会毕业,成为国内首个从该基金会毕业的顶级开源项目。

在深度学习领域,分布式训练已成为趋势。但分布式系统设计复杂,而且目前业界常用的深度学习框架在分布式训练方面存在不足,例如混合并行扩展性不灵活、领域类模型库不丰富等,这为从业者带来了不可忽视的挑战。为此,实验室将对Angel平台进行升级,通过扩展其深度学习能力,构建能够充分兼容现有生态、具备业界领先性能、同时提供丰富功能支持的工业级分布式深度学习平台,助力AI产业化发展,推动AI普适应用

值得提出的是,实验室自主研发了河图(Hetu)深度学习引擎,解决超大模型训练时的自动并行问题,并具备通用、高效、敏捷、灵活和可扩展等特性。

现有的分布式深度学习系统,存在三大类问题:1、系统功能性问题,支持的通信架构、并行策略、一致性协议受限;2、系统易用性问题,分布式执行部署复杂,学习成本高;3、系统复杂性问题,计算与通信耦合程度高,不利于扩展和优化。

针对以上问题,河图进行了相应的优化设计。首先,河图支持所有主流通信架构、并行模式、同步协议以及常见优化方案,提供了更加丰富的功能,通用性更强;其次,河图支持半自动以及自动并行模式,硬件自适应感知最优分布式部署方案,部署更加便捷,提高了易用性;最后,河图支持统一分布式计算图中间表达,编译后适配多种通信算子,显著降低了系统架构的复杂性。

除此之外,实验室还在河图基础上进行了多项系统优化和学术创新,相关成果已经发表在SIGMOD、VLDB、ICDE、TKDE等国际顶级学术会议和期刊上,其他创新成果还将持续发布,并借助于Angel4.0生态应用到腾讯业务场景上,敬请关注。

目前,河图已对外开源(https://github.com/PKU-DAIR/Hetu)。在7月30日-8月1日举办的2021ACM中国图灵大会上,河图主要研发负责人、北京大学崔斌教授也进行了特邀报告,为与会的专家学者分享了河图的设计理念与系统亮点,受到广泛认可。近日,河图已经在由国家自然科学基金委等单位举办的第四届中国开源软件创新大赛上发起了赛题,邀请更多的开发者参与到河图研发之中。

除河图外,Angel4.0中也将实现与TensorFlow、PyTorch等业界主流框架,以及更多腾讯自研组件的生态兼容,极大降低使用复杂度,努力成为业务友好的、高效易用的工业级分布式深度学习框架。

往期精选

扫码关注 | 即刻了解腾讯大数据技术动态

本文分享自微信公众号 - 腾讯大数据(tencentbigdata)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2021-08-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 腾讯云助力湖南武陵数字化转型 | 数字文旅周报11期(4.15-4.21)

    ? 腾讯云助力湖南武陵数字化转型 4月15日,腾讯云与常德市武陵区人民政府、贵州朗盛科技股份有限公司三方签订了“数智武陵”项目及IoT智能制造产业战略合作...

    腾讯文旅
  • 数字文旅周报55期 | 腾讯全球数字生态大会进入倒计时 智慧文旅专场开放云报名

    ? ? 1.腾讯全球数字生态大会进入倒计时 智慧文旅专场开放云报名 9月10日,2020年腾讯全球数字生态大会智慧文旅专场将以线上形式举办。专场以“新阶段 新...

    腾讯文旅
  • 回顾2019,腾讯文旅5大关键词

    ? 2020年的钟声已经响起,回顾2019年,各行各业都发生了天翻地覆的变化。对于文旅行业来说,2019年是一个转折点,也是一个丰收年,这一年,文化旅游行业深...

    腾讯文旅
  • 马化腾谈雄安新区,今天的价值洼地 ,明天的科技高地|附演讲全文

    腾讯董事会主席兼首席执行官马化腾在2017中国国际数字经济峰会发表演讲 11月23日,2017中国国际数字经济峰会在河北石家庄召开,腾讯董事会主席兼首席执行官...

    腾讯TrustSQL
  • 腾讯签约扬州华侨城 引领智慧城市新方向 | 数字文旅周报09期(4.1-4.7)

    ? 腾讯签约扬州华侨城 引领智慧城市新方向 4月11日,扬州华侨城大型文化旅游综合项目品牌发布会在扬州音乐厅内隆重举行。 发布会上,扬州华侨城副总经理庄志亮与...

    腾讯文旅
  • 腾讯将与南京市建邺区共同打造智慧产业孵化平台 | 数字文旅周报06期(1.30-2.17)

    ? 腾讯将与南京市建邺区 共同打造智慧产业孵化平台 1月30日,南京市建邺区与腾讯公司在深圳签署战略合作协议,腾讯云启基地落户江心洲。 ? 双方将以人工智能、...

    腾讯文旅
  • 数字文旅周报57期 | 文博会十六年来首次云上办,腾讯成为独家技术服务商

    ? ? 1.文博会十六年来首次云上办,腾讯成为独家技术服务商 9月15日,深圳国际文化产业博览交易会有限公司与深圳市腾讯计算机系统有限公司正式签约,双方达成全...

    腾讯文旅
  • 定了!腾讯与河北省政府签订战略合作协议 加快推进数字文旅等领域建设

    ? ? 河北省政府与腾讯公司签约仪式 10月11日,在河北省石家庄举办的2019中国国际数字经济博览会(简称正定数博会)正式开幕。 现场主论坛期间,河北省政府...

    腾讯文旅
  • 微信早报 | 腾讯在天猫开旗舰店;微信「亲属卡」正式上线;河北网信办将对小程序开展审核

    知晓君
  • 腾讯市值破5000亿美元;“腾讯觅影”升级可支持AI辅助诊疗

    作者:Cecilia 【新智元导读】腾讯觅影迎来重大升级,从医学影像应用扩展到腾讯AI Lab技术支持的AI辅助诊断,并全面落地河北省。此外,本周腾讯市值超50...

    新智元
  • 2019腾讯浙江文旅数字营销峰会召开 探讨文旅产业转型升级 | 数字文旅周报09期(3.25-3.31)

    ? 2019腾讯浙江文旅数字营销峰会召开 探讨文旅产业转型升级 3月28日,2019浙江文旅数字营销峰会将在杭州香格里拉酒店举行。 本届峰会将邀请腾讯公司...

    腾讯文旅
  • “科技助力 文化强国”——腾讯文旅思享者主题沙龙活动成功举办

    ? ? 3月25日,由腾讯文旅主办的“科技助力 文化强国”——腾讯文旅思享者沙龙活动在腾讯北京总部大楼成功举办。腾讯文旅思享者沙龙秉承聚拢顶尖的思想者与创新者...

    腾讯文旅
  • 数字文旅周报54期 | 腾讯携手山西文旅集团共同打造“一部手机游山西”

    ? ? 1.腾讯与山西文旅集团战略合作,共同打造“一部手机游山西” 8月27日,腾讯与山西省文化旅游投资控股集团有限公司(以下简称山西文旅集团)签署战略合作框...

    腾讯文旅
  • 腾讯云助力高校AI人才培养,多重产品福利赋能教学实践

    摘要:腾讯云AI专家为你讲解如何使用TI-ONE机器学习平台赋能课堂教学,实现自我提升。文末可预约观看直播,并有大量COS云资源放送。 为了推动中国人工智能行...

    腾讯高校合作
  • 一周AI看点 | 中关村发布AI行动计划,天津建大型无人机试飞基地

    本期一周AI看点包括行业热点、投融资、业界观点、技术前沿以及应用等方面。 行业 阿里人工智能技术重大突破:连破中、英文语言处理两项世界纪录 日前,阿里巴巴披露...

    AI科技大本营
  • 活动预告 | 2020 Techo Park开发者大会,优图实验室与你共同聆听技术的回响

    12月19日至20日,由腾讯主办的2020 Techo Park开发者大会将在北京举办。作为一个专注于前沿技术研讨的非商业大会,本次大会致力于开发者的能力成长和...

    优图实验室
  • 开封与腾讯签署合作协议 “以文促旅” 打造千年古都数字文旅新名片

    ? 5月28日,腾讯全球数字生态大会智慧文旅专场在开封举行。河南省文化和旅游厅二级巡视员张建州、北京第二外国语学院中国文化和旅游大数据研究院副院长钟栎娜、腾讯...

    腾讯文旅
  • 马化腾:产业互联网的核心在于科技创新

    ? 马化腾认为,伴随数字化进程,移动互联网的主战场,正在从上半场的消费互联网,向下半场的产业互联网发展。 ? ? 腾讯董事会主席兼首席执行官马化腾 在2018...

    腾讯文旅
  • 腾讯携手河北探索“一机游”模式 打造智慧文旅产业平台

    ? 10月14日,河北省文化和旅游厅与腾讯公司签订战略合作协议,双方将顺应云计算、人工智能、5G技术等新型发展形势,运用现代化服务和管理手段,打造国内领先的河...

    腾讯文旅

扫码关注云+社区

领取腾讯云代金券