展开

关键词

PaddlePaddle升级解读 |AutoDL Design自动化网络结构设计

百度作为国内第一个成立深度学习研究院(Institute of Deep Learning,IDL),并且也是国内第一个自研深度学习框架的企业,在WAVE SUMMIT深度学习开发者峰会上对自动化深度学习网络结构设计AutoDL 项目地址:https://github.com/PaddlePaddle/AutoDL/tree/master/AutoDL%20Design 论文地址:https://arxiv.org/abs/1902.00873 理想状态下的AutoDL技术,只需要使用者提供一份数据集,整个系统就可以根据数据集自身,不断尝试不同类型的网络结构和连接方式,训练若干个神经网络模型,逐步进行自动化反复迭代和尝试,最后产出一个终版模型。 AutoDL Design 百度的研究员和工程师们所使用的自动网络结构搜索的方法,目标是找到合适的“局部结构”。 本次的发布,主要包括下面两个部分(所有的内容都在PaddlePaddle/AutoDL仓库下): 第一个,是用AutoDL Design方法生成的一系列神经网络,以及使用CIFAR10数据在其上训练出来的一共

36340

解读NeurIPS-AutoDL 总决赛冠军解决方案,代码已开源

开源代码链接:https://github.com/DeepWisdom/AutoDL 注:开源代码基于 Full-AutoML 系统自动设计出的共性解并加以改造 ? ,AutoDL 对快速推动落地应用和理论发展都具有重大意义。 在反馈阶段,参赛选手基于 24 个训练数据集,离线开发自己的 AutoDL 程序,实现训练数据处理、模型结构设计、参数调校等过程。 然后将自己的 AutoDL 程序代码上传到比赛平台上,通过另外 5 个线上私有数据集测试,得到程序性能的即时反馈。 在最终阶段,参赛选手的 AutoDL 程序在无任何人工干预的前提下,通过 10 个私有数据集进行评估。最终阶段多轮评估的平均排名将决定获胜者。

47810
  • 广告
    关闭

    【玩转 Cloud Studio】有奖调研征文,千元豪礼等你拿!

    想听听你玩转的独门秘籍,更有机械键盘、鹅厂公仔、CODING 定制公仔等你来拿!

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    中国AI创业公司霸榜NeurIPS-AutoDL竞赛,冠军代码已开源

    乾明 发自 凹非寺 量子位 报道 | 公众号 QbitAI 人工智能顶会NeurIPS举办的AutoDL 2019-2020系列竞赛落幕,来自中国的AI创业公司,斩获冠亚军。 ? 在反馈阶段,参赛选手基于24个训练数据集,离线开发AutoDL程序,实现训练数据处理、模型结构设计、参数调校等过程。 然后将AutoDL程序代码上传到比赛平台上,通过另外5个线上私有数据集测试,得到程序性能的即时反馈。 在最终阶段,参赛选手的AutoDL程序在无任何人工干预的前提下,通过10个私有数据集进行评估。 来自厦门的AI创业公司 深度赋智成立于2019年,位于厦门,主要是通过AutoDL技术,降低客户的AI开发成本。已经为电商平台提供了落地的AI解决方案。 ? 传送门 冠军方案开源地址: https://github.com/DeepWisdom/AutoDL 作者系网易新闻·网易号“各有态度”签约作者

    33220

    深度赋智NeurIPS-AutoDL系列竞赛世界冠军方案首次公开! | TPAMI

    近日,深度赋智联合厦门大学纪荣嵘教授团队首次公开AutoDL2019挑战赛冠军方案的研究细节,详细介绍了AutoDL竞赛中各模块组件(元学习器、数据注入器、模型选择、评估方法等)的设计与实现,以及竞赛中 benchmark相关工作和AutoDL服务,并将竞赛中的完整代码进行开源。 「深度赋智」实现了一个基于平均排名、多任务执行和随时学习矩阵的AutoDL系统(系统架构参考下图),提供了将用户数据自动封装为系统输入的端到端开源工具包,以便用户快速使用AutoDL服务。 ? 三大关键技术消融实验结果 基于该AutoDL框架,「深度赋智」于2020年4月获得国际自动机器学习领域的顶级赛事NeurIPS-AutoDL系列竞赛总决赛世界冠军,在多领域测试集上取得了优异的性能表现, 本文的消融研究表明,未来AutoDL在元学习和集成学习方面还可以进一步改进和优化。

    17620

    大年三十炼丹么?这里有900张GPU,快来白嫖

    而且要找那种主做机器学习市场的,在国外有vast.ai,国内有矩池云、恒源云、AutoDL等。 除了硬件层面,AutoDL还为深度学习用户提供配套功能。 在这基础上,AutoDL提供了网盘服务。 可以在实例间方便的共享数据,每个地区的网盘免费空间大小为20GB。 不过这一点,也不是AutoDL特有。 而这样一个面向学生的AutoDL不光提供还免费,同学可直接将训练数据存储在硬盘里,然后邮寄到机房,由这边运维的同学帮忙物理挂载。 要是你刚好在准备ECCV和CVPR论文,届时文章若被录用,联系AutoDL客服,还会收到666元无门槛优惠券。 对了,还有专属读者福利!

    12120

    强烈推荐 | 飞桨最全面的工具组件详解

    并为开发者开放 PaddleHub、PARL、AutoDL Design、VisualDL 等一系列深度学习工具组件,帮助开发者快速落地AI应用。接下来,小编带你一一了解。 项目地址: https://github.com/PaddlePaddle/PARL 自动化网络结构设计AutoDL Design 基于飞桨(PaddlePaddle)及PARL强化学习框架,百度进行了自动化网络结构设计的探索和尝试 ,并且开源了其中关于自动化网络结构设计的源代码和对应的预训练模型,将AutoDL这一前沿技术以更低的成本展示给业界和各位开发者,大幅降低了该类技术的上手门槛。 目前已发布用AutoDL Design方法生成的一系列神经网络,以及使用CIFAR10数据在其上训练出来的一共6个模型,包括了网络结构以及对应的权重,开发者可以在这6个模型上进行推理(inference 项目地址: https://github.com/PaddlePaddle/AutoDL/tree/master/AutoDL%20Design 深度学习可视化工具库VisualDL VisualDL是一个面向深度学习任务设计的可视化工具

    50540

    资讯|本届AI开发者大会PaddlePaddle亮点回顾

    AutoDL网络设计工具上线 AutoDL基于深度学习基础的网络设计工具,可以优化现有深度学习的网络结构以及参数,并进行特定任务和场景的适配,实现个性化定制。 目前应用AutoDL可降低错误率10%—40%,应用效果优于经典网络,并可以几分钟到数小时内完成训练。

    22730

    专访 | 小白也能搭建深度模型,百度EasyDL的背后你知多少

    Auto Model Search 与后文介绍的 AutoDL 在功能上是相近的,但百度的 AutoDL 是一种神经架构搜索方法,它关注于利用强化学习从头构建神经网络。 第三部分是设计网络的迁移能力,AutoDL 希望搜索出具有强大迁移能力的一般性神经网络架构。 AutoDL 主要的方向是希望搜索任何有向无环图结构,这样模型的表达能力和搜索空间就远远大于之前的方法。 AutoDL 采用的是一种 Hierarchical RL,它同样也是基于 on policy。因为 AutoDL 的搜索空间非常大,系统需要一些结构性的探索,因此搜索空间的探索才回更有效率一些。 所以总体而言,AutoDL 主要还是沿着 NASNet 所开辟的方法,并利用其它技术与技巧提高采样效率。

    43320

    百度 AI 开发者大会百度大脑论坛: PaddlePaddle 升级至 3.0,开放更多语音语义技术

    PaddlePaddle3.0 的核心框架包括 PaddlePaddle Fluid、PaddlePaddle Serving、PaddlePaddle Mobile,以及 AI Studio 在线实训平台、AutoDL 喻友平表示,目前百度已经开放部分训练好的常用模型,如 NLP(中文情感分析、中文词法分析)、语音(DeepASR)、视觉(图像分类、目标检测、人脸检测等)、强化学习(DQN)、AutoDL(模型设计、模型迁移 而百度大数据(北京)实验室主任浣军则详细介绍了 PaddlePaddle3.0 中的 AutoDL。 他表示,有了 AutoDL,开发者无需特殊软硬件设备和特殊训练,可以快速得到定制化高质量的模型,能更高效自动搜索神经网络结构。 AutoDL 支持设计全新深度学习网络结构,优化现有深度学习网络结构及参数,同时能够适配特定任务场景。 ?

    24420

    强化学习、联邦学习、图神经网络,飞桨全新工具组件详解

    支持超参优化,自动搜索超参数 PaddleHub AutoDL Finetuner 提供一个黑盒优化的策略,目标是用尽可能少的次数来找到一个更好的超参,使得我们的模型在验证集上的指标更好。 更多内容可参考: https://github.com/PaddlePaddle/PaddleFL AutoDL 自动化深度学习 ? AutoDL 包含自动网络结构设计、迁移小数据建模和适配边缘计算三部分。 开源 AutoDL 设计的图像分类网络在 CIFAR10 数据集正确率达到 98%,效果优于目前已公开的 10 类人类专家设计的网络,居于业内领先位置。 更多内容可参考: https://github.com/PaddlePaddle/AutoDL VisualDL 训练可视化工具 ?

    54110

    数据科学即将迎来“无代码”时代

    这些平台从迁移学习起步,正朝向完整的AutoDL平台进发。详细请参阅微软 Custom Vision Services和Google的类似条目Cloud AutoML。 还有一些研究集成AutoDL平台的初创公司。我们今年早些时候关注了OneClick.AI。它们包括了完整的AutoML和AutoDL平台。 Gartner最近提名DimensionalMechanics称其拥有AutoDL平台的“5大炫酷公司”之一。 曾经有一段时间,我试图持续更新和整合无代码化AutoML和AutoDL的供应商列表,并提供有关其功能的更新。但因为该行业的快速发展,使得这个整合的工作量急速上升。

    22810

    AI炒A股行不行?现在正处于AlphaGo阶段

    AutoDL用深度学习来设计深度学习网络结构,帮中小企业降低AI使用成本 AI在逐步改变着金融业,但是企业应用AI也面临着不少问题,最主要的问题就是成本。 在百度,浣军教授主要负责百度AutoDL的研发。 百度北京大数据实验室主任浣军 AutoDL的目标是用深度学习来设计深度学习网络结构,从而达到深度学习网络设计定制化、自动化、便捷化。 AutoDL包含了3个方向: AutoDL Design: 自动设计全新的深度学习网络结构 AutoDL Transfer; 迁移原有的网络至新的应用 AutoDL Adaptation: 针对不同的端 ,例如手机, 将网络结构进行优化 目前,AutoDL设计的网络在公共测试集 CIFAR 10超过绝大多数人类专家设计的网络效果;与百度EasyDL团队合作,通过网络优化+迁移学习,在所有测试的样例中均可以提升效果 ,分类正确率绝对值提高5%~10%;AutoDL设计优化的网络在手机端等资源有限环境下的部署,模型参数下降6~10倍, 预测时间减少3~6倍, 模型准确率几乎不变。

    24960

    薅百度GPU羊毛!PaddlePaddle大升级,比Google更懂中文,打响AI开发者争夺战

    工具组件则包括预训练模型管理框架PaddleHub,强化学习框架PARL,基于PaddlePaddle的AutoDL技术实现AutoDL Design,数据可视化工具库VisualDL,以及支持弹性深度学习计算的 而此次重磅发布的更新则涉及11项新特性及服务,包含PaddleNLP、视频识别工具集、Paddle Serving、PaddleSlim、AutoDL Design等多种深度学习开发、训练、预测环节。 工具 除了从开发到训练到部署的全流程,PaddlePaddle还更新了几款工具组件:自动化网络设计工具AutoDL Design,强化学习工具PARL,以及预训练一站式管理工具PaddleHub。 AutoDL Design ? AutoDL是一种高效的自动搜索构建最佳网络结构的方法,通过增强学习在不断训练过程中得到定制化高质量的模型。 这次PaddlePaddle发布的AutoDL Design的版本,主要是基于PaddlePaddle和PARL来实现,并且已经开源。 PARL ?

    55220

    数据科学即将迎来“无代码”时代

    这些平台从迁移学习起步,正朝向完整的AutoDL平台进发。详细请参阅微软 Custom Vision Services和Google的类似条目Cloud AutoML。 还有一些研究集成AutoDL平台的初创公司。我们今年早些时候关注了OneClick.AI。它们包括了完整的AutoML和AutoDL平台。 Gartner最近提名DimensionalMechanics称其拥有AutoDL平台的“5大炫酷公司”之一。 曾经有一段时间,我试图持续更新和整合无代码化AutoML和AutoDL的供应商列表,并提供有关其功能的更新。但因为该行业的快速发展,使得这个整合的工作量急速上升。

    24320

    对 2018 年 AI 发展预言全中,他们又立了 2019 的 Flag

    微软和谷歌都推出了自动深度学习平台,它们从迁移学习开始,朝着完整的 AutoDL (自动机器学习)发展。此外还有一些集成的 AutoDL 平台。 比如 one clicks. ai,就有的完整的 AutoML 和 AutoDL 平台。 Gartner 最近提名拥有 AutoDL 平台的 DimensionalMechanics 为「五大潮流公司」。

    21320

    CUDA 下 DGL 库安装

    argparse pip install scikit-learn -i http://pypi.douban.com/simple --trusted-host pypi.douban.com unzip autodl-tmp

    8610

    ICLR 2020| 训练15000个神经网络,加速NAS,仅用0.1秒完成搜索

    NAS-Bench-201的相关资源 10+种NAS算法的PyTorch实现:https://github.com/D-X-Y/AutoDL-Projects NAS-Bench-201复现指南:https ://github.com/D-X-Y/AutoDL-Projects/blob/master/docs/NAS-Bench-201.md NAS-Bench-201 API的pip安装:https:

    43520

    如何一招“骗过”五种神经网络?

    本文提供了一个强劲的攻击方案,该方案可以对ResNeXt50白盒模型、人工加固的灰盒模型、AutoDL模型均有显著的效果,并在飞桨AI安全对抗赛中取得较好成绩。 02 解题思路 相比初赛,决赛的难点在于多了一个人工加固的模型(灰盒),黑盒模型增加为三个,包括由AutoDL技术训练的模型,因此需要针对人工加固模型训练自己加固的模型。 针对黑盒模型,我主要集成多样化的模型来逼近;针对AutoDL技术训练的模型,我主要集成AutoDL搜索出的网络结构来迁移攻击。 图3-1 模型集成细节 橙色框中mnasnet1_0,nas_mobile_net为特意选取逼近黑盒AutoDL技术训练的黑盒模型,人工加固ResNeXt50_32x4d模型训练细节接下来会详细阐述。

    20330

    百度黄埔学院:十行代码高效完成深度学习POC

    课程主要有以下三个方面的内容: 深度学习POC的基本流程 实用预训练模型应用工具快速验证 通用模型一键检测 十行代码完成工业级文本分类 自动化调参AutoDL Finetuner 一、深度学习POC 3.4 AutoDL Finetuner自动化超参搜索 PaddleHub中的超参搜索工具AutoDL Finetune,提供了两种优化算法:HAZero和PSHE2。 为了评估搜索的超参的效果,AutoDL Finetuner提供了两种超参评估策略: Full-Trail::给定一组超参,利用这组超参从头开始Fine-tune一个新模型,之后在验证集评估这个模型; Population-Based

    17730

    业界 | 作为百度AI技术的集大成者,最新升级的百度大脑3.0有何亮点?

    据王海峰介绍,PaddlePaddle3.0 核心框架还包括三个重要平台,分别为快速应用平台 EasyDL、网络结构自动化设计 AutoDL 以及在线实训平台 AI Studio。 ? EasyDL 在制造业键盘组装合格性检测上的能力 而对于那些有基础的开发者来说,设计深度学习网络结构是一项相对耗时耗力的工作,AutoDL 的存在就是致力于帮助开发者节省设计深度学习网络结构的时间。 人工设计的网络结构与 AutoDL 网络设计效果比对 「我们不止是把核心算法做了升级,同时在服务器端以及移动端都有各自相应的服务可以支持各种场景的应用。」王海峰补充道。

    17220

    扫码关注腾讯云开发者

    领取腾讯云代金券