首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

漆远:小数据学习和模型压缩存挑战,场景成为 AI 技术发展关键

我们当时做这个项目,应用在11实时预测的用户产品推荐上,后来变成了阿里巴巴第一个大规模机器学习平台。所以一开始你要找到一个商业价值的落地点,如果我们做参数服务器,同样的技术,就是死路一条。...它带来了图像识别、语音识别、NLP 等领域的长足进步,但是它的落地点在哪里?这就要问你的核心价值在哪里。一开始我们就很具体,就做客服。...客服项目在蚂蚁金服可以说是第一个标杆性的人工智能落地项目,它一开始是典型的人力服务工作,在成都客服中心有几千人,每年11接电话非常繁忙。...我们做了大约半年,自助率从60%一下子升到94%,2016年自助率高达97%,去年11最忙的时候,客服小二实际上非常轻松。今年我们有了一个新的标杆性的指标,两三个星期前刚刚做到。...PPT上显示的是三个简单的真实APP展示,展示了机器人本身是怎么来回答问题的;第二,在你没有问问题之前,不靠语音信号或者NLP输入信息,而是通过用户的行为轨迹自动判断当前可能的问题在哪里系统会根据用户的行为轨迹做出时间训练模型进行分析

3.1K30

全球芯片短缺,显卡价格居高不下,跑深度学习该如何装机?

这些只是单纯的算力需求,还不论训练 SOTA 模型的新挑战——对于 NLP 和推荐系统模型来说,内存和芯片内 / 芯片间的通信正在成为又一个瓶颈。...基于 Faster R-CNN 和 FPN 模型针对 PCB 工业缺陷识别进行训练,原本耗时超过 20h 的训练,使用 HP Z8 G4 仅需要 11h,节省了一半的时间。...MobileNet 训练速度如何?在工业铭牌检测深度神经网络模型训练中,HP Z8 G4 的表现同样速度更快。...由于 HP Z8 G4 电源功率可以高达 1700W,支持三块宽 GPU 卡或者四块单宽 GPU 卡,能够一次性加载更多视频 / 图片数据,搭配路 CPU 和高速硬盘,能够显著提升训练速度。...提供了从模型开发、训练到部署的完整流程和工具,能够大幅度降低人工智能的进入门槛,提升开发效率。 在惠普工作站上使用 Linux 系统也很简单。

1.6K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    AI大牛沈向洋就职清华演讲全录:人类对AI如何做决定一无所知

    导读:2019 年 11 月 14 日凌晨,在微软服务 23 年的微软全球执行副总裁沈向洋博士宣布离开微软;2020 年 3 月 5 日,清华大学在线上举行了活动“沈向洋聘教授聘任仪式暨春风讲堂第四讲...2005 年,沈向洋曾以聘教师的身份在清华任教,并于 2015 年参与了清华、华盛顿大学、微软共同成立的全球创新学院(GIX)。...从不断的训练中,我们得到结论:这种偏见来自于训练采用的样本数据。 基于以上问题,我们对微软 500 名机器学习领域工程师进行了调查,我们问他们如何改善机器学习系统?...所以,我们构建了一个系统来进行对比,看到底是哪里出了问题。 ?...传统机器学习系统是低级模式,而现在的模型带有错误可解释性,可以从整体视角,根据数据集不同的特征来判断哪里出现了问题,也可以从集群角度来了解到底为什么会出现这样的问题。

    1.1K10

    清华郑纬民院士:AI for Science的出现,让高性能计算与AI的融合成为刚需|MEET2023

    虽然我们主要考虑半精度运算,但是也要考虑到精度运算的能力。 这两年下来有一个经验: 1)精度与半精度的运算性能之比1:100比较好。 2)人工智能计算机不能只做CNN的,还要做大模型训练。...4、评测程序包含必要的多机通信,因为是一个大的系统,由多机连起来的,需要有通信。 最后,以清华大学为主的团队做了一个AIPerf来测试,于2020年11月15日首次发布。...如果一个模型能在单个CPU上运算,那最省事了,但CPU的计算能力有限,内存也有限,模型也就大不到哪里去。因此大模型训练一定是多机的、分布的,这就涉及到了多种并行方法。 第一种,数据并行。...现在,我们把模型开源了,尤其是并行训练模型,将他们放在了开源系统FastMOE里,现在得到了工业界很多认可,像阿里巴巴的淘宝、天猫,腾讯的端到端语言模型,都用上了我们的并行系统。...3)大模型怎么训练得快?特别是关于数据并行、模型并行,还是专家并行。我们做了一个库放在Open Source上。现在工业界都来用我们的东西,使得大训练模型训练能够加快。

    48720

    为什么NVIDIA Jetson AGX Xavier工业模组最适合工业AI应用?

    借助新的 NVIDIA Jetson AGX Xavier 工业模块,NVIDIA 使在安全性和可靠性至关重要的恶劣环境中的边缘部署 AI 成为可能。...这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能,使开发人员能够构建先进的、支持 AI 的加固系统。...这些包括纠错码、单纠错、错误检测和奇偶校验保护,以在工业应用中提供内部 RAM 弹性、地址和数据总线错误检测和纠正以及 IP 弹性。...新的 SCE 包含 Arm Cortex-R5 处理器,可用于集成故障检测机制、锁步子系统并支持内置系统测试。Cortex-R5 处于永远在线的域中,可用于安全和纠错功能。...NVIDIA 的 CUDA-X 加速、NGC上的免费生产就绪预训练模型和NVIDIA 迁移学习工具包为开发人员提供了构建和部署深度学习以及 AI 训练和推理系统的最快途径。

    2.5K30

    前阿里P10大神AI创业,主打决策智能,从《星际争霸II》开始

    袁泉和龙海涛其人 袁泉,离职前担任阿里认知计算实验室负责人、资深总监,是手机淘宝、手机天猫推荐算法团队缔造者,2013年到2016年期间率队打造了“千人千面”的手淘推荐系统,因此还拿下了当年11的CEO...在2013-2017年期间,龙海涛在阿里巴巴负责搜索广告业务的架构设计,主导了其核心的离线系统、在线引擎和索引内核的升级换代,并因此获得了阿里妈妈“最佳团队奖”、“最佳项目奖”和“双十一个人创新特别奖”...即便狭隘一些,DeepMind、OpenAI等知名组织也都希望从星际、DOTA2这样的游戏中寻得AI突破,腾讯则还用AI+游戏进行模型算法研发、训练。 那为啥启元世界也选择《星际争霸》?...想要玩好星际,必须基于时序上、空间上去做推理,比如说地理位置的优势,坦克如果架在哪里可能会比较好,如果开分机在哪个位置去开会比较有利,甚至于军营造在什么地方,这些对于AI来说都需要进行一个空间上的推理。...当然,更长远未来,从《星际争霸》中学习训练AI,还会进入各行各业,从工业机器人的生产与操控,到自动化农业,智能交通、物联网领域,都不缺乏应用场景。 作者系网易新闻·网易号“各有态度”签约作者

    1.1K20

    NVIDIA Jetson AGX Xavier工业模组出来了!

    这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能,使开发人员能够构建先进的、支持 AI 的加固系统。...专为可靠性、安全性和安保性而设计 Jetson AGX Xavier 工业模组 将 Jetson AGX Xavier 系统级模块的超级计算功能与在恶劣环境中部署 AI 所需的全新可靠性、可用性和可维护性功能相结合...这些包括纠错码、单纠错、错误检测和奇偶校验保护,以在工业应用中提供内部 RAM 弹性、地址和数据总线错误检测和纠正以及 IP 弹性。...新的 SCE 包含 Arm Cortex-R5 处理器,可用于集成故障检测机制、锁步子系统并支持内置系统测试。Cortex-R5 处于永远在线的域中,可用于安全和纠错功能。...NVIDIA 的 CUDA-X 加速、NGC上的免费生产就绪预训练模型和NVIDIA 迁移学习工具包为开发人员提供了构建和部署深度学习以及 AI 训练和推理系统的最快途径。

    1.7K20

    未来淘汰你的是 AI 还是懂 AI 的同事?InfoQ研究中心发布 2024 年中国技术发展十大趋势

    5G、数据资产、云计算、数字孪生等技术正融入工业互联网的各个环节,产品设计、资源勘探、生产制造、设备管理、安全生产各个环节之间也日益融合。5G 工厂、跨平台等工业互联网建设成果不断累积和爆发。...根据 InfoQ 2023 年 11-12 月进行的 AI 应用开发者问卷调研,36% 的 AI 应用开发者认为,算力问题在未来需要得到解决。...2023 年 11 月,智源团队宣布,其已率先实现了在英伟达异构集群(A100 集群 +A800 集群)和天数智芯异构集群(BI-V100 集群 +BI-V150 集群)的混合训练,验证了异构并行训练方案在...在问答系统外,RAG 会如何影响推荐、总结等更多任务领域;RAG 未来将如何将应用范围拓展至多模态数据等等都是 RAG 未来发展需要考虑的问题。...这当中既包括跨平台及工业互联网试点园区,将会有针对性地为中小企业开发轻量化的应用,扩大工业互联网应用供给,为中小企业打造一批“工具箱”。

    16910

    CCAI 2017 | 漆远:蚂蚁金服 AI 技术大揭秘, 开放“模型服务平台”

    漆远表示,蚂蚁金服今年的两个关键词,一个是“开放”,一个是“AI”。 在此次演讲中,漆远从风控系统、智能助理、定损宝等产品案例出发,全面介绍了蚂蚁金服产品背后的 AI 技术。...2015年我们用于广告取得非常好的效果,后来用于淘宝推荐,前年用到11推荐,今年又用到了蚂蚁的风控里面,其实它的核心技术就是我们能够通过系统和算法的结合,处理海量数据。...刚才讲了整体的从模型训练到数据特征的产生,您可以从各种模块,到训练到部署产生API,到最后效果的监控,全流程地展示。...出了一个小车祸,照张像,哪里有问题,是撞了一个洞还是刮蹭进行判断,这是非常复杂的事。...今天我觉得学校可以和工业界合作,工业界有更多的数据,更大的问题更难的挑战,不仅应用技术还可以发展技术,今天介绍的只是一部分的技术,我们还有没有发布的技术。

    1.7K30

    CCAI 2017 | 漆远:蚂蚁金服 AI 技术大揭秘, 开放“模型服务平台”

    漆远表示,蚂蚁金服今年的两个关键词,一个是“开放”,一个是“AI”。 在此次演讲中,漆远从风控系统、智能助理、定损宝等产品案例出发,全面介绍了蚂蚁金服产品背后的 AI 技术。...2015年我们用于广告取得非常好的效果,后来用于淘宝推荐,前年用到11推荐,今年又用到了蚂蚁的风控里面,其实它的核心技术就是我们能够通过系统和算法的结合,处理海量数据。...刚才讲了整体的从模型训练到数据特征的产生,您可以从各种模块,到训练到部署产生API,到最后效果的监控,全流程地展示。...出了一个小车祸,照张像,哪里有问题,是撞了一个洞还是刮蹭进行判断,这是非常复杂的事。...今天我觉得学校可以和工业界合作,工业界有更多的数据,更大的问题更难的挑战,不仅应用技术还可以发展技术,今天介绍的只是一部分的技术,我们还有没有发布的技术。

    1.9K130

    江行智能CTO樊小毅:AI+边缘计算驱动能源产业变革 | 量子位·视点分享回顾

    随着数字化转型、碳目标、十四五规划和构建新型电力系统等相关指导政策的发布,能源电力智慧化变革正式拉开序幕。目前,人工智能技术在能源电力行业已有应用,但仍然面临诸多挑战与机遇。...在产业转型和碳目标的大背景下,人工智能落地能源电力行业遇到了哪些新挑战?为什么边缘计算能成为解决这些挑战的关键基础服务?AI+边缘计算技术在行业应用的框架、案例和未来展望有哪些?...需要综合利用云、云计算、人工智能、边缘计算、大数据、物联网、移动通信、区块链等技术来达成这个战略,建设新型电力系统,拥有包括自学习、自适应、自驱优、自恢复和自组织等特征,最终建成推动碳目标实现的这样一个综合能源系统...再次是组装式应用,我们看到在工业互联网领域,因为每套系统的定制化要求非常高,这就会导致在工业场景中出现我们业内所说的烟囱林立现象,比如在电网业务的场景中,需要在人工智能应用的输出上去叠加一层跟OA业务系统的联通...5、工业边缘系统:构建自主研发的实时工业边缘系统,需要完成国产化要求,同时提供实时的边缘计算服务,实现实时反馈、辅助决策,直至自主决策。

    1.3K20

    华为麒麟芯片或将冲击高通业绩;胡润发布中国能源民营企业TOP100;百川智能发布Baichuan 2大模型丨每日大事件

    腾讯文档发布自研核编辑引擎,智能助手已嵌入智能文档 9月7日消息,2023腾讯全球数字生态大会上,腾讯文档发布自研核编辑引擎,Office文档与云端文档实现跨端、跨设备使用。...其中,芯片和系统可分得3000亿美元,生成式AI软件可分得1500亿美元,另外1500亿美元将由英伟达发布的“全能宇宙”企业软件赚走。据雅虎财经报道,他没有明确达到上述市场规模的目标时间。...谷歌将强制要求美国大选广告商披露AI生成内容 9月7日消息,谷歌在一篇博客文章中表示,将从11月中旬开始强制要求所有美国大选相关广告商在广告包含AI生成内容的情况下添加清晰醒目的披露信息。...阿联酋TII大模型Falcon 180B开源发布 9月6日,AI社区Hugging Face于官网宣布,由技术创新研究所TII训练的开源大模型Falcon 180B正式登陆该社区。...当坦根问到如何定义AGI时,奥特曼回答道:“如果我们能够开发出一个系统,能自主研发出人类无法研发出的科学知识时,我就会称这个系统为AGI。”

    23930

    兰州拉面和水电大坝都在玩的数据大屏,到底是什么“黑科技”?

    ▍天猫11数据大屏,衍生出了一个新商机 还记得最近两年天猫11现场那块叫人惊艳的数据大屏吗?喏,2015、2016年的大屏分别长这样: ? (图片说明:2015年天猫11现场大屏) ?...(图片说明:2016年天猫11现场大屏) 这块屏引人注目不仅仅是因为它足够大,也因为数据的实时呈现和画面的渲染技术。以2016年现场这块大屏为例,在主屏的中央,是实时变化的成交金额。...作为天猫11数据大屏的出品方,阿里旗下的DataV可视化团队看到了其中的商机:对外输出数据大屏技术解决方案,帮助非专业的工程师通过图形化的界面更容易地搭建相应的可视化应用。...这样做有个好处:一旦系统里面有异常情况,可以很直观地发现。 另一个例子是某电厂的案例。我们都知道电厂有很多工业设备、发电机组、变压设备等。还有就是和公共电网并网以后,输出功率的展示问题等。...就比如11现场那个大屏,其实我们也是切分成了很多个细小的区块,这样有助于减少给硬件驱动带来的压力。

    4.4K00

    珠海航展|“天空由我守护,你可放心购物!”真是一周最美情话了

    正文共 2951 字 20 图;预计阅读时间 8 分钟 1111日,寒风些微凛冽的时候,淘宝“11”购物节活动正火热进行中。与此同时,作为“编外人员”的小编,偶然刷到一条微博“11,苍穹有我!...空军招飞,融入VR/AR/AI等高新技术 珠海航展最后一天,歼20完成精彩表演后,空军招飞展台被堵得水泄不通(大概都被歼20帅到了吧)。...地面表演碎石飞溅,场面也十分火爆 在地面装备动态演示区,兵器工业主战坦克、轮式装甲车、履带式步兵战车等,现场模拟解放军部队日常训练场景,例如爬纵坡、过壕沟、涉水池、蛇形机动等项目。...中航工业的A-HawkII无人机展出 ? 巴西航空工业公司E190-E2商用喷气机参展 ? 中国宇航员模型~ ? 参观者在搜救台观看视频 ? 中程地对空导弹武器系统 ?...“11”,淘宝成交额达2135亿,突破历年极限,让小伙伴“剁完手吃土”到泪流。而另一边的珠海航展,也让大家看到各种创新与突破,抬头仰望“战鹰翱翔,凤舞苍穹”,为我们的蓝天英雄们感动到流泪。

    86810

    AI硅脑】超越GPU,FPGA、ASIC和更智能的手机

    研究小组于是训练了一个计算机视觉模型来检测松鼠,然后将其放在树莓派3上。每当有松鼠冒险接近喂鸟器,设备就会打开喷水系统进行驱赶。...训练这些网络需要消耗大量的计算能力,但训练负载可以分为许多同时运行的任务。这就是为什么具有精度浮点和核数很多的GPU表现如此好的原因。 然而,神经网络越大,挑战也越大。...它们被用于处理Azure中的网络任务,但微软也把FPGA用在诸如机器翻译这样的AI工作负载上。英特尔也想分AI工业的一杯羹,无论在哪里运行,包括云。...它有一个专为数据中心运行设计的训练设置,可以达到2.9 PetaOPs /秒。 边缘AI 基于云的系统可以处理神经网络的训练和推理,手机、无人机等客户端设备主要是后者。...他说:“自然语言处理可以变得更加个人化,训练的是系统,而不是训练用户。” 这只能使用能在给定时间进行更多处理以推断上下文和意图的芯片。

    1.2K90

    4000选手参赛,首届“全国人工智能大赛”初赛回顾

    从赛事筹备之初,组委会就系统性的构建了完备的评审机制,技术委员会由该领域具有较高的理论水平和较丰富的实践经验专家组成。 大赛初赛主观评审采用“通过/淘汰”制。...赛项专家会审后,最终筛除相关无效团队后,赛项分别确定了初赛晋级的 100 支队伍。...2.2.4 作品亮点分析 AI+4K HDR 赛项:排名靠前的团队的基础代码为 EDVR,并且在基础模型之上引入了其他的网络结构和模块以更好地恢复高频信息,同时考虑到视频当中例如转场的特性,对训练数据与模型生成的结果进行了一定的预处理和后处理...ReID 赛项:前排的选手的团队工程结构清晰,在基础模型之上采用多个模型融合的方法完成建模,并结合了全局与局部的多特征,并对于根据数据集的特质采用如不同的数据增扩方式、损失函数的结合、网络结构的微调、训练方式的变化等训练技巧...3.1.2 线上培训活动 AI+4K HDR 赛项的线上培训 & 直播活动于 11 月 9 日下午圆满结束,由北大老师主讲,为参赛选手深入讲解人工智能超分算法/编解码等核心技术/最新算法模型/比赛攻略及答疑

    2.1K10

    【NVIDIA GTC2022】在自动光学检测(AOI)领域中推广Jetson Xavier 方案到底解决哪些痛点?

    那么让我们来看看人工智能的实施阶段,如果我们不知道人工智能采用的流程,我们将永远不知道问题出在哪里。...大规模部署 AI 应用程序需要考虑什么,以下是您应该考虑的四个重要关键。我们接下来会每个点具体说一说 第一个,工作效率,当部署人工智能系统时,训练和部署的自动化流程变得非常重要。...由于很多工程师的时间是将图像数据从 AI 机器复制到训练计算机,或者将训练模型复制到 AI 机器。...第五个话题,我要和大家分享的是带有AI推理引擎的AOI的硬件系统。...如左图所示,在POE阶段通常使用一个带RTX GPU卡的工业电脑把控制系统和推理系统放一起,因为非常简单,但是对于生产线中,AI推理与控制系统分开是非常重要的,因为你除了GPU卡外,还会要添加POE卡、

    2.3K20

    今天11,和心爱的她一起去「云露营」

    ---- 新智元报道 编辑:编辑部 【新智元导读】这个天猫11,酷炫的AI技术,为你我打造了一场如梦似幻的沉浸式购物之旅。 今年11,你买什么了?...「撑起」天猫11的硬核技术 说来,天猫怎么就忽然做起沉浸式购物了? 其实在过去的13个11里,天猫的底层技术基础设施得到了深厚的积累。而现在随着AI技术的革新,产品形态的创新,也变得千变万化。...从2015年起,为了适应业务的快速增长,阿里在「11」活动中开始将电商核心业务弹性上云,以解决大促期间的算力缺口问题。 2019年,实现核心系统上云。 2020年,实现云技术的全面原生化。...另外,今年阿里将自研CPU大规模应用于11活动,首次实现了芯片、计算架构及操作系统的协同优化,单位算力功耗降低了60%。 最初,阿里下定决心搞自研CPU的起因,也是为了满足计算场景的实际需要。...阿里CTO程立表示:「从硬件算力提升到基础设施系统层优化,云基础技术释放出巨大的红利,让11更敏捷、更经济、更绿色。一个全面深度用云、加速技术架构重塑的时代正在到来。」

    18.6K40

    连线清华,沈向洋离职后首次公开演讲:构建负责任的AI

    其实早在2005年,沈向洋就首次受聘成为了清华大学高等研究院聘教授,距今已经过去了15年,严格来说,这应该是“续聘”。...一旦哪里出现问题,我们需要对操作文件进行复盘,找出问题所在。但是,AI没有这种检修表,这就让我们对其中的问题更加迷茫。...从不断的训练中,沈向洋表示,他们得到的结论是:这种偏见来自于训练采用的样本数据。 基于这个问题,他们对微软500名机器学习领域工程师进行了调查,向他们询问是如何改善机器学习系统的?...调查后得到的结论是,机器学习工程师面临的最大问题之一就是,有时候他们知道系统出问题了,但不知道具体是哪里,也并不知道为什么。...沈向洋表示,训练时他们使用了很多数据,通过列出27种职业,包括会计、律师、教师、建筑师等,然后输入一段话,系统可以识别出其职业为,如果修改了段落中某些单词,哪怕只改变很小的一部分 ,比如只修改了性别,最终的结果就从

    58220

    西北AI现在什么水平?有人3年即实现盈利,如今估值7亿!西工大系CEO:现实没那么高大上

    核心设备和工控软件系统几乎全部来自国外厂商,为工厂的数字化转型、工业互联网及物联网化工作造成不少麻烦。...该平台包含深度学习训练框架、分布式端边云AI协同框架、分布式决策与强化学习工具链,以及AI基础算法工具库。...据介绍,为应对城市AI工业AI多样化需求,该平台面向定制化场景,可做到快速响应,从数据清洗标注、模型训练再到SDK封装交付,整个过程无过多人为干预。...依照传统深度学习特性,这需要大规模数据来训练。 这在工业生产中很难实现。 因为往往一个缺陷样本越是致命,发生概率就越低,可供训练的样本数据也就越少,加上长尾效应,更多未知场景没办法顾及。...相应诞生了“失控玩家”同款的工业级AR眼镜、煤矿上的操作系统、专为工人开发可监测脑电波的安全帽等一系列前沿产品。

    52140
    领券