首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

清华大学李涓子:AI系统如何实现认知推理

人工智能系统如何实现知识的表示和推理?...在2021年世界人工智能大会上,由AI TIME组织的“图神经网络与认知智能前沿技术论坛”中,清华大学计算机系教授李涓子围绕“知识图谱与认知推理”做了主题报告,从问答系统的角度解释了AI如何实现认知推理...图 2:认知推理框架 以下是报告全文,AI科技评论做了不改变原意的整理。 1 认知 VS 知识 图 3:本体 认知是人获取并应用知识的过程,知识图谱是人表示客观世界认知的一种形式。...诺贝尔经济学奖获得者丹尼尔卡尼曼提出,在人的认知系统中存在系统 1 和系统 2,其中系统 2 进行较慢的逻辑化、序列化的推理。...3 可解释的认知推理 图 13:问答系统 我们团队从图灵测试出发,尝试在问答任务中探索可解释的认知推理技术。

1.1K40

检修盒面板AI视觉检测系统,赋能工业发展!

制造业是中国工业化的源头,也是工业生产大国。任何一步的质量都可能影响生产过程的变化。表面缺陷不仅影响产品的美观和舒适性,还会对其性能产生不良影响。因此,制造商对产品的表面缺陷检测非常重视。...对于一些重要的按钮,尤其是停机和上下键安装错误,很容易导致严重事故,因此迫切需要使用人工智能检测手段,引入机器视觉检测,配合AI智能化算法,有效控制产品质量,从而消除或减少缺陷产品的产生,提高生产效率。...图片一、系统架构AI视觉检测系统主要通过光源和图像传感器(工业相机)获取产品的表面图像,利用图像处理算法提取图像的特征信息,然后根据特征信息对表面缺陷的定位、识别、分类等判定与统计,通过图像采集、图像校正...二、系统功能图像采集:500万像素8帧/秒定焦定高工业相机,由算法自动处理,面板高度不同带来的对焦可调整;图像预处理:预处理算法消除每个面板的长、宽、高均不相同,模板制作的好坏、视差的高低所带来的影响。...可扩展性:该系统可不仅仅局限于检修盒面板的检测,所有可以用模板匹配方法解决的问题,都可以无缝采用该软件系统。三、系统软件检验窗口:支持查看待检设备及模板图像、检验结果等,设置系统初始化配置。

1.3K40
您找到你想要的搜索结果了吗?
是的
没有找到

推理加速GPT-3超越英伟达方案50%!最新大模型推理系统Energon-AI开源,来自Colossal-AI团队

因此,多卡并行被视为AI大模型推理的必然选择。 但现有的推理系统仍旧存在不少弊端。 比如需要用户对通信、内存等各部分协作进行手动管理,需要额外编译等……导致用户使用门槛居高不下。...为此,大规模并行AI训练系统Colossal-AI团队提出了大模型推理系统Energon-AI。...而当前的深度学习推理系统,主要面向多实例单设备以及单实例单设备的简单推理场景,忽视了AI大模型推理所需要的单实例多设备的挑战与机遇,Energon-AI系统正是为了解决这一痛点而生。...△模型参数的迅速增长[https://arxiv.org/abs/2111.14247] Energon-AI系统设计 面向AI大模型部署,Colossal-AI团队设计了单实例多设备推理系统Energon-AI...△Energon-AI超大模型推理系统示意图 Energon-AI系统设计分为三个层次,即运行时系统(Runtime)、分布式推理实例(Engine)以及前端服务系统(Serving): Runtime

1.5K20

推理加速GPT-3超越英伟达方案50%!最新大模型推理系统Energon-AI开源,来自Colossal-AI团队

因此,多卡并行被视为AI大模型推理的必然选择。 但现有的推理系统仍旧存在不少弊端。 比如需要用户对通信、内存等各部分协作进行手动管理,需要额外编译等……导致用户使用门槛居高不下。...为此,大规模并行AI训练系统Colossal-AI团队提出了大模型推理系统Energon-AI。...而当前的深度学习推理系统,主要面向多实例单设备以及单实例单设备的简单推理场景,忽视了AI大模型推理所需要的单实例多设备的挑战与机遇,Energon-AI系统正是为了解决这一痛点而生。...△模型参数的迅速增长[https://arxiv.org/abs/2111.14247] Energon-AI系统设计 面向AI大模型部署,Colossal-AI团队设计了单实例多设备推理系统Energon-AI...△Energon-AI超大模型推理系统示意图 Energon-AI系统设计分为三个层次,即运行时系统(Runtime)、分布式推理实例(Engine)以及前端服务系统(Serving): Runtime

97710

漆远:小数据学习和模型压缩存挑战,场景成为 AI 技术发展关键

“于是我们就在CTR预估上采用了这个系统。因为这个系统只要能提升1‰,就有很多收益;提升1% 的收益就更多。...客服项目在蚂蚁金服可以说是第一个标杆性的人工智能落地项目,它一开始是典型的人力服务工作,在成都客服中心有几千人,每年11接电话非常繁忙。...基于加强学习的对话系统 “其实在对话系统没有很多数据的情况下,一开始你很难做加强学习,有可能你就只能做一个规则技术。...推理和知识图谱 很多问题需要你做推理,如果A发生了,到B,B发生,回到C,你怎样把推理过程做好?今天,大家做了很多深度学习,比如说一个文本里面,A会导致B的发生,你把这个相关的答案找到。...大家能不能真正有一套机制,能有推理的功能?这其实既有理论上的价值,更有商业上的价值,巨大的价值。

3K30

为什么NVIDIA Jetson AGX Xavier工业模组最适合工业AI应用?

借助新的 NVIDIA Jetson AGX Xavier 工业模块,NVIDIA 使在安全性和可靠性至关重要的恶劣环境中的边缘部署 AI 成为可能。...这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能,使开发人员能够构建先进的、支持 AI 的加固系统。...这些包括纠错码、单纠错、错误检测和奇偶校验保护,以在工业应用中提供内部 RAM 弹性、地址和数据总线错误检测和纠正以及 IP 弹性。...新的 SCE 包含 Arm Cortex-R5 处理器,可用于集成故障检测机制、锁步子系统并支持内置系统测试。Cortex-R5 处于永远在线的域中,可用于安全和纠错功能。...NVIDIA 的 CUDA-X 加速、NGC上的免费生产就绪预训练模型和NVIDIA 迁移学习工具包为开发人员提供了构建和部署深度学习以及 AI 训练和推理系统的最快途径。

2.5K30

江行智能CTO樊小毅:AI+边缘计算驱动能源产业变革 | 量子位·视点分享回顾

随着数字化转型、碳目标、十四五规划和构建新型电力系统等相关指导政策的发布,能源电力智慧化变革正式拉开序幕。目前,人工智能技术在能源电力行业已有应用,但仍然面临诸多挑战与机遇。...此外就是AI推理的时耗,需要保证在人工智能决策的同时,也能满足响应时间的要求,同时实现控制指令的下发和反馈。...需要综合利用云、云计算、人工智能、边缘计算、大数据、物联网、移动通信、区块链等技术来达成这个战略,建设新型电力系统,拥有包括自学习、自适应、自驱优、自恢复和自组织等特征,最终建成推动碳目标实现的这样一个综合能源系统...再次是组装式应用,我们看到在工业互联网领域,因为每套系统的定制化要求非常高,这就会导致在工业场景中出现我们业内所说的烟囱林立现象,比如在电网业务的场景中,需要在人工智能应用的输出上去叠加一层跟OA业务系统的联通...5、工业边缘系统:构建自主研发的实时工业边缘系统,需要完成国产化要求,同时提供实时的边缘计算服务,实现实时反馈、辅助决策,直至自主决策。

1.3K20

无法获得NVIDIA H100 GPU时该怎么办?

对于那些想要购买替代产品,并控制自己的预算的厂商来说,这可能意味着需要去考虑购买AMD MI300X 和 MI300A GPU 、英特尔Gaudi 2 加速器,或者尝试购买一些 Nvidia A100...假设AI厂商的 LLM 可以在没有太多 FP64 精度浮点的情况下进行 AI 训练——显然,有些模型可以使用 FP32 和较低的精度,因为上面的奇特 AI 引擎根本没有任何 FP64算术。...具体来说,L40S 是 L40 的变体,已在更广泛的服务器上获得认证,并且经过认证可以运行 AI 训练和推理工作负载。而L40仅针对AI推理。...这就是为什么人们一直在求助于 Liqid,希望利用其可组合基础设施将更多 Lovelace GPU 加速器塞进系统中,而 NVIDIA 在 HGX 系统板上设计的 HGX 系统板则销售给基于 Hopper...但如果他们购买Liqid系统,他们基本上会免费获得它,并且很容易就能弄清楚如何使用它。 编辑:芯智讯-林子 来源:The Next Platform

30510

AI 迈进深水区,谈落地、谁能带来新解法? | 2022雷峰网「产业科技 · 最具商用价值榜」

从“作坊式”向“工业化”转型升级,是AI 产业落地的一次重要探索。一批兼具创新和实力的工程项目,让人工智能技术作为产业发展的工具和引擎成为真正可能。...在自动驾驶行业,阿里灵杰AI工程平台可帮助自动驾驶企业构建高性能的AI平台,实现训练部署、推理环节的提效,助力自动驾驶企业的业务腾飞。...2021年年底,Gartner 在《2022年十二大重要战略技术趋势》中将AI工程化明确为未来三到五年“企业数字业务创新的加速器”。...以生产安全场景的火焰检测算法生产为例,旷视AIS平台通过标准化的数据处理,可自动完成去重去花屏,基于机器学习的人机交互数据标注系统,标注效率可提升超过30倍。...AI 加速服务TI-ACC凭借其高性能、支持多平台框架和强大的技术支撑,可为企业提供 AI 模型训练、推理加速服务,显著提高模型训练推理效率,降低成本。

58110

NVIDIA Jetson AGX Xavier工业模组出来了!

这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能,使开发人员能够构建先进的、支持 AI 的加固系统。...专为可靠性、安全性和安保性而设计 Jetson AGX Xavier 工业模组 将 Jetson AGX Xavier 系统级模块的超级计算功能与在恶劣环境中部署 AI 所需的全新可靠性、可用性和可维护性功能相结合...这些包括纠错码、单纠错、错误检测和奇偶校验保护,以在工业应用中提供内部 RAM 弹性、地址和数据总线错误检测和纠正以及 IP 弹性。...新的 SCE 包含 Arm Cortex-R5 处理器,可用于集成故障检测机制、锁步子系统并支持内置系统测试。Cortex-R5 处于永远在线的域中,可用于安全和纠错功能。...NVIDIA 的 CUDA-X 加速、NGC上的免费生产就绪预训练模型和NVIDIA 迁移学习工具包为开发人员提供了构建和部署深度学习以及 AI 训练和推理系统的最快途径。

1.7K20

Flir与英特尔为开发AI系统建立了一个开放式相机平台Flir Firefly

总部位于俄勒冈州威尔逊维尔的Flir公司是世界上最大的红外热像仪和传感器生产商之一,与英特尔合作创建了一个开放式相机平台Flir Firefly,专为AI系统开发而设计。...它针对图像信号处理和推理进行了优化,经过训练的AI模型可在设备上进行预测,最大限度地减少对互联网连接的需求,同时延长电池寿命。...具体来说,Myriad 2包括(1)用于专用成像和计算机视觉任务的硬件芯片,(2)十二个128位流混合架构矢量引擎(SHAVE)处理器内核,可加速处理核心的矢量数据处理。...系统。...它支持UBS3 Vision协议(一种基于USB的图像处理设备协议),它采用GenICam标准,工业相机的编程接口,可选择的感兴趣区域,以及像素合并(一种降低噪声并提高帧速率的技术)和8位和16位原始像素格式

84830

基于边缘容器技术的工业互联网平台建设

第二个是工业互联网最重要的部分:工业云/区域云,在这里会提供有限的计算能力,比如有限的AI推理能力、IoT后台计算能力、告警能力等,同时会提供一些灵活的运营策略给到不同区域、不同产品特色的运营商。...Ti-EMS是AI弹性扩容的集群服务。因为训练需要用到很多的资源,所以一般很难在工业云上直接做,通常会在用腾讯云上无限的算力来进行训练,而训练出来的推理模型可以推到工业云的EMS上做推理服务。...AI质检平台 接下来介绍两个跟制造业或工业相关的案例,第一个案例是工业AI质检平台。...推理服务主要是跑在Ti-EMS上面,Ti-EMS的计算量相对来说并不需要那么大,所以Ti-EMS可以部署到工业云或者一体机上,这取决于客户愿意承担多少成本来购买设备和服务到边缘层。...A:传统企业一般不会到腾讯云上面来购买东西,往往是由区域合作伙伴帮他们想解决方案的时候做了购买这一步。而且工业云上已经过滤了一波适合制造业领域的应用了。

1.5K20

2021腾讯犀牛鸟精英工程人才培养计划课题介绍(下篇)

本文推送计划中后四个课题内容: 课题五AI模型推理加速系统化工程; 课题六基于WeMap的地图服务开放平台; 课题七量子EDA工具; 课题八高中数学学科自动解题。...课题5 AI模型推理加速系统化工程 (地点:深圳) 课题简介 本课题集中于研究并引入业界先进的AI模型推理加速技术,致力于构建完整的模型加速落地方案。...主要涉及AI模型算法基本原理、模型推理加速技术、运算算子优化、CPU/GPU等硬件加速技术、系统工程设计等领域。...工程人才计划旨在以产业真实项目为牵引,在校企导师指导下,模拟产业研发场景,组建学生研发团队,通过持续深入的挑战进阶式课题目标达成,培养学生系统性思维,拓展前沿技术视野,提升团队协作水平、解决复杂问题等核心创新能力...课题(七)——自然语言处理 课题(八)——视觉及多媒体计算 课题(九)——信息检索与推荐系统 课题(十&十一&十二)——智慧城市、数据库、信息安全技术 了解犀牛鸟精英计划更多详情: 2021腾讯“犀牛鸟精英人才培养计划

1K20

AMAX推出AI训练和推理平台DL-E48A,支持超大规模部署

AMAX,AI和深学习发展高性能服务器的领先制造商,宣布推出的DL-E48A,可重新配置的单双根高密度GPU平台,专为AI训练和推理而设计。AMAX在CVPR 2018展示了其备受瞩目的解决方案。...DL-E48A是一款高性能,高密度8x GPU服务器平台,具有业内首款可远程配置的单PCIe根联合体系结构,可简化AI和DL培训,推理,HPC计算,渲染和虚拟化。...利用英特尔的可扩展处理器架构,该系统与以前的英特尔处理器系列相比,CPU(UPI)之间的通信带宽提高了56%,带宽提高了54%。DL-E48A提供NVME存储选件。...使用DL-E48A,系统能够同时支持这两种架构,使公司能够针对两种架构测试其应用,以获得最佳性能。...DL-E48A是AI开发以及大型到超大规模部署的首选平台,可作为服务器单元购买,也可设计为rackscale解决方案和联网集群。

53240

Facebook发布新购物AI,通用产品识别的计算机视觉系统让「一切皆可购买

新智元报道 来源:VentureBeat等 编辑:啸林 【新智元导读】Facebook发布最新AI技术,要让“任何物品皆可购买”成真——基于物品分割、检测和分类三个方面的进步。...Facebook的长期目标是创建一个全面的AI驱动的系统,实现无缝消费。...Facebook发布新AI:让“一切皆可购买” 昨天,Facebook首席执行官马克·扎克伯格宣布推出Facebook Shops。...如果您看到喜欢的东西(衣服,家具,电子产品等等),您可以为它拍张照片,系统会找到确切的商品,以及从那时到那里立即购买的几个类似商品,并提供购物建议。”...第一个是通用计算机视觉系统GrokNet,目标是在图片或视频中识别所有的产品,实现“一切皆可购买”。

1K40

手机厂商年底冲销量,降价和新品你战哪一队?

11月底,"廉价版Mate 10”荣耀V10发布,搭载18:9的全面屏,前置1300万像素AI自拍摄像头,后置2000万(黑白)+1600万(彩色)像素的摄镜头,成为荣耀最高配置的拍照手机,还有AI、...还有,电商平台开展的双十二购物节则与手机公司的冲刺目标不谋而合,电商平台要GMV,手机公司要销量,于是纷纷选在双十二前夕发新机,并刻意等到双十二发售。...这款手机此前得到市场验证,主打摄旗舰,上市以来新用户超60%,在千元机中具有很强的竞争力,11当天与魅蓝6销量合计突破了80万台。 ?...市场对于手机从来都是以销量论英雄,IDC每个季度的报告发布都会引发各界关注,手机排名甚至会直接影响用户的购买决策。...产品规划,魅族与魅蓝,小米与红米,华为与荣耀,都形成了品牌结构,由专门的品牌负责销量冲击的任务。

15.1K40

通用大模型不是万金油,什么才是解决产业问题的最优解?

与此同时,CPU 易于扩展内存、软件兼容与扩展能力优秀的特性,也让企业在选择 AI 推理系统的软件栈时有了更高的灵活度。...在 AI 行业,CPU 的重要性正在与日俱增。 从推荐系统到视觉推理, CPU 如何在 AI 领域大放异彩 谈到 AI 硬件,CPU 长期以来扮演的都是"绿叶"的角色。...该系统需要确保 AI 推理任务的处理时间在严格的时延阈值范围内,从而保障用户体验;同时系统需要确保一定的推理精度,从而保障推荐质量。...为了实现性能与成本的平衡,阿里巴巴最近开始在推荐系统中采用了 CPU 处理 AI 推理等工作负载,并选择了第四代英特尔® 至强® 可扩展处理器进行性能优化。...当用户需要更高的 AI 场景性能时,只需购买 Gaudi2® 处理器安装在至强服务器的 PCIe 插槽上,就能实现系统的无缝升级,同时利用 AMX 加速引擎与 Gaudi 2® 专用加速芯片带来的诸多优势

18730

英伟达再发边缘AI计算设备:仅信用卡大小,性能比TX2强15倍

晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI 英伟达最近发布了Jetson Xavier NX,这是一个用于在无人机、汽车和机器人等边缘设备上的AI系统模块。...Jetson Xavier NX的大小仅相当于一张信用卡,可以为AI工作负载提供21 TOPS的算力,而功耗最高仅为15瓦。 ?...显示:(2x) DP 1.4 / eDP 1.4 / HDMI 2.0 a/b @ 4Kp60 PCIe:(2x) PCIe Gen 3控制器, 5路 | 1×1 + 1×1/2/4 深度学习模块:NVIDIA...输入 机器学习性能 与全尺寸Jetson AGX Xavier相比,Jetson Xavier NX的应用场景主要是小型商用机器人、无人机、高分辨率传感器、光学检测、网络录像机、便携式医疗设备以及其他工业物联网系统...因此,对于推理任务,Jetson Xavier NX比Jetson Nano和Jetson TX2产品要快得多。 ?

1.6K10

清华大学周伯文教授:从原则到实践解读多模态人工智能进展与可信赖AI

在演讲中,他主要介绍了多模态 AI 近期的突破以及可信 AI 的挑战。目前人工智能正在从 “AI” 走向“可信赖 AI”。在全球范围内,可信赖 AI 也正逐渐成为学术界和工业界研究和关注的热点问题。...不管是孔子与七十二门徒还是西方的雅典学派,知识的传播、形成、迭代都是通过老师和学生的互动来完成的,如何让人工智能能够自主学习并不断迭代新的知识是我们在清华的重要研究方向。...近年来,我们持续推动 “可信赖 AI” 的系统性建设。...模型内部,在 MRC 任务给出答案支撑事实;模型外部,在 QA 任务中给出答案的推理过程,通过推理过程自洽性提高准确率。...比如在工业界,要做一个可信赖 AI系统,我们从用户需求的调研和用户问题的提出开始,就要思考这是不是可信赖 AI 的问题,再到数据的收集标注,算法设计,开发上线,最后到产品交付,保持用户体验,从工业角度来讲

37520
领券