本文节选整理自NVIDIA GTC讲座[S41607]: 自动光学检测(AOI)中采用的深度学习技术一直是制造业的热门话题。 然而,大多数项目都停留在概念验证阶段或仅部署在少数 AOI 机器上。 我们的分析发现,障碍通常与 AI 模型的准确性或性能无关,而是出于其他原因。 在制造检测中部署深度学习时,我们将解决这些障碍,以及 Jetson 平台如何帮助我们克服这些障碍。 根据我们的经验,制造商在采用人工智能技术方面面临障碍,这三点是我们从客户那里听到的最常见的原因。一是技能差距,客户没有新技术技能,二是对
当年作为核心SE在MindSpore团队从0到1构建了MindSpore Lite推理引擎,到去年知道的信息是现在在华为和荣耀手机上的AI能力都是基于Lite推理引擎,调用次数10亿/天。
机器人和自动化越来越多地用于制造、农业、建筑、能源、政府和其他行业,但许多公司一直在努力将人工智能和深度学习的优势融入到最苛刻的应用中。 借助新的 NVIDIA Jetson AGX Xavier 工业模块,NVIDIA 使在安全性和可靠性至关重要的恶劣环境中的边缘部署 AI 成为可能。这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能,使开发人员能够构建先进的、支持 AI 的加固系统。Jetson AGX Xavier Industrial 专为最恶劣环境中的智能视频分析、光学检
从工厂和农场到炼油厂和建筑工地,这些炎热、肮脏、嘈杂、潜在危险的地方却是保持工业繁荣至关重要的地方。而这些地方在日常运营的同时都需要检查和维护,但是,考虑到安全问题和工作条件,派人进驻并不总是最好的。
在人工智能领域,知识推理技术是一个不断发展的重要分支,它关注于如何让计算机系统使用预先定义的知识库进行逻辑推理,以解决复杂问题。这种技术基于一系列成熟的理论和方法,从传统的符号逻辑推理发展到现代的图谱推理和机器学习融合方法。知识推理不仅涉及知识的有效表示和存储,还包括如何通过逻辑运算对这些知识进行处理和推导出新的知识。
在前沿AI大模型规模呈指数级增长的趋势下,仅凭单卡已经很难满足当下的推理需求。 就拿拥有1750亿参数的GPT-3来说。 仅仅是加载模型参数就需要数百GB的存储空间,远超单个GPU的容纳能力。 因此,多卡并行被视为AI大模型推理的必然选择。 但现有的推理系统仍旧存在不少弊端。 比如需要用户对通信、内存等各部分协作进行手动管理,需要额外编译等……导致用户使用门槛居高不下。 为此,大规模并行AI训练系统Colossal-AI团队提出了大模型推理系统Energon-AI。 以“高性能、高可用、可伸缩”的理念,深
文 | 传感器技术(WW_CGQJS) 12月15日,工信部正式印发了《促进新一代人工智能产业发展三年行动计划》,为2018年到2020年人工智能发展指明了前进的方向。计划中的重点内容是培育八项智能产品和四项核心基础,而智能传感器正排在核心基础的第一位,处于最基础最重要的地位。 万物相连技术链 传感器、大数据、机器学习、人工智能和机器人是怎样拧在一起了呢?在人工智能时代硬件和软件是共生演化的,彼此影响的呢? “物联网”、“大数据”和“机器人”等,其实这些趋势是相互联系在一起的,拧成一个大趋势, 在这个链条里
作者 | 丁效 整理 | 维克多 在过去十年的人工智能浪潮中,以深度学习为代表的人工智能技术已基本实现了视觉、听觉等感知智能,但依然无法很好地做到思考、推理等认知智能。 4月9日,哈尔滨工业大学计算学部副研究员丁效,在AI TIME青年科学家——AI 2000学者专场论坛上,做了《基于神经符号的认知推理方法》的报告,分享了神经网络方法执行符号推理任务的最新进展,同时也给出了将符号知识注入神经网络的思路以及如何将神经网络与符号系统相融合。 以下是演讲原文,AI科技评论做了不改变原意的整理。 今天和大家分享神
以AI知名的科技公司科大讯飞,2022全球1024开发者节上官宣最新技术成果和进展。
在大型语言模型(LLM)的世界中,处理多轮对话一直是一个挑战。前不久麻省理工Guangxuan Xiao 等人推出的 StreamingLLM,能够在不牺牲推理速度和生成效果的前提下,可实现多轮对话总共 400 万个 token的流式输入,22.2 倍的推理速度提升。
StreamingLLM可以在不牺牲生成效果、推理速度的前提下,实现多轮对话共400万个token,22.2倍推理速度提升。
在大型语言模型(LLM)的世界中,处理多轮对话一直是一个挑战。前不久麻省理工Guangxuan Xiao等人推出的StreamingLLM,能够在不牺牲推理速度和生成效果的前提下,可实现多轮对话总共400万个token的流式输入,22.2倍的推理速度提升。
---- 将 ScienceAI 设为星标 第一时间掌握 新鲜的 AI for Science 资讯 ---- 编辑 | 萝卜皮 科学家们的目标是发现能够准确描述实验数据的有意义的公式。自然现象的数学模型可以根据领域知识手动创建,或者也可以使用机器学习算法从大型数据集自动创建。学界已经研究了表示相关先验知识与相关函数模型合并的问题,认为寻找与一般逻辑公理先验知识一致的模型,是一个悬而未决的问题。 IBM 研究团队以及三星 AI 团队的研究人员开发了一种方法「AI-Descartes」,通过将逻辑推理与符
开放测试路段是在上海嘉定区,行驶范围也包括汽车会展中心、办公区、地铁站、酒店等核心区域的。
一口气10+个大模型联手登场,能写诗、写作文、写代码,还能画画、做视频、看图说话。
本期将为大家介绍香港中文大学计算机科学与工程系 James Cheng 老师招收工程师和实习生相关信息。 Husky Data Lab 是由香港中文大学计算机科学与工程系 Prof. James Cheng 领导下的大数据实验室,专注于高性能数据分析系统和数据库的开发,研究成果已被应用于工业界多个大规模 / 高性能系统。 个人主页:https://www.cse.cuhk.edu.hk/~jcheng/ 目前,James Cheng 教授团队在开发 Ofnil 和 Graxy 两个平台: Ofnil gr
最近ZOMI这2/3周有幸被邀请去百度交流、去VIVO研究院交流、去MindSpore开源团队交流、去华为昇腾团队交流推理引擎。所以有些心得体会,恰好前不久又分享完《AI编译器》系列课程和《AI推理引擎》系列课程。
前言:我们正处在认知智能的起步的阶段,还有很多未知的因素,也不知道未来往哪走,但是有一条,无非是要么从知识,要么图谱、要么融合,但是可用肯定前景是无限的。这里有很多的机会,把我们的认知智能,搜索、问答问题、推理这些东西用在工业互联网的很多场景里面,认知智能技术,搜索、回答问题、推理的这些数据用在工业借的很多场景里,认知智能技术蕴藏着巨大的前景。
在当前发展阶段,制造企业普遍面临着诸多的挑战,包括如何改善工作效率以提升行业竞争力,如何降低生产过程中的产品不良率等,从而优化产业成本,其中缺陷检测便是最典型的场景之一。人工肉眼检测的识别效率低,且成本较高,传统机器的方法可扩展性又较差,深度学习技术为上述问题提供了一条解决之道。通过在智能制造系统中使用深度学习技术,制造企业将能够获得自动视觉定位缺陷位置,辨别缺陷种类,真正实现降本增效的目的。
2023 年已经过半,可以说是属于生成式 AI 大模型的一年。自 ChatGPT 推出以来,这股新的 AI 技术浪潮迅速席卷了国内外。尤其是国内,科技大厂、初创公司和科研机构陆续推出了近百个通用或特定领域专属大模型及应用产品。
来源:arXiv 作者:闻菲,刘小芹 【新智元导读】南京大学周志华教授等人在最新的一篇论文中提出了“溯因学习”(abductive learning)的概念,将神经网络的感知能力和符号AI的推理能力结合在一起,能够同时处理亚符号数据(如原始像素)和符号知识。实验中,基于溯因学习框架的神经逻辑机NLM,在没有图像标签的情况下,学会了分类模型,能力远超当前最先进的神经网络模型。作者表示,就他们所知,溯因学习是首个专门为了同时进行推理和感知而设计的框架,为探索接近人类水平学习能力的AI打开了新的方向。假设你在踢足
如果问计算机擅长什么,在所有的答案里,数学必须榜上有名。在经历了漫长的研究之后,顶尖学者们在研究计算机关于数学计算方面的发展,取得了令人惊讶的成绩。
2023 年的 AI 产业可以用风起云涌来形容。ChatGPT 的横空出世让生成式 AI 技术一夜之间红遍全球,很多从未了解过人工智能的普通人也开始对大模型产生了浓厚的兴趣。媒体、调研机构纷纷推出长篇专题,论证 ChatGPT、StableDiffusion、Midjourney 等文本和图像大模型会对哪些行业产生颠覆式影响;甚至有很多员工和企业开始利用这些大模型提升日常工作中的生产力,乃至取代人类岗位。毫无疑问,2023 年将是大模型技术开始爆发的转折点,一场影响深远的技术革命正在徐徐拉开帷幕。
机器之心专栏 作者:字节跳动AI Lab、UT Austin、新加坡科技设计大学StatNLP组 目前强大的语言模型普遍在很多下游 NLP 任务中能轻易地达到比较好的结果,但在推理效果上没有达到我们的预期 [1]。字节跳动人工智能实验室与新加坡科技与设计大学提出一个基于演绎推理的方法,希望实现类似 System 2 的推理能力 [2]. 论文链接:https://arxiv.org/abs/2203.10316 研究动机 作为一类需要解题的推理过程,在数学解题任务中比较适合应用演绎推理模型。我们尝试在此任
深度学习已经推动人工智能进入工业大生产阶段,而深度学习框架则是智能时代的操作系统。
自由能原理(FEP)为生物如何感知和与环境相互作用提供了一个雄心勃勃的理论(弗里斯顿,2009年,2010年)。FEP假设,为了使一个主体在时变的环境条件下存在(并持续),它必须在主体的内部(“生成”)环境观察模型下最小化自由能泛函(Friston等人,2006)。
Generating meaning: active inference and the scope and limits of passive AI
在人工智能(AI)的快速发展背景下,大语言模型(LLMs)凭借其在语言相关任务上的杰出表现,已成为 AI 领域的重要推动力。然而,随着这些模型在各种应用中的普及,它们的复杂性和规模也为其部署和服务带来了前所未有的挑战。LLM 部署和服务面临着密集的计算强度和巨大的内存消耗,特别是在要求低延迟和高吞吐量的场景中,如何提高 LLM 服务效率,降低其部署成本,已经成为了当前 AI 和系统领域亟需解决的问题。
最近爆火的AI初创公司Groq,推出了比目前常见GPU推理系统快4倍,成本低70%的大模型推理解决方案。
互联网时代,人类在与自然和社会的交互中生产了异常庞大的数据,这些数据中包含了大量描述自然界和人类社会客观规律有用信息。如何将这些信息有效组织起来,进行结构化的存储,就是知识图谱的内容。
---- 新智元报道 编辑:桃子 好困 【新智元导读】这次,昇思大模型平台迎来了全新升级,不仅推出了大模型产业专区,而且还开放了AI画廊社交平台,让开发者找到创作乐趣。 自2019年开始,超大规模预训练模型逐渐涌出,到2020年发展到白炽化阶段。 1750亿参数的GPT-3大模型的发布,大模型参数规模实现了从亿级到千亿级的突破。 2022年ChatGPT的横空出世再次点燃了人工智能火炬,国内外大厂开始纷纷发布自家大模型。 可以说,大模型迈出了通用人工智能的第一步,作为未来社会技术突破与变革的关键力
融合·共生·创新 重磅白皮书&报告发布 共探技术成果 《数字化转型指数报告2021》 当下中国数字化增长动能整体强劲,数字化转型指数持续走高。报告对全国351个城市和18个主要行业的数字化转型进行了全面的洞察和评估,并专门提取云计算和AI指数进行专题分析,展示用云量和赋智量在各区域和各行业的排布情况。 *更多白皮书&报告持续更新中,敬请关注下载 大咖讲义 共话数实融合 腾讯优图在工业AI领域的推理部署实践 丁丹迪 / 腾讯高级研究员 成都天府绿道智慧文旅案例分析 胡佳 / 成都天府绿道建设投资集团副
机器之心原创 机器之心编辑部 5 月 27 日,机器之心主办的为期两天的全球机器智能峰会(GMIS 2017)在北京 898 创新空间顺利开幕。中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃为本次大会做了开幕式致辞,他表示:「我个人的看法是再过几年,我们 90% 的工作是人工智能提供的,就像我们今天大部分工作是机器提供的一样。我们知道人工智能会给我们提供一个更美好的未来。」大会第一天重要嘉宾「LSTM 之父」Jürgen Schmidhuber、Citadel 首席人工智能官邓力、腾讯 A
对于这个系统,你可以使用阀门控制流入水箱的水。流出率取决于输出管的直径(恒定)和水箱中的压力(随水位变化)。因此,该系统具有非线性特性。
近日,CMU Catalyst 团队推出了一篇关于高效 LLM 推理的综述,覆盖了 300 余篇相关论文,从 MLSys 的研究视角介绍了算法创新和系统优化两个方面的相关进展。
从 AlphaFold 到数学推理,DeepMind 一直在尝试将 AI 和基础科学结合。现在,DeepMind 又创建了一个可以学习简单物理规则的新模型。
在人工智能的世界里,正在发生一场翻天覆地的变化,随着 ChatGPT、Sora 的横空出世,我们正在从深度学习时代转向生成式人工智能时代,而在这场巨变中,芯片成为了科技巨头们的必争之地。
机器之心报道 编辑:小舟、陈萍 Deepmind 旨在建立一个能够学习直观物理学的模型,并剖析模型实现这种能力的原因。 从 AlphaFold 到数学推理,DeepMind 一直在尝试将 AI 和基础科学结合。现在,DeepMind 又创建了一个可以学习简单物理规则的新模型。 发育心理学家测试分析了婴儿如何通过目光来跟随物体的运动。例如,当播放视频中有一个球突然消失时,孩子们会表现出惊讶。 DeepMind 的计算机科学家 Luis Piloto 及其同事希望为人工智能 (AI) 开发类似的测试。该团队使用
来源:ScienceAI本文约2200字,建议阅读5分钟DeepMind 旨在建立一个能够直观学习物理学的模型。 从 AlphaFold 到数学推理,DeepMind 一直在尝试将 AI 和基础科学结合。现在,DeepMind 又创建了一个可以学习简单物理规则的新模型。 发育心理学家测试分析了婴儿如何通过目光来跟随物体的运动。例如,当播放视频中有一个球突然消失时,孩子们会表现出惊讶。 DeepMind 的计算机科学家 Luis Piloto 及其同事希望为人工智能 (AI) 开发类似的测试。该团队使用立方体
博雯 发自 凹非寺 量子位 | 公众号 QbitAI 如何在不查看图片的前提下,几秒之内就识别一张图片? 这个看似在找茬的问题,却是隐私计算领域会真实碰到的问题。 著名的“百万富翁问题”所描述的就是这样的场景:两位富翁如何在不知道对方财富的前提下,比较谁的财富更多? 近年来出现出现的一些方法,比如两方计算网络推理(2PC-NN)可以解决上述问题,但同时又会造成大量的计算成本和通信开销。 但现在,只要2.5分钟,2.3GB的通信费用,就能在ResNet50的基准上进行端到端的执行。 比起现在最好的两方计算网
机器之心专栏 机器之心编辑部 近日,来自卡耐基梅隆大学(CMU)的 Catalyst Group 团队发布了一款「投机式推理」引擎 SpecInfer,可以借助轻量化的小模型来帮助大模型,在完全不影响生成内容准确度的情况下,实现两到三倍的推理加速。 随着 ChatGPT 的出现,大规模语言模型(LLM)研究及其应用得到学术界和工业界的广泛关注。一方面,开源的 LLM 模型不断涌现,比如 OPT、BLOOM、LLaMA 等,这些预训练模型的推出极大地促进了 LLM 的相关研究,使得 LLM 可以被应用于解决
机器之心报道 编辑:泽南 1750 亿参数,只需要一块 RTX 3090,ChatGPT 终于不再是大厂专属的游戏? 计算成本是人们打造 ChatGPT 等大模型面临的重大挑战之一。 据统计,从 GPT 进化到 GPT-3 的过程也是模型体量增长的过程 —— 参数量从 1.17 亿增加到了 1750 亿,预训练数据量从 5GB 增加到 45TB,其中 GPT-3 训练一次的费用是 460 万美元,总训练成本达 1200 万美元。 除了训练,推理也很花钱。有人估算,现在 OpenAI 运行 ChatGPT
机器之心专栏 编机器之心编辑部 最近,AIGC 行业的火爆得益于人工智能 (AI) 技术的快速发展,元宇宙数字人、游戏 NPC、复杂场景的控制和决策等越来越多的应用对模型认知能力的强烈需求日益凸显。以预训练大模型为基座,着力于探究语言模型的认知能力是 IDEA 研究院认知计算与自然语言研究中心(IDEA-CCNL)“盖亚计划”的重要方向。 “盖亚计划”由 IDEA 研究院认知计算与自然语言研究中心发起,致力于在预训练大模型时代建设 AIGC 的基础设施。 为赋能中文 AIGC 行业,IDEA-CCNL 封神
📷 大数据文摘作品 编译:VVN、蒋宝尚、龙牧雪、魏子敏 【人工智能】正在让这个时代激动不已,但也正引发不少担忧。被誉为机器学习之父的美国三院院士、伯克利教授Michael I.Jordan昨天在美国知名科技媒体Medium上,难得的发布了他的第一篇文章。一反以往的技术干货输出,这篇文章的主题是对当前AI研究中的问题进行冷静反思。 这篇名为《人工智能:革命远未到来》的长文阅读时间在20分钟左右,从14年前Jordan教授自己的一个关乎生死抉择的故事说起,回顾了AI发展的过往,更重要的是,提
计算加速套件 TACO Kit 简介 从推荐系统、自动驾驶到聊天机器人,AI 正逐渐渗透到我们生活的每个角落。每一次我们使用这些应用的时候,应用背后都有训练好的神经网络模型在运行一个叫做“推理”的过程。无所不在的应用,意味着推理可能会被部署在云、边、端等各种可能的硬件终端上。不同硬件所带来的异质性,不可避免地给软件设计提出了巨大的挑战。开发者经常需要在不同目标设备上开发推理应用,并使用不同平台、各自独立的软件栈及依赖。 为了应对上述软件研发的挑战,腾讯发布了 TACO Kit(Tencent Acceler
11月23日,Arm宣布推出专为人工智能物联网 (AIoT) 应用而设计的 Arm® Cortex®-M52 处理器,带来数字信号处理 (DSP) 和机器学习 (ML) 性能的提升,有效避免了使用专用 DSP 和 ML 加速器所带来的成本开销。Cortex-M52 将通过优于目前市场价格点的优势,充分释放 ML 在嵌入式计算解决方案中的潜能。
本周,在佛罗伦萨举行的ACL 2019上,参会者中有一个人感慨良多,他就是Alexa AI的机器学习科学家Mihail Eric。
2020 年无疑是特殊的一年,AI 在开年的这场“战疫”中表现出惊人的力量。站在“新十年”的起点上,CSDN发起【百万人学AI】评选活动。我们继续聚焦AI的技术落地,关注开源和新生的力量。 作为CSDN第三届AI评选活动,本次活动受到数百家企业的关注和参与,经过严格的初选和专家评审环节,我们最终评出「AI开源贡献奖Top 5」、「AI新锐公司奖Top 10」、「AI优秀案例奖Top 30」三大榜单。 在 AI 开发者大会(AI ProCon 2020)上,CSDN 正式揭晓以上三大榜单。我们相信,榜样的力量
领取专属 10元无门槛券
手把手带您无忧上云