腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

AI科技评论

专栏作者

4092

文章

3382952

阅读量

184

订阅数

NeurIPS22丨大图上线性复杂度的节点级 Transformer

如何构建大图上的线性复杂度Transformer？本文将要介绍的发表于NeurIPS22的工作对这一开放问题给出了探索性的思路，这项工作也入选了会议的Spotlight Presentation（比例约5%）。论文题目：NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification 作者信息：吴齐天，赵文滔，李泽楠，David Wipf，严骏驰论文地址：https://openreview.net/p

2023-02-23

2620

量子 CNN 对数据集的测试准确率高，但存在局限性

云计算卷积神经网络学习方法深度学习机器学习

作者 | Holly Emblem 编译 | 黄楠编辑 | 陈彩娴在10月4日公布的2022年诺贝尔奖中，Alain Aspect 、John F. Clause 和 Anton Zeilinger 三位科学家凭借量子纠缠获得物理学奖项，引起了外界对量子研究领域的关注和讨论。其中，以量子计算为代表的研究投资近几年迎来显著增加，人们开始探索从安全、网络通信等领域出发，用量子方法来颠覆现有的经典计算技术。有研究人员认为，量子计算的核心在于“通过计算成本更低的技术解决经典难题”，而随着近年来深度学习和量

2022-10-10

4160

大脑启发的AI模型：激活学习，挑战反向传播

学习方法监督学习深度学习神经网络

反向传播技术是深度学习的核心，驱动了AI在视觉、语音、自然语言处理、游戏、生物预测等诸多领域的成功。反向传播的运行机制是通过反向的方式计算预测误差对神经网络连接权重的梯度，并通过微调每一层的权重来减少预测误差。尽管反向传播非常高效，是目前人工智能成功的关键，但是相当一部分研究人员并不认为反向传播的学习方法同大脑的工作方式是一致的。随着深度学习技术的发展，大家也逐步看到了反向传播的一些弊端，例如对于标签数据和算力的过度依赖、存在一系列的对抗安全问题、只能针对特定的任务等，而且也引发了大家对发展大模型的一些顾

2022-10-08

6180

斯坦福李飞飞新作登 PNAS：AI 与人类互动才能提高智能水平

学习方法图像处理强化学习

作者 | 李梅编辑 | 陈彩娴人类从与他人的互动中学习，而目前的人工智能却常常只能在与社会隔离的环境中学习。所以当我们把一个智能体放到真实世界中时，它会不可避免地在遇到大量新的数据，无法应对不断变化的新需求。如何将智能体从只有一堆书的房间里“解放”出来，让它在广阔的社会情境中学习，是一个新的挑战。最近，斯坦福大学计算机系的 Ranjay Krishna、Donsuk Lee、李飞飞、Michael Bernstein 等人针对此问题提出了一种新的研究框架：社会化人工智能（socially situa

2022-09-28

3090

Richard Sutton 直言卷积反向传播已经落后，AI 突破要有新思路：持续反向传播

强化学习编程算法深度学习学习方法神经网络

作者 | Richard Sutton 编译 | bluemin 编辑 | 陈彩娴 “可塑性损失”（Loss of Plasticity）是深度神经网络最常被诟病的一个缺点，这也是基于深度学习的 AI 系统被认为无法持续学习的原因之一。对于人脑而言，“可塑性”是指产生新神经元和神经元之间新连接的能力，是人进行持续学习的重要基础。随着年龄的增长，作为巩固已学到知识的代价，大脑的可塑性会逐渐下降。神经网络也是类似。一个形象的例子是，2020 年热启动式（warm-starting）训练被证明：只有抛除最初学

2022-09-27

4110

CVPR 2022丨学习用于小样本语义分割的非目标知识

学习方法 tcp/ip

由于全卷积网络（Fully Convolutional Network, FCN）架构的快速发展，深度学习在语义分割方面取得了里程碑式的进展。大多数方法采用全监督学习方案，需要大量带注释的数据进行训练。尽管它们可以实现良好的性能，但它们数据饥渴的性质需要大量的像素级图像标注。为了缓解这一问题，特斯联首席科学家邵岭博士及团队，提出了一个用于小样本语义分割的框架，在给定少量像素级标注的支持集（Support）图像的情况下，分割查询集（Query）图像中的目标物体。相关研究成果已于2022年CVPR发表，题为《

2022-07-07

9330

中二青年付杰的逆袭故事：从二本生到 ICLR 杰出论文奖，我用了20年

学习方法机器学习深度学习神经网络人工智能

二本出身，读了两个硕士才在29岁开始读博，39岁才结束博士后研究的付杰形容，他的20年就像个体与系统的博弈：在一些机器学习的文章中，研究者会根据训练初始阶段 Training Curve（训练曲线）的模式来判断一个模型是否值得继续投入资源训练。通常来说，一个机器学习模型在开始阶段的损失下降明显、精度上升明显，最后的结果也往往是优异的；而如果初始阶段的训练损失下降地很缓慢，那么后期结果大概率也不会好转。当然，也有极少数的例外：一个模型在初始阶段训练不好，但在后期损失会上升，模型的精度也会不断上升。但出于

2022-06-24

7390

CVPR 2022丨特斯联AI提出：用于视觉任务中无监督域自适应的类别对比

深度神经网络（Deep Neural Networks, DNNs）由于跨域不匹配（cross-domain mismatch），通常在新域表现不佳。而无监督域自适应（UDA）技术则可通过利用未标记的目标域样本缓解跨域不匹配问题。近日，特斯联科技集团首席科学家邵岭博士及合作者们提出了基于类别对比的新颖方法Category Contrast (CaCo)，并公布了所取得的最新研究成果。该方法在视觉UDA任务的实例判别之上引入了语义先验。该研究成果（标题为: Category Contrast for Uns

2022-06-16

5180

ICASSP 2022丨字节跳动最新音乐检索系统ByteCover2，检索速度提高八倍

语音识别智能音乐学习方法监督学习 nat

翻唱识别（CSI）是音乐信息检索（MIR）领域的一项重要任务，在歌曲搜索，音乐分发，曲库整理，智能推荐等场景下有着重要作用，被誉为下一代音乐识别技术。近期，字节跳动火山语音团队的最新音乐检索系统ByteCover2入选了ICASSP 2022。这一系统主要面向翻唱识别（CSI）这一音乐信息检索（MIR）领域的一项重要任务，通过表征学习方法让其具备提取音乐核心特征的能力，并且该特征能够对种类繁多的音乐重演绎具有良好的鲁棒性，检索速度提高8倍。经Da-Tacos数据集上的评估，准确率远超其他方案的SoTA性能

2022-05-27

8130

向真实世界应用进军：持续自监督学习的挑战

监督学习深度学习编程算法学习方法

在 Yann Lecun 等人的推动下，自监督学习成为了深度学习领域最受瞩目的技术之一。互联网世界源源不断产生的数据流无疑是充分发挥自监督学习能力的最佳土壤。然而，将自监督学习应用于自然场景将面临哪些严峻的挑战？且看来自 CMU 的 Abhinav Gupta 团队如何对此展开研究。编译 | OGAI 编辑 | 陈彩娴 1 摘要自监督学习旨在消除表示学习对人工标注的需求，我们希望自监督学习利用自然场景下的数据学习表征，即不需要有限的和静态的数据集。真正的自监督算法应该能够利用互联网上产生的连续数据流，或

2022-04-27

4780

重庆大学刘礼：因果学习与应用

编程算法机器学习学习方法神经网络深度学习

作者 | 刘礼编辑 | 维克多因果学习作为人工智能领域研究热点之一，其研究进展与成果也引发了众多关注。4月9日，在AI TIME青年科学家——AI 2000学者专场论坛上，重庆大学大数据与软件学院教授刘礼做了《因果学习与应用》的报告。在报告中，他从辛普森悖论入手，分析了当前机器学习面临的困难，然后介绍了几个主流因果框架解决“非独立同分布”、“结合知识”的思路，以及框架的优缺点，例如他提到： “目前有两套主要的因果模型：Pearl的结构因果模型，以及Rubin的潜在结果模型。两者都可以预测、干预以及回答

2022-04-25

6940

上海交大ACM班俞勇团队推出强化学习入门宝典！附作者对话

强化学习学习方法编程算法机器学习 jupyter notebook

上海交通大学ACM班又出新品，人邮“动手学”又一力作《动手学强化学习》来了！作者 | Ailleurs 编辑 | 陈彩娴在过去十多年的发展中，基于机器学习的智能检测和智能预测类的人工智能技术快速发展。例如，在门禁系统中应用的人脸活体检测、在个性化信息流推荐中应用的用户兴趣预测已成为人们日常生活中不可或缺的技术。如今，在这些成熟的人工智能技术基础上，服务于决策智能的技术变得越来越重要，这背后对应机器学习领域下的一个分支——强化学习。目前强化学习技术已经在机器人控制、游戏智能、智慧城市、推荐系统、能源

2022-04-19

5720

深度学习蓄势待发，即将“爆破”欧拉方程

神经网络学习方法深度学习

‍ 几个世纪以来，数学家们一直想知道欧拉流体方程在某些情况下是否会崩溃或被“爆破”。一种新的机器学习方法让研究人员确信，这种“爆破”即将到来。 ‍作者｜ Jordana Cepelewicz 编译｜钱磊、Ailleurs 编辑｜陈彩娴 250多年来，数学家们一直试图“爆破”一些物理学中最重要的方程式，比如描述流体流动的欧拉方程。如果他们成功，他们会发现，在某种情况下方程会被爆破——比如可能会出现一个无限快地旋转的漩涡，或者出现一个突然停止又突然流动的电流，或者是出现一个以无限快的速度掠过的电子。超过这个爆

2022-04-14

3330

Yann LeCun最新访谈：能量模型是通向自主人工智能系统的起点

编程算法监督学习无监督学习学习方法深度学习

Yann LeCun认为，「能量模型」开辟了通往「抽象预测」的道路，为能够进行规划的人工智能提供了「统一世界模型」。来源 | ZDNet 编译 | 钱磊编辑 | 陈彩娴继自监督学习之后，Yann LeCun 在接受 ZDNet 的最新访谈中又着重探讨了他在几年前曾大篇幅推崇的概念：「能量模型」（energy-based models）。什么是能量模型？ Yoshua Bengio、 Ian Goodfellow 和 Aaron Courville 等人在2019年出版的《深度学习》（又称「花书」）一

2022-04-07

1.2K0

直播预告丨阿里巴巴CVPR 2022分享会，今晚6:30不见不散

学习方法监督学习编程算法 linux

CVPR 2022已经放榜，AI科技评论邀请阿里巴巴的小伙伴来分享他们在CVPR 2022的收获，第一场直播将30号（周三）晚18:30开始，敬请期待。时间 3月30日 18:30 活动流程 18:30-19:00 分享嘉宾：徐渊鸿分享主题：Unsupervised Visual Representation Learning by Online Constrained K-Means 19:00-19:30 分享嘉宾：张士伟分享主题：Learning from Untrimmed Videos: S

2022-03-31

5260

为了帮助乌克兰分析情报，伯克利团队用何恺明提出的MAE神经网络加速雷达图像分析

图像分析图像处理学习方法机器学习神经网络

编译 | Ailleurs 编辑 | 陈彩娴情报分析是一项重要工作，军事战略家、研究人员和记者，都依赖情报分析来作出决策、揭露违反国际协议的行为，并向公众展示战争的严酷现实。卫星图像在情报分析工作中扮演了重要的信息来源角色。然而，在乌克兰，由于大量的云层覆盖和频繁的夜间袭击，各种形式的卫星图像都无法捕捉地面信息。好消息是，合成孔径雷达（Synthetic Aperture Radar，SAR）图像可以穿透云层，但是需要经过专门培训的人员来对其图像进行解读，如能将这项繁琐的任务自动化，便可以实现实时动态观

2022-03-25

4300

清华大学孙茂松：自然语言处理一瞥，知往鉴今瞻未来

人工智能语音识别深度学习学习方法 NLP 服务

近日，清华大学人工智能研究院常务副院长孙茂松教授亲手执笔，对自然语言处理的贡献、当前境界与未来挑战进行了深入的探讨。AI科技评论编辑组深有同感，认为此文十分值得一读，故分享之。作者 | 孙茂松来源 | 中国人工智能学会人类语言（即自然语言）的重要性无论怎么讲都不为过。社会生物学之父爱德华·威尔逊曾说过：“语言是继真核细胞之后最伟大的进化成就。”科普畅销书《信息简史》的作者詹姆斯·格雷克也深刻地指出：“语言本身就是人类有史以来最大的技术发明。”这些断言带有科学哲学的意味，反映了现代人类对语言本质理解的不

2022-03-14

3020

DARPA可解释AI研究（XAI计划）的4年回顾与经验总结

机器学习神经网络人工智能深度学习学习方法

DARPA（美国防部高级研究计划局）于 2015 年制定了可解释人工智能 (XAI) 计划，目标是使最终用户能够更好地理解、信任和有效管理人工智能系统。2017年，为期4年的XAI研究计划启动。现在，随着 XAI 在 2021 年结束，本文总结和反思了 XAI 项目的目标、组织和研究进展。本文转载自丨智源社区作者丨David Gunning, Eric Vorm, Jennifer Yunyan Wang, Matt Turek 编译丨牛梦琳摘要：从项目管理人员和评估人员的角度，对国防高级研究计划局

2022-03-03

1.2K0

西工大张伟伟教授：智能流体力学研究的进展

机器学习深度学习人工智能学习方法神经网络

作者丨张伟伟整理 | 杏花编辑 | 青暮作为科学发现的第四范式的代表，人工智能已取得令人瞩目的进展，在蛋白质结构预测和博弈等诸多任务中表现出色。当前，大规模科学与工程计算朝着更高精度，以及与人工智能深度融合的方向发展，这可能带来加速科学发现的全新计算范式。 2021年12月16日，西北工业大学航空学院副院长，教育部长江学者特聘教授，流体力学智能化国际联合研究所中方负责人张伟伟在 CNCC 2021 “人工智能在超大规模科学计算领域的应用探索”专题论坛上做了《智能流体力学研究的若干进展》的报告。张伟伟教

2022-03-03

1.1K0

2021谷歌年度AI技术总结 | Jeff Dean执笔万字展望人工智能的5大未来趋势！

NLP 服务编程算法图像处理机器学习学习方法

‍ 机器学习正在并且也将变得无处不在。‍‍‍编译丨杏花、莓酊、王晔编辑丨‍青暮又是一年一度的谷歌年度盘点，Jeff Dean再次执笔，为我们回顾过去一年来谷歌在5大方向的研究进展以及未来趋势。 Jeff Dean表示，“在过去几十年里，我们见证了机器学习和计算机科学领域的许多重大变化。早期方法的失效促进了现代方法的诞生，并被证明非常有效。” 按照这种发展模式，他认为，我们将在未来几年内见证一些“令人兴奋的进展”，这些进展最终将造福数十亿人的生活，产生比以往任何时候都更大的影响。在这篇文章中，Jeff

2022-03-03

7340

点击加载更多

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态