首页
学习
活动
专区
工具
TVP
发布

机器之心

专栏作者
8857
文章
6148389
阅读量
276
订阅数
直接压缩一切!OpenAI首席科学家Ilya Sutskever这么看无监督学习
近日,OpenAI 首席科学家 Ilya Sutskever 在专注于计算理论研究的 Simons Institute 作了一次讲座,一句话总结就是我们可以通过压缩的视角来看待无监督学习。此外他还分享了不少其它有趣的见解。机器之心整理了该演讲的大体内容,希望借此帮助读者更深入地理解无监督学习。
机器之心
2023-09-08
2730
无监督学习、多模态融合!腾讯优图联合厦门大学发布2021十大人工智能趋势
机器之心发布 机器之心编辑部 腾讯优图实验室联合厦门大学人工智能研究院发布《2021 十大人工智能趋势》报告,对 3D 视觉技术、深度学习算法、人工智能内核芯片等众多领域的发展趋势进行了预测。 6 月 5 日,2021 全球人工智能技术大会(GAITC 2021)在杭州举办,汇集人工智能产学研各界领军者,以国际化、前瞻化、产业化视角,解析并洞察了新一代人工智能发展路径。 在大会上,腾讯优图实验室联合厦门大学人工智能研究院正式发布《2021 十大人工智能趋势》(以下简称“趋势报告”),基于双方长期对人工智能尤
机器之心
2023-03-29
3280
字节跳动李航:人工智能需要新的范式和理论
冯 · 诺伊曼的《计算机和人脑》是人类历史上第一部将计算机和人脑相提并论的著作。这位科学巨人希望比较计算机和人脑的计算机制,为未来建立统一的计算理论打下基础。事实上,建立计算机和人脑的统一计算理论是冯 · 诺伊曼晚年研究的主要课题。他所关注的统一计算理论应该也是人工智能领域的核心问题。站在人工智能的角度,人脑是智能系统的代表,应该从人脑的计算机制得到启发,开发出未来的智能计算理论和方法。
机器之心
2022-12-16
8130
​如何让AI具有通用能力?新研究:让它睡觉
神经网络可以在很多任务上有超越人类的表现,但如果你要求一个 AI 系统吸收新的记忆,它们可能会瞬间忘记之前所学的内容。现在,一项新的研究揭示了神经网络经历睡眠阶段并帮助预防这种健忘症的新方法。
机器之心
2022-12-16
3220
WAIC 2022 | 联通(上海)产业互联网有限公司胡超:从监督学习走向自我学习
机器之心报道 演讲:胡超 近日,在 WAIC 2022 AI 开发者论坛上,联通(上海)产业互联网有限公司 AI 技术总监胡超发表了主题演讲《从监督学习走向自我学习:无监督目标级表征学习》。 在演讲中,胡超主要介绍了他们在深度学习领域的应用和发展,以及无监督技术的应用案例。演讲分别从无监督学习、VAE & MIM(Masked Image Modeling) & GAN、图像修复与对比学习、流模型和扩散模型,以及无监督学习场景应用等五个方面展开。在介绍应用场景时,胡超主要谈到了无监督学习在智慧城市领域应用。
机器之心
2022-09-15
2910
WAIC AI开发者论坛:高性能计算、多模态交互、类脑计算全都有
2022 WAIC 世界人工智能大会已于近日在上海落幕。 9 月 3 日,在机器之心主办的 WAIC 2022·AI 开发者论坛上,2021 图灵奖得主为代表的全球最具影响力学术领袖、技术专家和企业高管发表主题演讲,演讲内容包括高性能计算、多模态交互、文本生成研究与应用、RPA、类脑计算等在内的最前沿议题。本次大会以「 AI 开发者所真正关注的」为主题,集中展示本年度人工智能领域最前沿技术成果和最新实践应用进展。 除了这些精彩的主题演讲,WAIC·AI 开发者论坛还揭晓了今年的 WAIC· 云帆奖得主,举
机器之心
2022-09-07
7050
Transformer预训练模型已经变革NLP领域,一文概览当前现状
在如今的 NLP 领域,几乎每项任务中都能看见「基于 Transformer 的预训练语言模型(T-PTLM)」成功的身影。这些模型的起点是 GPT 和 BERT。而这些模型的技术基础包括 Transformer、自监督学习和迁移学习。T-PTLM 可使用自监督学习从大规模文本数据学习普适性的语言表征,然后将学到的知识迁移到下游任务。这些模型能为下游任务提供优质的背景知识,从而可避免从头开始训练下游任务。
机器之心
2021-10-26
1.1K0
NeurIPS 2020 中热门技术主题都有哪些?我们做了详细分析
2021 年伊始,机器之心发布《2020-2021 全球 AI 技术趋势发展报告》,基于顶会、论文及专利等公共数据、机器之心专业领域数据仓库,通过数据挖掘定位七大趋势性 AI 技术领域。
机器之心
2021-03-30
7690
Attention is All You Need?LSTM提出者:我看未必
深度学习先驱、图灵奖获得者 Yann LeCun 一直认为无监督学习才是通向真正人工智能的方向。为了实现无监督学习,我们需要探索基于能量的学习(energy-based learning)。这个方向在 AI 领域里已经存在几十年了,生物学家约翰 · 霍普菲尔德(John Hopfield)于 1982 年将之以 Hopfield Network 的形式进行了推广。这在当时机器学习领域中是一个突破,它推动了其他学习算法的发展,如 Hinton 的「玻尔兹曼机」。
机器之心
2020-08-18
5740
73岁Hinton老爷子构思下一代神经网络:属于无监督对比学习
Geoffrey Hinton 是谷歌副总裁、工程研究员,也是 Vector Institute 的首席科学顾问、多伦多大学 Emeritus 荣誉教授。2018 年,他与 Yoshua Bengio、Yann LeCun 因对深度学习领域做出的巨大贡献而共同获得图灵奖。
机器之心
2020-08-05
7770
无需contrastive学习,微软亚研提出基于实例分类的无监督预训练方法
面对着自然世界中越来越多的无标注数据,研究者们都希望找到一种正确的方式,从中学习对于视觉任务有帮助的特征,从而使得各类视觉任务能有进一步的突破,也使各类算法和模型能在实际生产环境中有更加充分的应用。最近的研究已经证明,在一些下游任务上,无监督的视觉特征学习可以取得与有监督学习同等甚至更高的迁移学习性能。
机器之心
2020-07-14
5020
预训练还需要监督信息吗?一文了解无监督训练的优势
论文链接:https://arxiv.org/pdf/2006.06606.pdf
机器之心
2020-07-06
6390
178页,四年图神经网络研究精华,图卷积网络作者Thomas Kipf博士论文公布
在深度学习领域,图神经网络早已成为热门话题。去年年底,有人统计了 2019 年到 2020 年各大顶会提交论文关键词的数据。结果显示,「graph neural network”」的增长速度位列榜首,成为上升最快的话题。
机器之心
2020-05-19
8500
Hinton组力作:ImageNet无监督学习最佳性能一次提升7%,媲美监督学习
如今,在 ImageNet 上的图像识别准确率的性能提升每次通常只有零点几个百分点,而来自图灵奖获得者 Geoffrey Hinton 等谷歌研究者的最新研究一次就把无监督学习的指标提升了 7-10%,甚至可以媲美有监督学习的效果。
机器之心
2020-02-24
6790
三巨头共聚AAAI:Capsule没有错,LeCun看好自监督,Bengio谈注意力
2 月 7 日,人工智能顶会 AAAI 2020(第 34 届 AAAI 大会)已于美国纽约正式拉开序幕,本届会议将持续到 2 月 12 日结束。受疫情影响,中国大陆约有 800 名学者缺席此次会议,很多中国学者选择远程参会。
机器之心
2020-02-24
3350
Facebook开源算法代码库PySlowFast,轻松复现前沿视频理解模型
视频与动作理解俨然已成为当今最火热的研究方向之一,然而在开源社区中找到一个简洁、高效、易于修改的视频理解代码库仍不是一件简单的事情。更重要的是,复现当今前沿的 (state-of-the-art) 的深度学习模型一直是一件令研究者头疼的事情。
机器之心
2020-02-12
6520
何恺明一作,刷新7项检测分割任务,无监督预训练完胜有监督
论文链接:https://arxiv.org/pdf/1911.05722.pdf
机器之心
2019-11-15
6320
学它!李航《统计学习方法》课件,清华大学深圳研究院教授制作
李航是日本东京大学计算机科学博士,曾任微软亚洲研究院高级研究员及主任研究员、华为诺亚方舟实验室首席科学家,现任字节跳动人工智能实验室总监。他的研究方向包括信息检索、自然语言处理、统计机器学习及数据挖掘等。
机器之心
2019-11-12
1.4K0
光速执行AI运算,港科大双层「全光学」神经网络不要计算机也能做分类
在处理模式识别、风险管理以及其他同样复杂的任务时,最强大的计算机都无法与人脑匹敌。但是,近来光学神经网络取得的进展通过模拟人脑中神经元的反应方式缩小了计算机与人脑之间的差距。这种光学神经网络比 ML 中的网络能耗更低、运算更快,是未来大规模应用 AI 的坚实基础。
机器之心
2019-09-03
8930
李宏毅机器学习完整笔记发布,AI界「最热视频博主」中文课程笔记全开源
李宏毅老师现任台湾大学电气工程助理教授,研究重点是机器学习,特别是深度学习领域。他有一系列公开的机器学习课程视频,在机器学习领域是很多人入门的教材,人气不输吴恩达的 Coursera 机器学习课程。
机器之心
2019-08-09
8950
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
【玩转EdgeOne】征文进行中
限时免费体验,发文即有奖~
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档