首页
学习
活动
专区
工具
TVP
发布

AI科技评论

专栏作者
4092
文章
3375166
阅读量
184
订阅数
CVPR2022丨BatchFormer: 简单有效、即插即用的探索样本关系模块
作者丨侯志 1 摘要 目前深度神经网络已经取得了巨大成功,但仍然面临着来自于数据稀缺的各种挑战,比如数据不平衡,零样本分布,域适应等等。 当前已经有各种方法通过样本之间的关系去针对这些问题。然而这些方法并没有去挖掘内在的网络结构来使网络模型建模关系。受此启发,我们提出了一个使网络能够从训练批(min-batch)中学习样本关系的简单有效并且即插即用Transformer模块,Batch TransFormer (BatchFormer)。 具体地,BatchFormer 应用于每个训练批次数据的batch维
AI科技评论
2022-08-26
5660
北大校友“炼丹”分享:OpenAI如何训练千亿级模型?
“炼大模型”已成为人工智能领域的主流研发趋势。从GPT-3的1750亿,到如今悟道2.0的1.75万亿,超大语言模型在 NLP 基准任务中不断刷新SOTA。
AI科技评论
2021-10-11
1.1K0
防噪音的深度度量学习:一种样本选择方法 | CVPR 2021
现实世界的数据中标签噪音是广泛存在的,训练集的标签噪音会降低深度学习模型的性能。大量研究工作聚焦于改善分类任务对标签噪音的鲁棒性,很少有研究工作致力于使深度度量学习(Deep Metric Learning)(DML)能够处理错误的标签。
AI科技评论
2021-05-19
1.2K0
扩展图神经网络:暴力堆叠模型深度并不可取
目前,阻碍图神经网络在业界大规模应用的挑战之一是:图神经网络很难被扩展到 Twitter 的用户关注关系图这类大型图上。
AI科技评论
2020-10-27
8030
陶大程院士:深度学习“泛化”理论的回顾与前沿
2020年7月9日,在世界人工智能大会上,陶大程教授(澳大利亚科学院院士)在科学前沿全体会议上和观众连线,并做了《预见·可信 AI》的报告。
AI科技评论
2020-07-14
9060
AAAI 2020 | 中科院&云从科技:双视图分类,利用多个弱标签提高分类性能
本文是对中科院信工所和云从科技共同完成,被 AAAI2020 录用的论文《Coupled-view Deep Classififier Learning from Multiple Noisy Annotators》进行解读。
AI科技评论
2020-02-21
4770
多任务学习,如何设计一个更好的参数共享机制?| AAAI 2020
代码链接:https://github.com/choosewhatulike/sparse-sharing
AI科技评论
2019-12-27
2.5K0
主动学习减少对标注数据的依赖,却造成标注冗余?NeurIPS 2019 论文解决了这个问题!
深度学习如今能够大获成功,其中的一大功臣便是大规模的标注数据。然而在大多数现实场景中,我们往往只能获得未经标注的大规模数据集,如果要对这么多数据进行人工标注,势必耗费大量的人力成本。在此前,研究界已经提出主动学习的方法来解决这一问题,然后采用该方法选择出来的数据可能存在大量重复的情况,从而造成标注冗余问题。
AI科技评论
2019-12-23
7340
常用的 Normalization 方法:BN、LN、IN、GN
本文转自知乎作者G-kdom文章:常用的 Normalization 方法:BN、LN、IN、GN。AI科技评论获授权转载,如需转载请联系原作者。
AI科技评论
2019-10-01
3.4K0
使用 RetinaNet 进行航空影像目标检测
通过使用金字塔池化模块(Pyramid Pooling Module),在整合基于不同区域的上下文后,PSPNet在效果上超过了FCN、DeepLab和DilatedNet等时下最佳的方法。
AI科技评论
2019-08-23
2.1K0
这些老照片如何用算法修复?
这篇文章当中,我将讲述我们如何为老军人的照片创造一个基于AI技术的照片修复项目。 原标题 | AI-Based Photo Restoration 作 者 | Fedor Kitashov 翻 译 |
AI科技评论
2019-08-19
1.8K0
高通量媒体内容理解论坛抖音快手齐上阵,你 pick 谁 | CNCC 2018
AI 科技评论按,2018 中国计算机大会(CNCC2018)于 10 月 25-27 日在杭州国际博览中心举办,会议由中国计算机学会(CCF)主办,杭州市萧山区人民政府、浙江大学承办,浙江工业大学、浙江工商大学、杭州电子科技大学协办。今年的大会主题是「大数据推动数字经济(Big Data Drives the Digital Economy)」,CNCC 邀请到近 400 位国内外计算机领域知名专家、企业家到会演讲,会议包括 15 个特邀报告、3 个大会论坛,60 个技术论坛,20 场特色活动。
AI科技评论
2018-11-30
7550
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档