类别不平衡是机器学习中的一个常见问题，尤其是在二元分类领域。当训练数据集的类分布不均时会发生这种情况，从而导致训练模型存在潜在偏差。不平衡分类问题的示例包括欺诈检测、索赔预测、违约预测、客户流失预测、垃圾邮件检测、异常检测和异常值检测。为了提高我们模型的性能并确保其准确性，解决类不平衡问题很重要。
卷积神经网络（CNN）可以说是目前处理图像最有力的工具了。而在机器学习分类问题中，样本不平衡又是一个经常遇到的问题。最近在使用CNN进行图片分类时，发现CNN对训练集样本不平衡问题很敏感。在网上搜索了一下，发现这篇文章对这个问题已经做了比较细致的探索。于是就把它简单整理了一下，相关的记录如下。
来源：知乎—Yuzhe Yang、深度学习与图网络https://zhuanlan.zhihu.com/p/369627086本文约8500字，建议阅读15分钟本文大体梳理一下数据不平衡这个问题在分类以及回归上的一部分研究现状。 来给大家介绍一下我们的新工作，目前已被ICML 2021接收为 Long oral presentation：Delving into Deep Imbalanced Regression。这项工作在经典的数据不平衡问题下，探索了非常实际但极少被研究的问题：数据不平衡回归问题。现有
交叉验证（也称为“过采样”技术）是数据科学项目的基本要素。它是一种重采样过程，用于评估机器学习模型并访问该模型对独立测试数据集的性能。
第一个问题的重要性并未得到足够的重视。一般来讲，预处理(数据收集、数据清洗、数据标注)占据了一个AI算法的至少80%时间。因此，我们希望以最小的投入获取最大的回报。
在农业、自动驾驶、航空或能源领域，预测和了解天气是十分重要的。例如，天气条件对航空和物流公司在规划最快和最安全的航线方面起着重要作用，可再生能源公司也需要根据天气预测他们在给定的一天将生产多少能源。因此，各种天气模型被开发出来并正在世界各地应用。但是这些模型通常需要关于大气和确切条件的高度具体的信息，这样使得模型对数据的需求变得非常复杂。
paper链接:https://arxiv.org/abs/1909.00169.pdf
Machine Learning Mastery 计算机视觉教程 通道在前和通道在后图像格式的温和介绍 深度学习在计算机视觉中的 9 个应用 为 CNN 准备和扩充图像数据的最佳实践 8 本计算机视觉入门书籍 卷积层在深度学习神经网络中是如何工作的？ DeepLearningAI 卷积神经网络课程（复习） 如何在 Keras 中配置图像数据扩充 如何从零开始为 CIFAR-10 照片分类开发 CNN 用于 Fashion-MNIST 服装分类的深度学习 CNN 如何为 MNIST 手写数字分类开发 CNN
对于数据科学或机器学习研究者而言，当解决任何机器学习问题时，可能面临的最大问题之一就是训练数据不平衡的问题。本文将尝试使用图像分类问题来揭示训练数据中不平衡类别的奥秘。
欢迎大家来到图像分类专栏，类别不平衡时是很常见的问题，本文介绍了类别不平衡图像分类算法的发展现状，供大家参考学习。
安妮 编译自 Shrikar Archak 量子位出品 | 公众号 QbitAI Kickstarter是一家美国的众筹平台。自2009年成立至今，已经有36万余个众筹项目在平台上立项，总共筹集到30
Focal Loss（焦点损失）是一种用于解决类别不平衡问题的损失函数，特别适用于目标检测和图像分割任务。本文将详细介绍如何在PyTorch中实现Focal Loss。
焦点损失函数 Focal Loss（2017年何凯明大佬的论文）被提出用于密集物体检测任务。它可以训练高精度的密集物体探测器，哪怕前景和背景之间比例为1：1000（译者注：facal loss 就是为了解决目标检测中类别样本比例严重失衡的问题）。本教程将向您展示如何在给定的高度不平衡的数据集的情况下，应用焦点损失函数来训练一个多分类模型。
【导读】对于机器学习而言，获取数据的成本有时会非常昂贵，因此为模型选择一个合理的训练数据规模，对于机器学习是至关重要的。在本文中，作者针对线性回归模型和深度学习模型，分别介绍了确定训练数据集规模的方法。
AI科技评论今天给大家介绍一下一篇被NeurIPS 2020接收的工作:《Rethinking the Value of Labels for Improving Class-Imbalanced Learning》。
地址：https://www.zhihu.com/people/li-xin-yang-85-51
导语：这几年来，机器学习和数据挖掘非常火热，它们逐渐为世界带来实际价值。与此同时，越来越多的机器学习算法从学术界走向工业界，而在这个过程中会有很多困难。数据不平衡问题虽然不是最难的，但绝对是最重要的问
来源：kaggle竞赛宝典、炼丹笔记本文约2800字，建议阅读5分钟本文综述了康奈尔大学、康奈尔科技、谷歌Brain和Alphabet公司的基于有效样本数的类平衡损失(CB损失)。 基于有效样本的类别不平衡损失CB-Loss 简介 本文综述了康奈尔大学、康奈尔科技、谷歌Brain和Alphabet公司的基于有效样本数的类平衡损失(CB损失)。在本文中，设计了一种重新加权的方案，利用每个类的有效样本数来重新平衡损失，称为类别平衡损失。使用每个类的有效样本数量来重新为每个类的Loss分配权重。 一、类别平衡问题
AI科技评论按：本文由图普科技编译自《Applying Deep Learning to Real-world Problems》，AI科技评论独家首发。 近年来，人工智能的崛起可以说是得益于深度学习的成功。驱动深度神经网络突破的三个主要因素分别是：海量的训练数据、强大的计算架构和学术领域的相关进展。因此，深度学习在图像分类、面部识别等任务的表现上不仅超越了传统方法，还超越了人类水平。这一切都为那些使用深度学习解决实际问题的新业务创造了巨大的发展潜力。 在位于柏林的Merantix总部，我们致力于研究这项新
最近的长尾实例分割方法在训练数据很少的稀有目标类上仍然很困难。我们提出了一种简单而有效的方法，即特征增强和采样自适应（FASA），该方法通过增强特征空间来解决数据稀缺问题，特别是对于稀有类。特征增强（FA）和特征采样组件都适用于实际训练状态——FA由过去迭代中观察到的真实样本的特征均值和方差决定，我们以自适应损失的方式对生成的虚拟特征进行采样，以避免过度拟合。FASA不需要任何精心设计的损失，并消除了类间迁移学习的需要，因为类间迁移通常涉及大量成本和手动定义的头/尾班组。我们展示了FASA是一种快速、通用的方法，可以很容易地插入到标准或长尾分割框架中，具有一致的性能增益和很少的附加成本。
样本（类别）样本不平衡（class-imbalance）指的是分类任务中不同类别的训练样例数目差别很大的情况，一般地，样本类别比例（Imbalance Ratio）（多数类vs少数类）明显大于1:1（如4：1）就可以归为样本不均衡的问题。现实中，样本不平衡是一种常见的现象，如：金融欺诈交易检测，欺诈交易的订单样本通常是占总交易数量的极少部分，而且对于有些任务而言少数样本更为重要。
来源：DeepHub IMBA本文约1000字，建议阅读5分钟本文中整理出一些常见的数据拆分策略。 将数据集分解为训练集，可以帮助我们了解模型，这对于模型如何推广到新的看不见数据非常重要。如果模型过度拟合可能无法很好地概括新的看不见的数据。因此也无法做出良好的预测。 拥有适当的验证策略是成功创建良好预测，使用AI模型的业务价值的第一步，本文中就整理出一些常见的数据拆分策略。 简单的训练、测试拆分 将数据集分为训练和验证2个部分，并以80％的训练和20％的验证。可以使用Scikit的随机采样来执行此操作。
将数据集分解为训练集，可以帮助我们了解模型，这对于模型如何推广到新的看不见数据非常重要。如果模型过度拟合可能无法很好地概括新的看不见的数据。因此也无法做出良好的预测。
RBC（红血细胞）分类与计数是生物研究领域中一种基础统计方法，当前市场的主流的细胞计数仪主要还是以传统算法为主，通过各种参数与预处理来提升细胞计数精度，实现重叠细胞计数与分类。在已知的红细胞类别中有的种类红细胞非常少，相关一些常见的红细胞类别它的样本很难收集，对这种不平衡的数据集要做到每个红细胞正确分类与计数，作者采用一种全新的算法，在已知不平衡数据集中测试效果SOTA。红细胞常见类别：
本文综述了康奈尔大学、康奈尔科技、谷歌Brain和Alphabet公司的基于有效样本数的类平衡损失(CB损失)。在本文中，设计了一种重新加权的方案，利用每个类的有效样本数来重新平衡损失，称为类别平衡损失。使用每个类的有效样本数量来重新为每个类的Loss分配权重，效果优于RetinaNet中的Focal Loss。
大家好，我是架构君，一个会写代码吟诗的架构师。今天说一说面向高维和不平衡数据分类的集成学习研究论文研读笔记「建议收藏」,希望能够帮助大家进步!!!
---- Abstract 非平衡数据集是一个在现实世界应用中经常发现的一个问题，它可能会给机器学习算法中的分类表现带来严重的负面影响。目前有很多的尝试来处理非平衡数据的分类。在这篇文章中，我们同时从数据层面和算法层面给出一些已经存在的用来解决非平衡数据问题的简单综述。尽管处理非平衡数据问题的一个通常的做法是通过人为的方式，比如超采样或者降采样，来重新平衡数据，一些研究者证实例如修改的支持向量机，基于粗糙集的面向少数类的规则学习方法，敏感代价分类器等在非平衡数据集上面也表现良好。我们观察到目前在非平衡数据问
研究者提出了一个单阶段检测框架，该框架解决了多尺度目标检测和类不平衡的问题。没有设计更深层的网络，而是引入了一种简单而有效的特征丰富化方案来生成多尺度的上下文特征。进一步引入了一种级联的优化（精炼）方案，该方案首先将多尺度的上下文特征注入到一阶段检测器的预测层中，以增强其进行多尺度检测的判别能力。其次，级联精炼方案通过细化anchors和丰富的特征以改善分类和回归来解决类不平衡问题。对于MS COCO测试上的320×320输入，新的检测器在单尺度推理的情况下以33.2的COCO AP达到了最先进的一阶段检测精度，操作是在一个Titan XP GPU上以21毫秒运行的 。对于MS COCO测试上的512×512输入，与最佳的单阶段结果相比，就COCO AP而言，新方法获得了一个明显的增加（增加了1.6%）。
在机器学习的实践中，我们通常会遇到实际数据中正负样本比例不平衡的情况，也叫数据倾斜。对于数据倾斜的情况，如果选取的算法不合适，或者评价指标不合适，那么对于实际应用线上时效果往往会不尽人意，所以如何解决数据不平衡问题是实际生产中非常常见且重要的问题。
在计算机视觉领域，数据集是进行算法研究和模型训练的重要基础。本文将介绍MapillaryVistas数据集，该数据集是一个大规模的街景图像数据集，可以用于场景理解、语义分割等任务。
I have a binary classification problem and one class ispresent with 60:1 ratio in my training set. I used the logistic regression andthe result seems to just ignores one class.
每天给你送来NLP技术干货！ ---- 干货 作者：Sik-Ho Tsang 来自：炼丹笔记 本文综述了康奈尔大学、康奈尔科技、谷歌Brain和Alphabet公司的基于有效样本数的类平衡损失(CB损失)。在本文中，设计了一种重新加权的方案，利用每个类的有效样本数来重新平衡损失，称为类别平衡损失。使用每个类的有效样本数量来重新为每个类的Loss分配权重，效果优于RetinaNet中的Focal Loss。 1. 类别平衡问题 两个类，分别来自长尾数据集的头部和尾部(iNatur
作者：Liangchen Liu,Teng Zhang,Kun Zhao,Arnold Wiliem,Kieren Astin-Walmsley,Brian Lovell
【导读】在构建机器学习模型的时候，你是否遇到过类样本不平衡问题？本文就讨论一下如何解决不同程度的类样本不平衡问题。本文整理了数据科学研究者Devin Soni发布的一篇博文的主要内容，分析了不平衡类的
顾名思义，这是将图像分割为多个部分的过程。在这个过程中，图像中的每个像素都与一个对象类型相关联。图像分割主要有两种类型：语义分割和实例分割。
对不平衡样本的处理手段主要分为两大类：数据层面 (简单粗暴)、算法层面 (复杂) 。
传统的图像检索过程，先通过人工对图像进行文字标注，再利用关键字来检索图像，这种依据图像描述的字符匹配程度提供检索结果的方法，称为“以字找图”(text-based image retrieval)，既耗时又主观多义。如今每一秒都有数百万图片通过各种渠道上传到各种大规模存储设备中。给定一张查询图片，快速从百万量级的图像数据库中通过图像特征来找出内容相近的一定数量的图片，这种任务被称为“基于内容的图像检索”(content-based image retrieval (CBIR))，是目前非常流行的研究方向。
本文作者用python代码示例解释了3种处理不平衡数据集的可选方法，包括数据层面上的2种重采样数据集方法和算法层面上的1个集成分类器方法。
不平衡学习是机器学习问题的一个重要子域，其主要关注于如何从类别分布不均衡的数据中学习数据的模式。在这篇文章中我们主要关注不平衡分类问题，特别地，我们主要关注类别极端不平衡场景下的二分类问题所面临的困难。
分类是机器学习最常见的问题之一，处理它的最佳方法是从分析和探索数据集开始，即从探索式数据分析（Exploratory Data Analysis， EDA）开始。除了生成尽可能多的数据见解和信息，它还用于查找数据集中可能存在的任何问题。在分析用于分类的数据集时，类别不平衡是常见问题之一。
近年来，基于深度学习的方法在长尾分布(类别不平衡)数据上取得了极大进展。除了这些复杂的方法外，训练过程中的那些简单“技巧”(比如数据分布、损失函数的调整)同样起着不小的贡献。然而，不同的“技巧”之间可能存在“冲突”。如果采用了不合理的“技巧”进行长尾相关的任务，这就很可能导致较差的识别精度。不幸的是，关于这些“技巧”并无科学系统的手册供参考。
我们将介绍几种处理不平衡数据集的替代方法，包括带有代码示例的不同重采样和组合方法。
来源：Deephub Imba 本文约4200字，建议阅读8分钟 本文介绍了不平衡数据集的建模技巧和策略。 不平衡数据集是指一个类中的示例数量与另一类中的示例数量显著不同的情况。例如在一个二元分类问题中，一个类只占总样本的一小部分，这被称为不平衡数据集。类不平衡会在构建机器学习模型时导致很多问题。 不平衡数据集的主要问题之一是模型可能会偏向多数类，从而导致预测少数类的性能不佳。这是因为模型经过训练以最小化错误率，并且当多数类被过度代表时，模型倾向于更频繁地预测多数类。这会导致更高的准确率得分，但少数类别
论文对长尾数据集中的复杂变换不变性进行了研究，发现不变性在很大程度上取决于类别的图片数量，实际上分类器并不能将从大类中学习到的不变性转移到小类中。为此，论文提出了GIT生成模型，从数据集中学习到类无关
作者：ChenJoya 知乎链接：https://zhuanlan.zhihu.com/p/82371629 本文已由作者授权转载，未经允许，不得二次转载。 本文介绍了一篇关于目标检测中不平衡的综述论
本文介绍 ECCV 2020 大规模实例分割挑战赛（LVIS Challenge）冠军方案，来自冠军团队 lvisTraveler 官方发布的报告：1st Place Solution of LVIS Challenge 2020: A Good Box is not a Guarantee of a Good Mask。
在深度学习中，数据是非常重要的。但是我们拿到的数据往往可能由大部分无关数据和少部分我们所关心的数据组成。那么，如何对这些数据集进行处理，才能得到我们所需要结果呢？工程师 George Seif 认为，可以通过权重平衡法和采样法来解决这个问题。
AI 科技评论按：在深度学习中，数据是非常重要的。但是我们拿到的数据往往可能由大部分无关数据和少部分我们所关心的数据组成。那么，如何对这些数据集进行处理，才能得到我们所需要结果呢？工程师 George Seif 认为，可以通过权重平衡法和采样法来解决这个问题。下面是他的观点，雷锋网 AI 科技评论整理。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
