专栏首页arxiv.org翻译专栏量子化规则分类感知

量子化规则分类感知

传统上,量化的目的是最小化数据源的重构误差。当考虑下游分类任务时,其他失真的度量可能是有趣的;如0-1的分类丢失。此外,一旦部署到生产中,这些量化器的性能最好不要恶化,因为在线重新学习方案并不总是可能的。在这项工作中,我们提出了一类算法来学习二元分类任务的分布式量化方案。我们的方法在看不见的数据上表现良好,并且比以前的方法更快,与数据集大小的二次项成正比。它的工作原理是将0-1的损失与重构误差进行正则化。我们在合成混合和二元高斯数据上进行了实验,并将训练、测试和泛化误差与文献中的基准量化方案进行了比较。我们的方法称为正则化分类感知量化。

Regularized Classification-Aware Quantization

Traditionally, quantization is designed to minimize the reconstruction error of a data source. When considering downstream classifification tasks, other measures of distortion can be of interest; such as the 0-1 classifification loss. Furthermore, it is desirable that the performance of these quantizers not deteriorate once they are deployed into production, as relearning the scheme online is not always possible. In this work, we present a class of algorithms that learn distributed quantization schemes for binary

classification tasks. Our method performs well on unseen data, and is faster than previous methods proportional to a quadratic term of the dataset size. It works by regularizing the 0-1 loss with the reconstruction error. We present experiments on synthetic mixture and bivariate Gaussian data and compare training, testing, and generalization errors with a family of benchmark quantization schemes from the literature. Our method is called Regularized Classification-Aware Quantization.

[量子化规则分类感知.pdf]

原文链接:https://arxiv.org/pdf/2107.09716.pdf

原文作者:Daniel Severo,Elad Domanovitz,Ashish Khist

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 定义可视化!用30分钟读懂人类感知世界的39项研究

    你想充分了解人类的感知世界吗?你对可视化是如何定义的呢?它是一门科学还是一门语言,那就请跟我们的作者一同走进这个世界,用短短的30分钟,看看39项关于人类感知的...

    大数据文摘
  • 第1章 NLP基础

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

    村雨遥
  • 大数据时代下,数据感知在数据质量管理系统中的应用

    关于数据质量管理,可能与大部分人没有太大的关系。虽然,市面上有很多的公司在进行数据的挖掘、分析方面业务的工作,但是关于数据质量管理方面的公司真的是屈指可数。 由...

    CSDN技术头条
  • 解构游戏机制

    王兵
  • 简单易懂的讲解深度学习(入门系列之五)

    我们知道,《三字经》里开篇第一句就是:“人之初,性本善”。那么对于神经网络来说,这句话就要改为:“网之初,感知机”。感知机( Perceptrons ),基本上...

    计算机视觉研究院
  • 机器学习(9)——SVM数学基础

    支持向量机涉及到数学公式和定力非常多,只有掌握了这些数学公式才能更好地理解支持向量机算法。 最优化问题 最优化问题一般是指对于某一个函数而言,求解在其指定作用域...

    DC童生
  • 人工智能化的传感器技术

    文 | 传感器技术(WW_CGQJS) 12月15日,工信部正式印发了《促进新一代人工智能产业发展三年行动计划》,为2018年到2020年人工智能发展指明了前进...

    企鹅号小编
  • AAAI 2019论文解读:机器人和认知学习

    分析师简介:Joni 目前是日本国立产业综合研究所的研究员。在中国大陆本科本行是自动化,后来对机器人研究有兴趣,在香港就读了电机工程的 Mphil 学位。博士时...

    机器之心
  • IBM长文解读人工智能、机器学习和认知计算

    导语:人类对如何创造智能机器的思考从来没有中断过。期间,人工智能的发展起起伏伏,有成功,也有失败,以及其中暗藏的潜力。今天,有太多的新闻报道是关于机器学习算法的...

    IT派
  • 自然语言处理在金融实时事件监测和财务快讯中的应用

    疫情之下,全球金融市场进入大波动时代,各国金融调控政策、突发事件层出不穷,例如美联储无限量QE、欧央行7500亿复苏基金、中美关闭使领馆、阿塞拜疆和亚美尼亚爆发...

    zenRRan
  • 自动驾驶中的障碍物行为预测

    作者简介:Yann,2017年加入美团无人配送部,目前在PNC组负责障碍物预测工作。

    美团无人配送
  • 理解计算-从根号2到AlphaGo 第4季 凛冬将至

    在新中国诞生的那一年,加拿大生理学家唐纳德﹒赫布(Donald O. Hebb)出版了《行为的组织》 (《The Organization of Behavio...

    SIGAI学习与实践平台
  • 手把手教你挖掘数据:怎样创造一个“尿布与啤酒”的都市传奇?

    也有很多人对这个“传奇”的真实性表示怀疑,但如今看来,这个传奇已经并不神奇,它只是通过频繁项集进行数据挖掘的一个典型案例而已。

    华章科技
  • 学习笔记DL002:AI、机器学习、表示学习、深度学习,第一次大衰退

    最近识别对象、语音任务达到人类平均水平。日常生活需要世界巨量知识,主观、直观,很难形式化表达。计算机智能需要获取同样知识。关键挑战,非形式化知识传给计算机。

    利炳根
  • 初学者必读:IBM长文解读人工智能、机器学习和认知计算

    选自IBM 机器之心编译 参与:吴攀、黄小天、Nurhachu Null 人工智能的发展曾经经历过几次起起伏伏,近来在深度学习技术的推动下又迎来了一波新的前所...

    机器之心
  • IBM长文解读人工智能、机器学习和认知计算

    人工智能的发展曾经经历过几次起起伏伏,近来在深度学习技术的推动下又迎来了一波新的前所未有的高潮。近日,IBM 官网发表了一篇概述文章,对人工智能技术的发展过程进...

    钱塘数据
  • 文远知行发布自动驾驶新方案:日产纯电动车型,搭载性价比激光雷达

    这是英伟达投资的自动驾驶公司文远知行WeRide,在2019年现场GTC展现的最新情况。

    量子位
  • 如何用机器学习方法进行数据建模?(文末福利)

    当前,信息化建设的第三波浪潮正扑面而来,信息化正在开启以数 据的深度挖掘和融合应用为主要特征的智能化阶段(信息化 3.0)。随着互 联网向物联网(含工业互联网)...

    AI科技大本营
  • ­­­­理解计算-从根号2到AlphaGo 第4季 凛冬将至

    原创声明:本文为 SIGAI 原创文章,仅供个人学习使用,未经允许,不能用于商业目的。

    SIGAI学习与实践平台

扫码关注云+社区

领取腾讯云代金券