专栏首页机器学习、深度学习二值网络--TBN: Convolutional Neural Network with Ternary Inputs and

二值网络--TBN: Convolutional Neural Network with Ternary Inputs and

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zhangjunhit/article/details/90054941

TBN: Convolutional Neural Network with Ternary Inputs and Binary Weights ECCV2018

本文的思路就是: 对 weight 进行二值量化+ scaling factor α , 对于 网络层的输入 进行 ternary value {−1,0,1} without the scaling factor

3 Ternary-Binary Networks 3.1 Convolution with Matrix Multiplication use matrix multiplication to implement the convolution layer ⟨I,W,∗⟩ ten2mat 将一组滤波器 weight filters W can be reshaped to a matrix ten2mat reshape the matrix back to output tensor C

3.2 Binary Weights

3.3 Ternary Inputs the scaling factors of the binary inputs does not affect the performance of XNOR-Networks 这里我们不采用 scaling factor 了

3.4 Ternary-Binary Dot Product 这样卷积就没有乘法运算了,只有 位运算和 加减

量化梯度求导采用:

provides ∼ 32× memory savings and 40× faster convolutional operations

11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 嵌入式CNN检测网络--LCDet

    LCDet: Low-Complexity Fully-Convolutional Neural Networks for Object Detection i...

    用户1148525
  • 人脸对齐--Pose-Invariant Face Alignment with a Single CNN

    Pose-Invariant Face Alignment with a Single CNN ICCV2017 http://cvlab.cse.ms...

    用户1148525
  • caffe学习笔记2-caffe命令行训练与测试

    Train训练(用cmdcaffe命令行) (solver.prototxt) 在使用cmdcaffe时,需要默认切换到Caffe_Root文件夹下,需要...

    用户1148525
  • scipy.sparse.csr_matrix

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

    于小勇
  • 谷歌AI动画接龙:只用头尾两帧图像,片刻生成完整视频!

    想象一下,现在你的手中有一段视频的第一帧和最后一帧图像,让你负责把中间的图像填进去,生成完整的视频,从现有的有限信息中推断出整个视频。你能做到吗?

    新智元
  • PHP-超级全局变量

    PHP 超级全局变量列表: $GLOBALS $_SERVER $_REQUEST $_POST $_GET $_FILES $_ENV $_COOKIE $_...

    行 者
  • 基数排序python实现

    所以基数排序的原理就是,先排元素的最后一位,再排倒数第二位,直到所有位数都排完。这里并不能先排第一位,那样最后依然是无序。

    py3study
  • 快速入门系列--Log4net日志组件

    Log4net是阿帕奇基金会的非常流行的开源日志组件,是log4j的.NET移植版本,至今已经有11年的历史,使用方便并且非常稳定,此外很重要的一点是其和很多开...

    用户1216676
  • Python机器学习:Scikit-Learn教程

    一个易于理解的scikit-learn教程,可以帮助您开始使用Python机器学习。

    iOSDevLog
  • SqlServer 错误:"SQL Server 无法生成 FRunCM 线程" -- 解决办法

    开始-》Sql server 2005-》配置工具-》SQL Server Configuration Manager-》sql协议-》禁止VIA

    thz

扫码关注云+社区

领取腾讯云代金券