贾志刚-OpenCV学堂-腾讯云开发者社区

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

贾志刚-OpenCV学堂

三本书《Java数字图像处理-编程技巧与应用实践》、《OpenCV Android开发实战》、《OpenCV4应用开发-入门、进阶与工程化实践》作者。OpenCV实验大师平台软件作者

专栏成员

875

文章

1546248

阅读量

426

订阅数

ECCV 2022 | CMU提出首个快速知识蒸馏的视觉框架：ResNet50 80.1%精度，训练加速30%

点击上方↑↑↑“OpenCV学堂”关注我来源：公众号机器之心授权今天介绍一篇来自卡耐基梅隆大学等单位 ECCV 2022 的一篇关于快速知识蒸馏的文章，用基本的训练参数配置就可以把 ResNet-50 在 ImageNet-1K 从头开始 (from scratch) 训练到 80.1% (不使用 mixup，cutmix 等数据增强)，训练速度（尤其是数据读取开销）相比传统分类框架节省 16% 以上，比之前 SOTA 算法快 30% 以上，是目前精度和速度双双最优的知识蒸馏策略之一，代码和模型已全部

2022-08-31

2220

节省显存新思路，在 PyTorch 里使用 2 bit 激活压缩训练神经网络

文件存储 pytorch 批量计算

本文将介绍来自加州伯克利大学的 ActNN，一个基于 PyTorch 的激活压缩训练框架。在同样的内存限制下，ActNN 通过使用 2 bit 激活压缩，可以将 batch size 扩大 6-14 倍，将模型尺寸或者输入图片扩大 6-10 倍。ActNN 相关论文已被 ICML 2021 接收为 Long Talk，代码开源于 github。

2021-07-14

1.1K0

一个知识蒸馏的简单介绍，一看就懂

近年来，神经模型在几乎所有领域都取得了成功，包括极端复杂的问题。然而，这些模型体积巨大，有数百万(甚至数十亿)个参数，因此不能部署在边缘设备上。

2020-09-01

3.5K0

干货 | 图文教程 OpenVINO2020 + QT 配置！

qt 深度学习 gui 文件存储

OpenVINO 是英特尔推出一套基于深度学习的计算机视觉加速优化框架，支持其它机器学习平台模型的压缩优化、加速计算等功能。自发布以后就得到开发者的青睐，其强大的模型优化与压缩能力与加速计算引擎带来的速度提升让人十分惊喜，前面发布过一篇文章，详细介绍了 OpenVINO 的架构与其加速引擎 ( Inference Engine-IE ) 使用，如何帮助开发者在 CPU 上对深度学习的模型跑出实时帧率。

2020-06-22

1.7K0

模型压缩一半，精度几乎无损，TensorFlow推出半精度浮点量化工具包，还有在线Demo

tensorflow 文件存储 https 网络安全

近日，TensorFlow模型优化工具包又添一员大将，训练后的半精度浮点量化（float16 quantization）工具。

2019-08-14

2.1K0

深度学习模型压缩与加速综述

神经网络文件存储深度学习

目前在深度学习领域分类两个派别，一派为学院派，研究强大、复杂的模型网络和实验方法，为了追求更高的性能；另一派为工程派，旨在将算法更稳定、高效的落地在硬件平台上，效率是其追求的目标。复杂的模型固然具有更好的性能，但是高额的存储空间、计算资源消耗是使其难以有效的应用在各硬件平台上的重要原因。所以，卷积神经网络日益增长的深度和尺寸为深度学习在移动端的部署带来了巨大的挑战，深度学习模型压缩与加速成为了学术界和工业界都重点关注的研究领域之一。本文主要介绍深度学习模型压缩和加速算法的三个方向，分别为加速网络结构设计、模型裁剪与稀疏化、量化加速。

2019-06-14

7710

OpenCV中保存不同深度图像的技巧

opencv api 文件存储

很多人开始学习OpenCV之后，接触前面几个API就包括imwrite函数，而且很快知道了如何去保存Mat对象为图像，常规代码如下：

2019-06-10

10.7K1

没有更多了

社区活动

【纪录片】中国数据库前世今生

穿越半个世纪，探寻中国数据库50年的发展历程

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态