学习
实践
活动
专区
工具
TVP
写文章

FPGA加速BCNN,模型20倍剪枝率、边缘设备超5000帧秒推理吞吐量

BCNN 训练和压缩 本节详细讨论 了 BCNN 模型细节,包括模型结构、BCNN 的基本构建块和操作、使用 SLR 进行权重剪枝以及基于象限二值化、 STE 的权重量化。 对于 BCNN,批归一化是模型收敛的强制性操作。 图 1:CNN 与 BCNN 的比较 对于以三通道(RGB)作为输入的图像,初始输入仅包含实部。 本节中介绍了 2 个 BCNN 模型设计:基于 BCNN 模型的 NIN(network in network)和基于 BCNN 模型的 ResNet-18。 实验 BCNN 模型的训练 研究者将 SLR 剪枝和基于 STE 的量化技术用于 NiN-Net 和 ResNet-18,这两个网络都是基于 BCNN。 NIN-Net 模型的 BCNN 上实现了 1.51 倍的加速,在基于 ResNet-18 模型的 BCNN 上实现了 1.58 倍的加速。

12420
  • 广告
    关闭

    618夏日盛惠

    2核2G云服务器首年95元,GPU云服务器低至9.93元/天,还有更多云产品低至0.1折…

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    机器学习学术速递

    在这里,我们建议使用贝叶斯卷积神经网络(BCNN)来近似SPI中DL预测的不确定性(来自有限的训练数据和网络模型)。BCNN预测结果中的每个像素代表概率分布的参数,而不是图像强度值。 然后,通过在训练阶段最小化负对数似然损失函数和在预测阶段最小化蒙特卡罗误差,用BCNN逼近不确定性。结果表明,在不同的压缩比和噪声水平下,BCNN能够可靠地逼近SPI中DL预测的不确定性。 在基于深度学习的SPI中,BCNN的预测不确定性揭示了大部分重建误差来自于图像特征的边缘。 结果表明,所提出的BCNN可以为SPI中DL预测的不确定性提供一个可靠的近似工具,可以广泛应用于SPI的许多应用中。 The results show that the BCNN can reliably approximate the uncertainty of the DL predictions in SPI

    66530

    扫码关注腾讯云开发者

    领取腾讯云代金券