CNN阴影去除--DeshadowNet: A Multi-context Embedding Deep Network for Shadow Removal

DeshadowNet: A Multi-context Embedding Deep Network for Shadow Removal CVPR2017

本文使用深度学习CNN网络来进行阴影去除,最大的特色就是全自动的端对端的实现阴影去除。 automatic and end-to-end deep neural network (DeshadowNet)

阴影去除也算是一个老大难问题了,目前存在的方法主要问题有如下三点: 1)Lack of a fully-automatic and end-to-end pipeline 2)Neglect high level semantic information, 目前大部分算法采用 low-level 特征, color ratios,color statistics 。但是阴影同样与 semantic contents 高度相关 (例如 geometry and material) 3)Require specific operation for penumbra regions 对于半阴影区域需要特别操作

针对阴影去除,目前还没有很好的数据库,我们自己建立了一个较大数据库 3 A New Dataset for Shadow Removal – SRD 自己拍照搞了 3088 图像对,主要考虑以下四个因素:Illumination,Scene,Reflectance,Silhouette

我们提出的 DeshadowNet 是 multi-context的,它综合 high-level semantic information, mid-level appearance information and local image details 这些信息来进行最终的预测, 这个 multi-context embedding 是通过三个子网络来实现的: global localization network (G-Net), appearance modeling network (A-Net), and semantic modeling network (S-Net)

G-Net 提取阴影特征表示来描述 场景中的全局结构和 high-level semantic context G-Net extracts shadow feature representation to describe the global structure and high-level semantic context of the scene

A-Net 提取 G-Net 浅层中的 appearance 信息 A-Net acquire the appearance information from the shallower layer of G-Net

S-Net 提取 G-Net 深层中的 semantic 信息 S-Net acquire the semantic information from the deeper layer of G-Net

本文提出的网络结构

本文提出的网络结构中间结果的显示

网络模型参数设置

损失函数定义 我们采用了 Mean Squared Error (MSE) as the loss function in the log space

Training strategy 为了防止过拟合,我们采用以下训练策略: 1)Multi-stage training strategy 多阶段训练,先分开训练G-Net+A-Net and G-Net+S-Net,然后再整体训练 2) Multi-size training strategy 多尺度训练, coarse scale 64 × 64, medium scale 128 × 128, and fine scale 224 × 224 3)Data synthesis 合成更多的训练数据,60,000 640×480 4)Data augmentation 包括 image translations, flipping and cropping

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏崔庆才的专栏

从头开始了解PyTorch的简单实现

1595
来自专栏CreateAMind

Deep Learning Book 中文第四章 数值计算

上溢下溢;病态条件数;基于梯度的优化算法,一阶优化算法、二阶优化算法;约束优化,KKT;线性最小二乘。

632
来自专栏机器之心

资源 | 谷歌带来GAN入门神器:浏览器上运行的可视化工具GAN Lab

用浏览器打开这个网页,就可以开始耍了:https://poloclub.github.io/ganlab/

351
来自专栏CSDN技术头条

基于卷积神经网络(CNN)的中文垃圾邮件检测

前言 文本分类任务是一个经久不衰的课题,其应用包括垃圾邮件检测、情感分析等。 传统机器学习的做法是先进行特征工程,构建出特征向量后,再将特征向量输入各种...

2877
来自专栏ATYUN订阅号

图像处理:利用神经网络生成新图像和修复旧图像

查看附带Python代码的GitHub repo(链接地址为https://github.com/philkuz/PixelRNN)和Jupyter笔记本(链接...

4707
来自专栏AI科技大本营的专栏

如何用TensorFlow实现基于深度学习的图像补全?看完这篇就明白了

作者|Brandon Amos 译者|@MOLLY && 寒小阳 简介 第一步:将图像理解为一个概率分布的样本 你是怎样补全缺失信息的呢? 但是怎样着手统...

95410
来自专栏大数据文摘

​tensorflow实现基于深度学习的图像补全

4085
来自专栏人工智能LeadAI

GAN学习指南:从原理入门到制作生成Demo

生成式对抗网络(GAN)是近年来大热的深度学习模型。最近正好有空看了这方面的一些论文,跑了一个GAN的代码,于是写了这篇文章来介绍一下GAN。 本文主要分为三...

4489
来自专栏人工智能头条

基于Python的卷积神经网络和特征提取

1734
来自专栏人工智能LeadAI

iOS 图片风格转换(CoreML)

前言 图片风格转换最早进入人们的视野,估计就是Prisma这款来自俄罗斯的网红App。他利用神经网络(多层卷积神经网络)将图片转换成为特定风格艺术照片。利用图片...

4078

扫码关注云+社区