神经网络P图新神器:摘墨镜戴美瞳都能搞定,加首饰换发型真假难分 | 代码开源

城里新来了个AI修图师,可以说有求必应。

拍了一张美美的照片,但是我还不满意。想瘦脸,想按照我想要的弧线瘦脸;还想让眉毛俏皮上挑、鼻子也挺一点。

AI修图师,行不行?

行。

简单。把不满意的地方涂掉,接着想怎么改,就怎么简单勾勒一下线条。

然后,点一下按钮。效果你看看,行不行?

求大神帮忙:帮我P成咧嘴微笑,以及眼珠换个颜色。

行。

世间P图的要求不过尔尔,对于这个AI修图师来说,简直信手拈来。只要你提好需求,然后一键就能完美实现。

来个实战演示,譬如给美女加个刘海、画个眼影。也是轻轻松松快速完成。

给小伙去掉墨镜、露出眼睛。没问题,分分钟搞定。

真的,这都不算难事儿。

加首饰、换发型、补全脸

其实,过去我们也介绍过一些类似的神经网络P图大师。

不过这次的AI修图师,还有一些新本领。

例如,对于色彩的掌握。

可以根据要求,改变眼球的颜色,轻松告别美瞳或者红眼。

还能改变发型。

甚至,给光头P上秀发,而且头发可以是不同颜色的混搭,直接生成一种挑染的风范~

不仅如此,这个AI还能按照需求,定制生成搭配的首饰。

耳坠啊什么的,全都不在话下。

当然,以上种种还都是小儿科。

这个AI能脑补的范围可不只是一点点,而是一大片。

即便你给它这样一张图片。

只要给出要求。

AI修图师也能很好的重建出来。

左边是脑补的结果,右边是真实的照片,对比一下,你会点赞的……

再展示一组。

甚至,只给一个带颜色的简笔画,AI修图师也能生成接近原照片的结果。

你看:

这是怎么做到的?

原理解读

其实这个最新出现的AI修图大师,来自韩国电子通信研究院(ETRI)。背后是一个名叫SC-FEGAN的模型,可以分为生成器、鉴别器两大部分。

输入一张不完整的图片,加上蒙版、线稿或者颜色信息,生成器就能推断出编辑后的照片。然后,鉴别器来判断这张照片是不是P得天衣无缝。

生成器基于英伟达推出的图像修复模型U-net,一共有16个卷积层,所有卷积层都使用3x3大小的门控卷积(gated convolution)。

除了输入和输出之外,所有卷积层之后都应用英伟达在2017年提出的局部响应归一化(LRN)。

生成器中还引入了各种损失训练,包括每像素损失、感知损失、风格损失、总方差损失以及通用的GAN损失函数。

鉴别器,使用的是伊利诺伊大学厄巴纳-香槟分校(UIUC)和Adobe研究团队在2018年提出SN-PatchGAN中的架构。

使用了3x3大小的卷积核并应用了梯度惩罚损失项,并没有将ReLu函数应用到GAN损失之中。

数据集

在这项研究中,训练使用的是香港中文大学汤晓鸥组收集的人脸数据集CelebA-HQ数据集。

在其中随机选择两组共29000张图像用于训练,1000张图像用于测试。

将图像统一调整为了512x512像素之后,通过自由蒙版和加州大学联合Adobe推出的面部图像生成算法GFC创建对应的草图和颜色数据。

创建颜色数据时,使用直方图均衡化来避免光反射和阴影造成的颜色污染。

然后,使用加州大学HED边沿检测器,来生成与用户输入相对应的草图数据,修改面部图像,然后平滑曲线,并擦除修改图像产生的细小边缘。

效果怎么样?

研究中,与伊利诺伊大学厄巴纳-香槟分校和Adobe研究团队的网络Deepfillv1进行了对比。

在对人物面部进行了大面积胡抹乱画之后,Deepfillv1虽然对整体进行了复原,但是各种涂抹痕迹,以及细节处理,都远远不及新提出的SC-FEGAN。

此外,与其他的研究相比,SC-FEGAN对数据的依赖并没有那么高。

哪怕是是输入一幅完全涂抹掉的图像,也能生成一些头发丝出来。

传送门

这篇论文,来自韩国电子通信研究院,作者是Youngjoo Jo和Jongyoul Park。

这项研究的模型代码,已经在GitHub上开源了,并且提供了带有图形界面的Demo,但需要下载安装。

如果你对这项研究感兴趣,请收好传送门:

SC-FEGAN: Face Editing Generative Adversarial Network with User’s Sketch and Color arxiv.org/pdf/1902.0683

GitHub项目地址: github.com/JoYoungjoo/S

原文发布于微信公众号 - 智能工场AIWorkshop(qddata)

原文发表时间:2019-02-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券