网信办等三部门联合发布新规：明年起，AI造假音视频不得随意发布

国家互联网信息办公室、文化和旅游部、国家广播电视总局印发《网络音视频信息服务管理规定》，自2020年1月1日起施行：利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用其制作、发布、传播虚假新闻信息；网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术，应当建立健全辟谣机制。

在这份刚刚印发的《网络音视频信息服务管理规定》中，四次直接提及深度学习，基本可以看做是针对AI造假视频的一次针对性管控。

2017年底，deepfake换脸技术出现以来，各种使用AI技术造假的视频层出不穷。而且随着技术的进步，造假视频已经变得越来越真假难辨，也引发了全球范围内的担忧。

对普通用户：

发布非真实AI音视频时，要以显著方式标识出来。

不得使用AI技术制作假新闻。

对于服务商，除了上述要求还有：

上线AI音视频服务，应展开安全评估。

部署非真实音视频鉴别技术。

及时停止传播未显著标识的非真实AI音视频内容。

建立健全辟谣机制。

相关规定条款如下：

新规定将于明年1月1日起施行。

《网络音视频信息服务管理规定》的详细内容，可以访问这个页面查看：http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm

网友评论：

这还吐槽？早该规范了

对啊，这项技术还可以用于网络诈骗！防不胜防！

ai不能造假，真人还是可以模仿吧

确实，明星也会被人恶意造谣

很好！昨晚看着明侦 网络信息确实很重要

嗯，AI换脸技术一定要有监管

P站已经看到AI换脸迪丽热巴的视频了，这种技术必须有人管，否则伤害很大。

那像乔碧萝那种的呢

懂什么？那叫美颜，美颜！

心疼被别有用心之人造谣的吴亦凡

来源：人工智能那点事

新观察