从“Al换脸”到模仿人类灵感，Al深度伪造引发担忧：值得警醒

科学前沿观天下 笃学明理洞寰宇

人工智能的强大毋需多言，其富有的惊人创造力令人叹为观止，但当Al脱离了人类的掌控，它的可怕之处同样是你无法想象的…近日，Google开发出一款Al程序，通过简单几步就可以让你创作出虚拟的“巴赫和声”（巴赫：欧洲音乐之父）。该程序因其开创性和趣味性的特点而广受赞誉，但也激发了大众对Al潜在威胁的担忧…

计算机对人类模仿的极限值究竟为多少？音乐乃至艺术的创作是基于人类自身的灵感和美感而实现的，如果连这些人类最基本的特质都能通过算法来完成，利用Al代替人类的努力，这无疑是具有颠覆性且对人类发展有害的。

“巴赫和声”是怎样实现的呢？首先，Al分析了巴赫音乐作品中的音符，找到了旋律与和声音符之间的关系，并遵循严格的组合规则进行学习，从而实现和声的模仿。由于该技术所采用的算法极其复杂，如果放在其他领域，连人类自己都不知道Al到底会做出怎样的决策。

随着人工智能技术的飞速发展，Al已经可以模仿一个人的写作、说话风格，甚至是面部表情。而其之所以备受质疑，很大程度上是因为Al程序的构建非常容易被个人偏见所左右，当程序出错造成严重后果时，在法律上还没有明确的负责人。

今年2月，一家名为Open AI的非营利性公司开发了一个可以模仿真人撰写文章的程序。类似的技术还可以用于模拟照片和视频，例如目前网络上风靡的“Al换脸术”。再如2018年初，电影制片人Jordan Peele制作了一个视频，内容是奥巴马正在讲述一段自己现实中从来没有讲过的话，用以警告公众该项技术所存在的危险性。

随着Al技术的进一步发展，其准确率和精确性将继续增强，未来我们可能根本无法准确辨别这种“深度伪造”的真假。现在，Al程序甚至可以生成伪造的面孔和指纹，并用来解锁智能设备进而盗窃财产和信息。

专家表示，在人工智能带来无穷创造力的同时，其造成的危机同样不容忽视。在科研人员的探索下，人工智能技术不断取得突破。不论是机器对人类的模仿，还是“深度伪造”，这意味着未来将出现更多的技术滥用现象，且以人们无法预估的方式增长。这值得所有人警醒…

作者/朱张航宇

信息源：The Conversation