人工智能会隐藏数据欺骗人类 这真的是因为计算机变聪明了吗？

本文由腾讯数码独家发布

在斯坦福和谷歌的一项研究中，出现了一个让人哭笑不得的结果。该研究中，研究人员让一机器学习代理将航空画面转换为街道地图，结果竟发现部分信息被代理小心翼翼地隐藏了。

这一发现说明了计算机发明以来一直存在的一个问题，那就是计算机只会严格执行你的命令。

研究人员最初的目的是加快和改进将卫星图像转换为谷歌地图的过程，为此团队使用了CycleGAN神经网络，该网络通过大量试验，能够尽量高效准确地将X型和Y型图片转换为其它图片。

在早期的结果中，代理都完成得不错，或者说看起来还不错。让团队注意到问题的，是在代理用街道地图重建航空图片时，出现了许多在街道地图上没有的细节。比如，屋顶上的天窗就在转换过程中，从街道地图上被隐去，但又在逆向转换后神奇地出现在了航空图片中。

图A为航空拍摄画面，图B为转换后的街道地图，图C为从图B逆向转换出的航空拍摄画面，可以看出图A和C中的许多小点都没有在B中得到呈现。

虽然团队很难仔细检查神经网络的转换过程，但可以观察其生成的数据。团队在一些试验中，发现CycleGAN确实让转换过程更快了。

团队本来是想让代理先学习各类地图的特征，并将这些特征正确地匹配到各类地图上。但代理实际做的，是学习了航空图像与实际地貌有多相像，以及街道地图有多清晰。

也就是说，代理其实没有学习如何转换地图，它学会的是如何细致地将一种图的特征编码编入另一种更复杂的图像。航空图像的细节其实被秘密地编入了街道地图中，用上千种有细微区别的颜色区分，虽然计算机可以轻松区别这些颜色，但人眼无法识别。

实际上，计算机经过大量学习，了解了如何将航空图像的内容编入街道地图，它甚至都不需要“真实的”街道地图，所有用于重建航空图像的数据都可以神不知鬼不觉地编入街道地图，甚至可以用另一张完全不同的街道地图还原航空图像。

上图中D就是实际编入左侧地图中的航空图像。图C是将计算机编入的图片区别可视化的结果，可以看到可视化后的图像与航空图像有相似之处，但如果不经过可视化，就完全看不出航空图像的影子。

这种将数据编入图像的做法并不新鲜，名为隐写术，给图片加水印、给照片加元数据设置时都会用到。但计算机为了完成任务而自己创造隐写方法，还是相当新鲜的现象。

可能有人会认为这说明“机器越来越聪明了”，但事实其实正好相反。机器就是因为不够聪明，才无法实际完成将复杂图像转换为另一种的困难任务，所以找到了一种人类不易察觉的方式来假装完成了任务。如果研究人员能更严格地对代理得出的结果进行审查，那就可以避免这种情况的发生。

如往常一样，计算机做的事就是人类命令其做的，所以在人类下命令时，必须更加精准。从CycleGAN的结果可以看出神经网络可能存在的一些弱点，比方说，只要计算机没有得到明确的禁止命令，那就不会避免某些行为，只会尽量快速、简易地解决问题。

因此，这次研究团队发现的结果，其实还是传统的PEBKAC问题，也就是“人类命令到计算机解决之间的问题”，或者说HAL问题，也就是“一切只会是人类的错误”。