太拘泥于细节的AI
AI(人工智能)无所不能。据社交网站“脸谱”披露,要想欺骗AI把某个不存在的东西当作真实存在,比你想象的要容易得多。
譬如,在一张高清晰度的图片中,随机地降低某些地方的像素。这么一点微不足道的变化,人眼根本难以觉察,也不会影响判断;但AI却能觉察出来其中的差异,并因此严重干扰了判断,比如说把图中的猫误认作了狗。
再比如,据说现在谷歌的语音识别AI功能已经非常强大,能一边听语音,一边笔录成文字。但一位AI工程师略施小计,就把它给耍弄了:他在语音文件中掺入少量数码噪声,这点噪声对于我们是不会有什么影响的,但让谷歌的AI去识别,结果却是笔录下来的文字已跟原意大不一样。
这些低级错误揭示出当前AI的一个重大缺陷:太拘泥于细节,让无谓的细节影响了对整体的判断。如果这个弱点被黑客利用,后果将不堪设想。他们将能够操纵无人驾驶汽车狂奔,无视红绿灯;或者让犯罪嫌疑人轻易躲过AI控制的监控摄像头。
AI的决策规则不易被人知
为了解决这个问题,这就需要先去了解AI是如何做决策的,但这一直是个难题。因为AI在自我学习过程中,经过海量的数据训练之后,会自创一套决策规则,但它最后创立的规则到底是什么,这对于AI的设计者有时候都是一个谜。这一点其实跟人也是相似的。
为开发这个工具,研究小组用数码噪声依次替换图片的一部分,以便看看这样替换之后,是否会对AI的判断产生影响。如果更换部分的图片改变了AI最终的判断,那说明图片的这块区域可能正是影响AI判断的关键所在。
一窥AI的决策过程
格林在给图片分类的一个AI上测试了他的系统。这个AI被训练把图片分成10个类,包括飞机、鸟、鹿和马等。格林的系统能够暗中查看,当AI对图片进行分类时,什么是它所倚重的,什么是被它忽略不计的。
结果表明,AI先是将图片上的物体分解成不同的元素,然后搜索图片中的每一个元素以确定把图片归到哪一类。
从这里可以看出,AI做决策的过程迥异于我们人类。面对一张鹿的图,即使把它的角打上马赛克,我们也还是可以根据分叉的蹄子认出鹿来的,但对于“死板”的AI,它很可能就把它认作驴了。
格林的软件可以帮助我们测试现有的AI,以便确保它们下判断时,关注的是我们认为重要的东西,这对于改进AI有重要的价值。
【End】