复旦大学教授张军平：极端情况下，人工智能的尽头就是人工
“本文作者：张军平，复旦大学计算机科学技术学院教授、博士生导师。
——聚焦数据 · 改变商业
上个月出门，发现十字路口的交警和辅警人数明显增加了。我不禁有些诧异，近十年来，人工智能最成功和最有效的落地成果不就是安防和交通相关应用吗，而十字路口往往都是视频监控最密集的地方，既然如此，为什么还需要那么多警力呢？
除了有定期上街执勤的需要外，一个深层次原因是，人工智能并不能百分之百包打天下。更极端情况下，人工智能的尽头就是人工。
何出此言呢？其一原因是人工智能算法的评价准则。这里谈论两个指标，漏检率和误报率。第一个指标，漏检率是指本应发现却未被算法发现的问题，俗称假阴性。
以交通违章为例，假阴性或漏检率意味着并非所有违章现象都能被有效发现。在监控探头日益普及的今天，多数违章都已经能通过人工智能算法检测到。如早期研发的闯红灯、高速公路超速、占用高速应急车道等，中期研发的基于云台监控摄像机的三分钟路边违停、车牌遮挡等，和近年来的实线变道、市内禁鸣区域鸣笛等。
然而，随着驾驶员的交通安全意识的提高，这些易于监控的违章现象正变得越来越少，以至于可以推测，在未来针对这类违章的监控可能会较难被触发，甚至形同虚设。那么，交管部门和相关技术研发的公司就必须深化监控系统的研究，将重心推向识别更为复杂的交通违章行为。比如恶劣天气或低照度情况下的低分辨车牌识别、非机动车的违章行为。然而，这些复杂的交通违章并不见得能通过人工智能算法获得很低的漏检率，甚至可能无法形成应用级的实际监控系统。如非机动车闯红灯行为、以及在禁行区域行驶。尽管目前这一块的智能监控已经开始试点，但当非机没有车牌以及驾驶者戴着口罩时，算法很难自动给出确定的结论。此时，就只有依赖人工现场截停和处罚了。
而第二个指标，误报率则是指不应被检测出来，却被错误辨识成真的“假问题”，俗称假阳性。
仍以交通违章为例，假阳性高意味着会报到过多的假违章现象。如在高速公路上，一辆车被检测出超速了，但实际上真车并未出现在该路段，结果车主收到了一张不属于自己的罚单。再比如将公共汽车车身上的广告人物错判成违章的行人。这些都是假阳性。误报率高或假阳性高，往往会导致后期人工介入工作量的增加。
除交通违章外，漏检率和误报率引发的问题，在很多领域的应用中都可以见到。如在医疗方面，新冠病人的漏检有可能会造成不必要的病毒传播，而健康人误报为癌症会导致人的心理状态失。如在短视频检查上，疑似漏检的违规短视频必须通过人工审查来杜绝其传播后造成的危害。误报的也需要通过人工来决定是否可以放行。
近年来，大量人工智能技术的落地，表明相关应用的误报率和漏检率问题已经有了显著的改善。但需要指出的是，一旦容易实现的应用都完成落地或产品化了，剩下的可能都是难啃的硬骨头。这些硬骨头的潜在应用里，依赖现有的人工智能技术，两个指标可能很难得到明显的改善。它也就意味着，人工处理仍然会是这些应用需要依赖的主要手段。
事实上，漏检率和误报率这两个简单的指标，只是影响人工智能全面替代人工，以及导致人工智能最终需要依赖甚至让位于人工的一个小因素。
其原因在于，这两个指标主要与预测任务的性能相关。而人类智能中除了预测，还有与可解释性和其它与预测无密切关联的智能活动。如学生们刷题后形成的对新题的快速判断，那是可以不经过常规解题思路直接找到答案的快速途径。从某种意义上来说，这是摆脱了原有学习模型后形成的一种“跳”连接，或者直觉。这种直觉，目前还无法通过数学建模方式来表示，仍然需要靠人自己的持续学习来获得。情感也是如此，尽管我们在构建人工智能算法中可以机械性地将情感分类并进行预测，然而这样获得的情感只能让机器人更为机械化，却无法向共情迈出质变的一步。
即使是预测，我们也受限于对自然界的理解，而不能对人工智能技术抱以过高的期望。如气象预报中局部地区的降雨预测，会因为对大尺度台风的数据收集不完全而出现失误。不仅是空间尺度上存在局限性，时间尺度亦如此。如气候的变化有可能是几十年为周期的，那么单靠十来年的数据进行气候意义上的分析显然是不准确的。事实上，我们在一些应用中还面临着数据的稀少问题。如局地冰雹的预测会因为数据极其稀少、且在雷达回波上无法与大降雨云层区分开，而导致判断失效。
我们也不能过份相信机器的预测能力。如在自动控制方面，过份相信机器的判断，可能会导致极其危险的后果。如2019年3月埃航737 MAX8的空难，就是过份相信机器的自动驾驶，以至于驾驶员后来无法接管引发的悲剧。
能列举的人工智能短板还有很多，我就不一一枚举了。在这里，我更想表达的是，目前人工智能技术的落地主要是在预测能力能达到应用级的应用上，算是在享用这些应用的能有的红利。一旦人工智能在应用层的红利消失，剩下的可能就得靠人力了。那么自然的问题是，人工智能的红利，在各种相关的应用上还能持续多久？人工智能的尽头会是人工吗？还是必然会走向人机混合呢？
关于作者张军平
张军平，复旦大学计算机科学技术学院教授、博士生导师。主要研究方向是人工智能、机器学习、图像处理、生物认证及智能交通。曾于2007.9-2008.3年作为访问学者访问加州大学圣地亚哥校，2014.8-2015.8年作为Research Associate受聘于宾夕法尼亚州立大学工作一年。曾主持3个国家自然科学基金、863项目、教育部博士点基金和浦江人才计划各一项，参与国家自然基金重点一项，也是973项目“数字媒体理解的理论论和方法研究”的主要参加人之一。目前主持科技部重点研发课题一项、教育部规划项目一项、国家自然基金面上项目一项，多个横向项目。现指导有博士生5名，硕士生11名。
张军平教授为人工智能著名期刊IEEE Intelligent Systems编委，为国内权威期刊《软件学报》、《自动化学报》、《模式识别与人工智能》和中国工程院院刊信息方向英文刊《Frontiers of Information Science and Electric Engineering》的责任编辑。曾任IEEE Transactions on Intelligent Transportation Systems编委。
他是中国自动化学会混合智能专业委员会副主任，中国计算机学会人工智能专委会委员，中国人工智能学会机器学习专委会常委。在2013年担任了第11届中国机器学习及其应用研讨会程序委会主席。在人工智能顶级会议IJCAI2020担任 Area Chair，IJCAI13上担任student office chair。在机器学习顶级会议ICML2014上组委会成员。曾在多个国际会议（ECML/PKDD/ICPR/PRICAI/PAKDD等）和国内会议上担任程序委员会委员，在NIPS/ICML/CVPR/ICML/ACMMM/IJCAI/ICCV等计算机领域顶级国际会议担任审稿专家，在IEEE TPAMI, TNN, TSMCB, IJCV, PR等多个国际期刊上担任审稿专家。
目前，张军平教授发表近100篇高质量论文，包括18篇IEEE Transactions如IEEE TPAMI, TNNLS, ToC, TAC, TITS, TVCG等国际期刊和顶级国际会议论文如ICML, AAAI, ECCV等。至今发表文章的google scholar引用次数近3800次，H指30。
曾独立获得2014上海市自然科学奖三等奖1项。指导的学生曾获得过2012/2013两届上海市优秀硕士论文奖。毕业的学生有4名在美国谷歌、1名在Facebook工作。1名在美国水牛城大学任tenure-track副教授，1名在复旦大学任青年研究员。在国内的学生毕业后主要在BAT工作。
另外，张军平教授撰写的人工智能科普书《爱犯错的智能体》曾在科学网连续24次被推荐至科学网头条，被20余家微信公众号包括中国工程院院刊、中国自动化学会、人工智能学会、新智元等转载，阅读量40万以上，并于2019年获中国自动化学会科普奖。其在人工智能方向上的观点被人民日报子刊《国家治理》周刊、《瞭望》、《科技日报》、《中国科学报》等报道。在金融方面的研究成果曾在2018年被复旦大学官网首页报道。