日本科学技术振兴机构发布人工智能战略提案

2018年12月13日，日本科学技术振兴机构（Japan Science and Technology Agency，JST）下属研究开发战略中心（CRDS）发布了人工智能（AI）战略提案，指出将通过新一代软件工程来确保人工智能应用系统的安全性和可靠性。

提案旨在建立“人工智能（AI）软件工程”，强化研究与开发。“AI软件工程”作为新一代软件工程学（Software 2.0），研究AI技术和方法论，以确保包括机器学习元件在内的AI应用系统的安全性和可信赖性。日本以AI软件工程发展为新领域，从“AI软件工程体系化”和“基础研究中重要的技术挑战”两个方面提出确保日本国际竞争力的研究开发课题。该学科多方面综合性的研究可以通过A方法（把实践中得到的知识体系化）和B方法（进行与原理相关的学术研究）来得以实现。

与过去相比，深度学习技术运用了大规模的多层神经元网络（Deep Neural Network），因其实现在各种特定用途中高于人类的精确度而受到关注。其次，应对延迟所带来的社会产业损失。如果不及时应对AI系统开发模式的转变问题，日本将在社会和产业方面遭受巨大的打击。第三，机器学习的应用已经扩展到了各行各业。在AI应用产业中，质量保证极为重要，机器学习每一次出现误判，引发问题的严重性各不相同。目前，业界和AI研究团体都在积极努力确保安全性和可信赖性。从社会和经济效果来看，AI软件工程研究开发可以规避由于技术隐患而带来的事故和社会问题，还可以将AI质量打造为日本强项，以提升AI应用产业的国际竞争力。

具体研发课题包括：（1）AI软件工程体系化：以软件工程为中心，以包含软件系列（传统和机器学习）和硬件在内的整个系统为对象，综合处理开发程序、功能安全、质量保证等问题。（2）基础研究中的技术挑战：机器学习的质量保证，即着眼于大数据的机器学习理论以及测试方法；确保AI整体系统的安全性，即传统型与机器学习型混合系统的整体安全评价方法和恢复处理设计方法；解决黑匣子问题，即提升系统发出动作的解释性（人们更为容易地理解事故发生的原因，在设计以及使用时，更容易预估机器的动作）；结合机器学习（自下而上）和符号推理（自上而下）高效率解决问题的工程构架。

提案提出推进措施如下：（1）自上而下地开展加速问题解决的基础研究。（2）促进人工智能和软件工程的技术融合，打造新技术领域，强化事业竞争力。（3）推进三项活动密切合作：学术研究与人才培养；在实际应用中进行技术验证；规定基准并实施标准化操作。（4）在自动驾驶领域率先进行验证，而后向其他领域拓展。（5）利用日本的领先优势，迅速采取行动。

此外，提案认为产业界、学术界和国家政策之间将相互作用。从产业界出发，日本将实践中积累的知识体系化，以推进技术发展，政策将作为指挥塔，紧密联系各项工作，通过提高AI质量确立国际竞争力，实施安全性基准和质量基准。从学术界出发，政策将促进传统学术研究形式向新信息系统相关学术研究转换，即推进学术研究和模式转变，推进相关学术理论研究的发展。

王雯祎 编译

来源：http://www.jst.go.jp/crds/report/report01/CRDS-FY2018-SP-03.html

原文标题：（戦略プロポーザル）AI応用システムの安全性・

信頼性を確保する新世代ソフトウェア工学の確立

检索日期：2018年12月15日