事实上,要实现可理解性是复杂的,它高度依赖许多变量和人为因素,排除了任何“一刀切”的方法。可理解性是一个前沿的、跨学科的研究领域,它建立在机器学习、心理、人机交互以及设计的思想上。
微软研究院这些年一直致力于研究如何创造出具有可理解性的人工智能,如今,如今微软在MIT开源协议下开源了lnterpretML软件工具包,开源地址是 https://github.com/Microsoft/interpret,它将使开发人员能够尝试各种方法去解释模型和系统。InterpretML能够执行许多可理解的模型,包括可解释的Boosting Machine(相对于一般的加性模型做了改进),以及为黑箱模型的行为或者它们的个别预测生成解释的几种方法。
通过一些简单的方式去评估可理解性方法,开发人员就能够比较不同方法产生的解释,从而去选择那些最符合他们需求的方法。例如,通过检查方法之间的一致性,这样一来,比较法就能够帮助数据科学家去了解在多大程度上相信那些解释。
微软正期待与开源社区合作,继续开发InterpretML,开源地址是https://github.com/Microsoft/interpret