利用混合架构和端到端自动化加速AI商业化

本次演讲来自Nvidia GTC 21，演讲者是来自IBM Research AI的副总裁Sriram Raghavan。本次演讲主要从模型训练和发布的整个流程出发，介绍了如何将AI应用更好的部署在商业场景。

Sriram首先介绍了IBM为业界AI项目落地和实现商业价值所做的工作，包括为自然语言处理的落地带来巨大进步，实现上百万条对话的自动处理；提高数据科学的规模和计算速度；以及将AI模型的迭代周期大幅缩短等。随后Sriram介绍了当前AI领域存在的挑战，包括对于大量可信数据的需求，算力需求增长迅速，以及在业界中难以部署和应用三个方面。尤其是部署方面，还存在着如何集成到业务和工作流程以及治理和风险管理的问题，需要进行持续的检测和迭代。Sriram指出他将以AI在商业化的部署和应用过程为主进行介绍。

Sriram介绍了在AI的商业化过程中，需要有一个混合云平台，能够从不同的场景下收集和管理数据，并实现可信的自动化部署和生产。在自动化部署方面，Sriram指出，AI模型在部署应用后，应当还需要不断的反馈新数据，并以此不断的更新和训练模型后再次发布更好的模型。Sriram也介绍了在自动化部署下的AI模型生命周期流程，包括数据收集和增强，模型训练与评估以及部署三个方面，并指出了在应用端反馈数据并通过自动机器学习更新模型的重要性。

随后，Sriram介绍了数据增强方面的重要性。由于优质的AI模型需要在大量的高质量数据上进行训练，因此数据增强的工作是十分有必要的。需要通过对数据的质量进行有效评估，从真实数据分布中学习合成数据的方法，进行适当的修正和限制来构建完整的工作流程。Sriram接着介绍了一种自动数据增强的方法，通过从现有专家知识，如各种文档等，提取内容构建知识图谱，并以此为基础，实现从已有数据中根据专家知识构建特征实现增强的方法。

在模型方面，Sriram指出在实际商业部署中，精度不是最主要的问题，还要考虑到部署成本等其他实际问题。因此，Sriram指出，模型需要在多种制约因素下联合训练，以满足实际部署的需要。Sriram以风控模型为案例进行介绍，指出在准确率方面，其他包括模型大小、推理速度以及特征限制等方面该如何控制。

在模型的生命周期方面，Sriram介绍了模型更新和验证的方式，并介绍了元学习预测和更新的方法。通过从测试集上的结果收集和构建新数据用于训练元模型，再将元模型与原始模型整合的方式来实现迭代更新。

最后，在AI模型的信任和可解释性方面，Sriram指出企业内部对人工智能的信任是复杂和多方面的，并介绍了IBM在满足这方面需求所做的工作，包括在模型公平性、透明度和鲁棒性方面所做的贡献，并且致力于提高AI模型的可解释性，以实现对于AI模型更好的控制和风险管理。