百分点苏海波：深度迁移学习将推动认知智能突破发展

目前，随着感知智能的大规模应用落地，人工智能行业已经进入认知智能时代。认知智能时代主要体现在两个方面，一是人工智能行业的基础设施——数据标准化，已趋于成熟；二是行业实际需求的牵引，亟需机器提供基于行业知识、业务经验沉淀的决策支持类应用。从行业应用角度来看，在感知智能解决数据采集和识别问题的基础上，各行各业的业务部门开始对认知智能带来的低运营成本，以及知识图谱驱动的业务决策有了越来越明确的诉求。

未来，认知智能的落地应用还将面临诸多挑战。认知智能业务架构可分为数据中台、AI中台、业务中台以及行业场景应用四层，其中数据中台层的海量数据治理，以及AI中台层基于行业知识图谱的关联关系挖掘，是认知智能落地应用的主要挑战。

5月14日晚，2020爱分析·产业数字化峰会第一期【认知智能专场】成功举办，百分点首席算法科学家苏海波博士应邀参与活动，并带来“深度迁移学习在NLP中的应用与实践”的主题分享，介绍了百分点深度迁移学习技术在情感分析、媒体审校、机器翻译、智能问答等领域中的案例实践。

苏海波介绍，迁移学习是指利用数据、任务或模型之间的相似性，将在旧领域学习过的模型，应用于新领域的一种学习过程。

之所以需要迁移学习，主要是因为有四个问题需要解决：第一，深度学习与少标注之间的矛盾；第二，强算力与弱资源之间的矛盾；第三，通用模型与个性化需求之间的矛盾；第四，特定应用的需求。迁移学习方法可以分为四类，包括基于样本的迁移学习方法、基于特征的迁移学习方法、基于模型的迁移学习方法和基于关系的迁移学习方法，我们所说的深度迁移是指将基于模型的迁移学习在深度神经网络中的应用。

随着 Google BERT的出现，这种预训练模型的方法开始应用在NLP领域，对NLP领域是一次革命性的影响。苏博士介绍了百分点在各种NLP任务中广泛使用BERT技术并进行持续地优化和改进的实践案例，包括采用 Google TPU 解决算力的瓶颈、采用 BERT 和上层神经网络进行联合参数调优，以及采用 BERT 的各种扩展模型和数据增强进行效果提升等方面的探索和实践。

苏海波认为，深度迁移学习是NLP领域的历史突破，也是NLP未来的技术主流，TPU、数据增强、BERT模型的改进、上层网络设计等技术的引入及迭代更新会进一步提升深度迁移学习方法的效率和效果。当NLP模型的效果实现突破后，在各个行业会产生越来越多的认知智能应用。

百分点早在2018年就成立了百分点认知智能实验室，利用NLP、知识图谱和智能交互等认知智能技术，辅助提升企业市场化决策和政府及公共安全决策的效率。目前已经有了不少具体的技术探索成果，例如深度迁移学习、深度强化学习，以及深度学习和知识图谱的融合等。

在情感分析领域，百分点舆情洞察系统基于前沿的自然语言处理技术和实际的算法落地实践，探索出了一套高精准、可定制、可干预的智能分析框架，为客户提供了高效的预警研判服务。

在媒体审校领域，百分点智能媒体审校系统利用深度迁移学习技术，依据行业规范、标准和业务知识，可以实现机器辅助识别和提示文稿、书籍等媒介中的不规范内容，并给出纠错建议，辅助内容审校者有效发现问题，提升校对质量及审稿效率，确保内容安全生产。系统对人名职务、语录口号等校对平均准确率达95%以上，基础字词校对准确率达90%以上。

在机器翻译领域，百分点智能翻译系统经过海量高质量语料库训练，并构建上亿航天、航空、船舶、电子、兵器等军工领域行业术语库和记忆库提高效果，打造了工业级的神经机器翻译系统。同时支持本地化训练用户专属翻译引擎，为客户提供本地化、行业化和定制化翻译服务。

在智能问答领域，百分点智能对话机器人系统基于领先的对话理解和对话管理技术，可为客户灵活、便捷地定制支持语音、文字交互的智能对话系统，实现知识性问答、任务处理和闲聊等智能化人机交互，目前已经为公检法部门、统计局等众多政府客户提供定制化的智能解决方案。系统具备学习反馈闭环训练机制、精准的语义等价识别、语音模型自助训练等功能特征，使对话更加智能和顺畅。除了政务智能助手，还适用于智能办公、智能客服、智能家居等众多场景。

深度迁移学习同样在增强分析中得到应用实践。智能问答功能是百分点商业智能系统(Clever BI)中非常重要的一个子任务，实现了让用户能够通过一句自然语言就能自动生成对应的图表。比如，提问“我知道这几个省份的被投诉订单多，究竟是哪个渠道影响了客户体验？”系统自动就会展示出对应的图表结果。

深度迁移学习无疑是当前NLP领域的主流技术，在越来越多的实际应用场景中取得了令人瞩目的成就。未来十年，将会是认知智能发展的黄金十年，越来越多的企业开始重点布局认知智能领域。