专栏首页机器之心NLP技术路线详解:这是从数学到算法的艺术

NLP技术路线详解:这是从数学到算法的艺术

选自Github

项目作者:Tae-Hwan Jung

机器之心编译

自然语言处理路线图详解,从数学基础、语言基础到模型和算法,这是你该了解的知识领域。

自然语言处理很多时候都是一门综合性的学问,它远远不止机器学习算法。相比图像或语音,文本的变化更加复杂,例如从预处理来看,NLP 就要求我们根据对数据的理解定制一种流程。而且相比图像等更偏向感知的智能,自然语言包含更高一级的智能能力,不论是承载思想、情感还是推理。

那么我们该怎样学习自然语言处理,有什么比较好的路线吗?通常而言,在数学和机器学习的基础上,我们还需要了解自然语言的规则与现象,这样才能进一步探讨该怎样处理自然语言。

本文介绍刚刚发布的一个开源项目,韩国庆熙大学本科生 Tae-Hwan Jung 总结了一套 NLP 的技术路线图。值得注意的是,Tae-Hwan Jung 此前已经开源了很多优秀的项目,包括 4.3k+ star 量的 NLP 教程。

  • 项目地址:https://github.com/graykode/nlp-roadmap

Tae-Hwan Jung 表示,本项目面向对 NLP 感兴趣的学生,该路线图提供了学习 NLP 的思维导图及关键词信息,它覆盖了从概率/统计到 SOTA NLP 模型的素材。

如上所示为 NLP 的技术基石,最基础的当然还是数学和算法方面的知识,此外语言学和机器学习知识也必不可少。再往上主要是文本挖掘与 NLP,在作者看来,前者更偏向于常规的算法与浅层机器学习模型,后者更偏向于深度学习模型。

四大技术线路图

如下从概率和统计到深度学习方法展示了四大技术路线图,它们从基石到高层展示了完整的知识领域。

概率与统计

机器学习

文本挖掘

自然语言处理

注意:

  • 关键词之间的关系可能解释得比较模糊,因为是以语义思维导图的方式表示的。 读者们只需要看方框内的关键词就行,把它们当作必学部分;
  • 在一张图中容纳如此多的关键词和知识点,非常的难,因此,请切记该路线图只是一种思路或者建议;

本文分享自微信公众号 - 机器之心(almosthuman2014)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-09-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 手把手教你用飞桨做词向量模型 SkipGram

    在做 NLP 的任务时,一个非常 basic 的操作就是如何编码自然语言中的符号,例如词、短语,甚至词缀。目前流行的方法有大约三种:

    用户1386409
  • DLM:微信大规模分布式n-gram语言模型系统

    Wechat & NUS《A Distributed System for Large-scale n-gram Language Models at Tenc...

    AI科技大本营
  • 从NLP终生学习开始,谈谈深度学习中记忆结构的设计和使用

    终生学习,简单说是让模型有能力持续地学习新的信息,但更重要的是让模型学习新信息的同时还不要完全忘记以往学习过的内容(避免「灾难性遗忘」),是深度学习的长期发展和...

    AI科技评论
  • 要啥给啥的写作AI:新闻评论小说都能编,题材风格随便选,真假难辨,16亿参数模型已开源

    这里“一模”,自然是OpenAI横空出世的GPT-2。但今日更秀的另一模型,来自Salesforce——全球最大的SaaS提供商,虽然之前AI能力展露不多,但这...

    量子位
  • 词转化为词向量

    2013年末,谷歌发布了word2vec工具,引起了热捧,大家几乎都认为它是深度学习在NLP的一项了不起的应用,并且很多互联网公司也开始跟进,使用word2ve...

    opprash
  • 谷歌开放全新自然语言数据集

    近日,谷歌宣布开放两个新的自然语言对话数据集,分别是 Coached Conversational Preference Elicitation(CCPE)和 ...

    AI研习社
  • NLPer,你知道最近很火的自然语言处理库么?

    【磐创AI 导读】:本文介绍了最先进的自然语言处理库——PyTorch-Transformers

    磐创AI
  • BERT, RoBERTa, DistilBERT, XLNet的用法对比

    导读:BERT, RoBERTa, DistilBERT, XLNet到底哪家强?在不同的研究领域和应用场景如何选择成了大难题。凡事莫慌,这篇文章帮你理清思路。

    AI科技评论
  • 【Github】ML-NLP:机器学习、NLP面试中常考到的知识点和代码实现

    此项目是机器学习(Machine Learning)、深度学习(Deep Learning)、NLP面试中常考到的知识点和代码实现,也是作为一个算法工程师必会的...

    代码医生工作室
  • 机器推理系列文章概览:七大NLP任务最新方法与进展

    导读:自然语言处理的发展进化带来了新的热潮与研究问题,研究者们在许多不同的任务中推动机器推理(Machine Reasoning)能力的提升。基于一系列领先的科...

    AI科技大本营

扫码关注云+社区

领取腾讯云代金券