NLP 标准公开课 CS224N 已经开放一段时间了，相信很多读者已经学了一遍了。最近，斯坦福自然语言理解公开课 CS224u 也开放了，所有课件、代码和视频都已经开放。嗯，是时候该学一波 CS224u 了。
这门面向项目的课程侧重于开发系统和算法，以实现对自然语言的鲁棒机器理解。课程利用了来自语言学、自然语言处理和机器学习的理论概念。本课程还将包含有关项目开发、研究结果呈现以及与业界沟通的特殊课程。
经纬，从事客服机器人的算法研发工作，专注于nlp领域的算法研究和应用，喜欢数据和场景驱动的算法研发。
对话系统是自然语言处理的一个热门话题，而自然语言理解则是对话系统的关键组成部分，现有的很多自然语言理解工具往往以服务的方式获取（Google 的 API.ai, Facebook 的 Wit.ai 等），使用这些服务往往需要向服务提供商提供自己的数据，并且根据自己业务调试模型很不方便。本文为大家介绍了一种新方法，即如何基于 rasa 搭建一个中文对话系统。 在近期 AI 研习社举办的线上免费公开课上，来自北京邮电大学网络技术研究院的张庆恒分享了基于 rasa nlu 构建自己的自然语言理解工具，并结合 r
就目前的 AI 来看，判断某项工作是不是会被机器替代，有俩前提，大前提：可以获得足够的有效数据（能自动生成数据则无敌），也就是说机器有快速进化的基础；小前提：人本身的进化过程没有见过大量的数据，也就是说人的起点并不高。考虑到“自动生成数据”这个关键，我冥思苦想以后发现，还真没准是编程。
NLP研究的是实现人与计算机之间用自然语言进行有效沟通的各种理论与方法。本文整理了NLP领域常用的16个术语，希望可以帮助大家更好地理解这门学科。
自然语言理解就是希望机器像人一样，具备正常人的语言理解能力，由于自然语言在理解上有很多难点(下面详细说明)，所以 NLU 是至今还远不如人类的表现。
导读：随着人工智能技术的发展，智能对话的应用场景越来越多，目前已经成为了研究的热点。天猫精灵，小度小度，腾讯叮当，这些智能助手都是智能对话在业界的应用。智能助手的对话方式可分为三种：任务式对话 ( 用户输入指令，智能助手执行指令任务 )，问答式对话 ( 用户输入问题，智能助手回复答案 )，闲聊式对话。那么智能助手如何理解用户的指令，最终完成指令任务呢？任务型语音对话的处理流程主要包括：语音识别，自然语言理解，对话管理、对话生成，语音合成 ( 图1 )。要理解用户的指令，就需要对用户输入进行自然语言理解，也就是对转换为文本的用户输入进行分析，得到用户的意图和关键信息。在图1中，这一部分由绿色虚线圈出，主要包括领域 ( domain )、意图 ( intent ) 和槽 ( slot ) 的预测。本文主要介绍这一部分，即领域识别、意图识别和槽抽取的主流方法和研究进展。
作为国际最受关注的自然语言处理顶级会议，每年的 ACL 都吸引了大量华人学者投稿、参会。今年的 ACL 大会已是第 60 届，即将于 5 月 22-5 月 27 举办。受到疫情影响，国内 NLP 从业者参与大会受到很多限制。 为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台，机器之心组织了「ACL 2022 线上论文分享会」，定档 5 月 21 日云端相聚。 本次 ACL 论文分享设置了 Keynote、 论文分享、企业招聘等环节，就业内关注的 Transformer、大规模预训练模型等
京东叮咚智能音箱首席科学家。从事语音技术研究领域20余年，现就职于京东叮咚智能音箱技术研发部门，负责语音技术、自然语言理解、机器翻译、产品创新等方面的工作。
1 什么是任务型机器人 任务型机器人指特定条件下提供信息或服务的机器人。通常情况下是为了满足带有明确目的的用户，例如查流量，查话费，订餐，订票，咨询等任务型场景。由于用户的需求较为复杂，通常情况下需分多轮互动，用户也可能在对话过程中不断修改与完善自己的需求，任务型机器人需要通过询问、澄清和确认来帮助用户明确目的。 2 任务型机器人的组成 任务型机器人核心模块主要包括三部分： 1. 自然语言理解模块—— Language Understanding 2. 对话管理模块——
随着人工智能的火热，AAAI、NeurIPS、CVPR 等顶级学术会议的影响力也愈来越大，每年接收论文、参会人数的数量连创新高。 ACL，作为国际最受关注的自然语言处理顶级会议，每年都吸引了大量华人学者投稿、参会，今年的 ACL 大会已是第 60 届，将于 5 月 22-5 月 27 举办。因为疫情原因，国内 NLP 从业者参与大会将受到很大的限制。 为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台，机器之心组织了「ACL 2022 线上论文分享会」，定档 5 月 21 日云端相聚。 本次
自然语言处理（NLP Natural Language Processing）是一种专业分析人类语言的人工智能。就是在机器语⾔和⼈类语言之间沟通的桥梁，以实现人机交流的目的。 在人工智能出现之前，机器智能处理结构化的数据（例如Excel里的数据）。但是网络中 大部分的数据都是非结构化的，例如：文章、图片、音频、视频... 在非结构数据中，文本的数量是最多的，他虽然没有图片和视频占用的空间大，但是他的 信息量是最大的。 为了能够分析和利用这些文本信息，我们就需要利用NLP技术，让机器理解这些文本信息，并加以利用。
随着人工智能的进步，相关技术变得越来越复杂，我们希望现有的概念能够包容这种变化 - 或者改变自己。同理，在自然语言处理领域中，自然语言处理（NLP）的概念是否会让位于自然语言理解（NLU）？ 或者两个概念之间的关系是否变得更微妙，更复杂，抑或只是技术的发展？
来源：机器之心本文约2200字，建议阅读5分钟本文介绍了清华大学、DeepMind等团队在小样本学习方法的最新进展。 以 GPT-3 为代表的预训练语言模型的发展，引发对小样本自然语言理解任务的极大关注。各种方法不断发展并展现出日渐强大的小样本自然语言理解性能。然而，来自清华大学、DeepMind 等团队的研究者近期的一项研究指出：相同基准再评估结果表明，现有小样本学习方法并不足够稳定有效，小样本自然语言理解发展尚面临巨大挑战！ 评价准则的差异极大阻碍了已有小样本学习方法基于统一的标准公平比较，也无法客观评
采访实录：https://docs.google.com/document/d/18NoNdArdzDLJFQGBMVMsQ-iLOowP1XXDaSVRmYN0IyM/edit
“教”计算机理解人类的自然语言这部分工作，称作自然语言理解（Natural Language Understanding, NLU）。
作者出该系列教程的目的是让大家能够掌握深度学习算法在自然语言处理中应用，同时也希望能够加深自己对自然语言处理的理解。
机器之心专栏 清华大学、DeepMind等 以 GPT-3 为代表的预训练语言模型的发展，引发对小样本自然语言理解任务的极大关注。各种方法不断发展并展现出日渐强大的小样本自然语言理解性能。然而，来自清华大学、DeepMind 等团队的研究者近期的一项研究指出：相同基准再评估结果表明，现有小样本学习方法并不足够稳定有效，小样本自然语言理解发展尚面临巨大挑战！ 评价准则的差异极大阻碍了已有小样本学习方法基于统一的标准公平比较，也无法客观评价该领域的真实进展。近期，来自清华大学、DeepMind 等团队研究者在论
自然语言处理 ( NLP , Natural Language Processing ) , 指的是 " 人工智能 “ " 理解 " 和 ” 生成 " 人类语言的能力 , 包括
提示工程是一门精细的艺术，其目的是设计问题或陈述，也称为“提示”，以从人工智能（AI）模型中提取特定的回答。
作为国际最受关注的自然语言处理顶级会议，每年的 ACL 都吸引了大量华人学者投稿、参会。今年的 ACL 大会已是第 60 届，于 5 月 22-5 月 27 日期间举办。 为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台，2022 年 5 月 21 日，机器之心举办了「ACL 2022 论文分享会」线上学术交流活动。 本次 ACL 论文分享设置了 Keynote、 论文分享、企业招聘等环节，就业内关注的 Transformer、大规模预训练模型等 NLP 热门主题邀请顶级专家、论文作者与观众
给出一个包含同形异义词（homonym）的句子，如「He is a great bass player who hates eating bass」，人类可以相当自信地理解前一个「bass」是一种乐器贝斯，后一个「bass」是一种淡水鱼。而 AI 算法很可能无法解决如此简单的文本歧义问题。「威诺格拉德模式」（Winograd Schema，机器需要识别问题中的前指关系，即指出问题中某一代词的先行词）也能难倒 AI 系统。经典例子是「The trophy doesn』t fit in the suitcase because it is too big.」。这句话中，AI 系统很难确定「it」指「trophy」还是「suitcase」。
让计算机理解人类语言 “教”计算机理解人类的自然语言这部分工作，称作自然语言理解（Natural Language Understanding / NLU）。 可以算作自然语言处理（Natural Language Process / NLP）的一部分。 具体要做的事情，就是让计算机“明白”人类正常讲话时使用的语言，而不是几个英文关键字加一堆参数的格式化的指令。 这是怎么做到的呢？让我们先来看看： 人类如何理解自然语言 举个例子，我说“苹果”这个词，你会想到什么？ 一种酸酸甜甜红红绿绿的球状水果，对吧。想
机器之心发布 作者：腾讯QQ浏览器实验室 近日，腾讯 QQ 浏览器实验室研发的预训练模型「神舟」（Shenzhou）在 9 月 19 日的中文语言理解评测 CLUE 榜单上登顶，刷新业界记录，成为首个在中文自然语言理解综合评测数据上超过人类水平的预训练模型。 作为中文语言理解领域最具权威性的测评基准之一，CLUE 涵盖文本相似度、分类、自然语言推理、阅读理解等 10 项语义分析和理解类子任务。QQ浏览器“神舟”模型凭借顶尖的语言理解能力，登顶 CLUE1.0 总榜单 / 分类榜单 / 阅读理解榜，刷新三项
每天给你送来NLP技术干货！ ---- 自然语言理解模块是对话系统中最重要的模块，对于用户输入的语句信息，首先需要通过自然语言理解模块进行处理，该模块主要的功能在于解析并“理解”用户输入的信息，将其转变成计算机可以理解的形式。该过程也可以看作一个信息结构化的过程，用户的输入信息一般表示为如下格式： 如图1所示即为一个用户输入语句经过结构化后的示例，该示例中的意图是希望用户提供手机号码信息，因此“act”为“request”，且当前询问的“slot”为电话信息“phone”，同时“slot”为
作者简介：李航，华为技术有限公司诺亚方舟实验室主任。主要研究方向为信息检索、自然语言处理、机器学习等。本文经作者授权发布。 欢迎人工智能领域技术投稿、约稿、给文章纠错，请发送邮件至heyc@csdn.net 人类的语言具有什么特性？下面是几位最权威学者的看法。 语言是草根现象，它像是维基百科，聚集了数以十万计的人的贡献。当人们要找到更好的表达自己思想方式的时候，就发明了术语、俚语、新说法，其中一部分积累到语言中，这就是我们得到语言的过程。 ——史蒂文·平克(Steven Pinker) 如果语法没有递归结
关键字全网搜索最新排名 【机器学习算法】：排名第一 【机器学习】：排名第一 【Python】：排名第三 【算法】：排名第四 源 | AI深入浅出 最近几个月小编遨游在税务行业的智能问答调研和开发中，里面涉及到了很多的自然语言处理NLP的功能点。虽然接触NLP也有近两年的时间了，现在真正要应用到问答中，避免不了还是需要再重新熟识并深入研究理解。 下面是与NLP相关的一些书籍推荐、课件推荐和开源工具推荐。 主要是记录下入门的资料，由于资料的存储位置没有做规整，所以本文没有附带资源下载链接。如果有同学需要其中的资
本文来源「中国人工智能学会通讯」第11期，感谢作者授权转载。 作者 | 孙健，李永彬，陈海青，邱明辉 过去 20 多年，互联网及移动互联网将人类带到了一个全新的时代，如果用一个词来总结和概括这个时代的话，「连接」这个词再合适不过。这个时代主要建立了四种连接：第一，人和商品的连接；第二，人和人的连接；第三，人和信息的连接；第四，人和设备的连接。 「连接」本身不是目的，它只是为「交互」建立了通道。在人机交互（Human-Computer Interaction）中，人通过输入设备给机器输入相关信号，这些信号包括
在微博和知乎上关注自然语言处理（NLP）技术的朋友，应该都对#NLP太难了#、#自然语言理解太难了#两个话题标签不陌生，其下汇集了各种不仅难煞计算机、甚至让人也发懵的费解句子或歧义引起的笑话。然而，这些例子只是让人直觉计算机理解人类语言太难了，NLP到底难在哪里，还缺少通俗易懂的介绍。最近刚做完会议投稿，这里花些时间总结下我对这个问题的认识，期望对那些感兴趣NLP的同学有些帮助。欢迎批评意见和建议，未来争取不断更新。
“ 精英人才培养计划是一项校企联合人才培养项目，入选学生将受到业界顶尖技术团队与高校导师的联合指导及培养。培养期间，学生将获得3个月以上到访腾讯开展科研访问的机会，基于真实产业问题及海量数据，验证学术理论、加速成果应用转化、开阔研究视野。同时项目组将引进沟通技巧、商业分析、创新思维等定制课程，定期举办线上线下交流活动，全面提升学生综合素质。入选学生还将获得线上实名社群平台“十分精英圈”的在线访问权限，结识志同道合的科研伙伴，获取业界信息及资源。 ” 今年共有10大方向 81个子课题供大家选择 总有一
在人工智能出现之前，机器智能处理结构化的数据（例如 Excel 里的数据）。但是网络中大部分的数据都是非结构化的，例如：文章、图片、音频、视频…
然而，这些程序并非是用人类“自然语言“编写的，像Java、Python、C和C ++语言，始终考虑的是"机器能够轻松理解和处理吗？"
1.为什么知识图谱对于机器实现人工智能如此重要呢？ 知识图谱实现机器认知智能的两个核心能力：“理解”和“解释”。 机器理解数据的本质是建立起从数据到知识库中的知识要素（包括实体、概念和关系）映射的一个
8月2日消息，自然语言处理领域顶级会议ACL2019在意大利弗洛伦萨继续召开。会上滴滴正式宣布开源基于深度学习的语音和自然语言理解模型训练平台DELTA，以进一步帮助AI开发者创建、部署自然语言处理和语音模型，构建高效的解决方案，助力NLP应用更好落地。
ChatGPT 是一款由 OpenAI 开发的人工智能技术驱动的语言模型应用。以下是 ChatGPT 的主要特点和功能：
2022年11月9日，OPPO语音语义研究部融智团队提出的中文预训练大模型CHAOS ，在中文自然语言理解测评基准CLUE上登顶，以30亿参量同时刷新了CLUE总排行榜、CLUE分类任务排行榜和CLUE阅读理解排行榜的最好成绩。其中在“AFQMC，TNEWS，CSL，CHID1.1”4个赛道的成绩超过了人类识别精确准确度，总成绩距离超越人类表现仅差0.1。
在过去的20年中，互联网，把人们带入了一个全新的时代。在这个全新的时代，我们创造出了四种连接方式：一是人和物品之间的连接，二是人与人之间的连接，三是人和信息之间的连接， 四是人和设备之间的连接。连接不是目的，它只是为交互提供相应的服务。对我们每一个人来说，最友好最自然的交流方式就是采用自然语言的方式进行交互。通过自然语言的方式进行交互完成对话系统的设计与实现。
新智元报道 编辑：刘小芹 弗朗西斯 【新智元导读】2018年1月3日，微软亚洲研究院的r-net率先第一个在SQuAD machine reading comprehension challenge 上达到82.650，这意味着在ExactMatch (精准匹配)指标上首次超越人类在2016年创下的82.304。之后两天，阿里巴巴iDST也取得佳绩，刷新F1分数至88.607, 中国AI崛起，中国的自然语言理解研究已经走在世界前列。 2018年1月3日，微软亚洲研究院的r-net率先在SQuAD
AI科技评论按：Facebook的AML和FAIR团队合作进行自然语言处理对自然语言理解进行着合作研究。在2017年4月19日举办的F8开发者大会上，Facebook向公众介绍了他们的研究进展、自然语言理解在Facebook产品中的应用，并且介绍了平民化的自然语言理解平台CLUE，希望依靠大家的力量，继续丰富自然语言理解的应用。 演讲者：Facebook工程主管Benoit Dumoulin，技术项目主管Aparna Lakshmiratan。AI科技评论听译。 （首先上台的是Benoit）大家好，我是Be
摘要：量化是为服务大语言模型（LLMs）不可或缺的技术，最近已经应用到LoRA微调中。在这项工作中，我们关注的是在一个预训练模型上同时应用量化和LoRA微调的情景。在这种情况下，通常会观察到在下游任务性能上的一致差距，即在完全微调和量化加LoRA微调方法之间。为了应对这一问题，我们提出了LoftQ（LoRA微调感知量化），这是一个新颖的量化框架，可以同时对LLM进行量化并找到LoRA微调的适当低秩初始化。这种初始化缓解了量化和全精度模型之间的差异，并显著提高了在下游任务中的泛化性能。我们在自然语言理解、问答、摘要和自然语言生成任务上评估了我们的方法。实验证明我们的方法非常有效，并在具有挑战性的2比特和2/4比特混合精度区域中优于现有的量化方法。
在讨论 GPT-4o 之前，有必要回顾一下 GPT 系列的发展历程。每一代 GPT 模型都代表着人工智能领域的重大进步，从最初的 GPT 到最新的 GPT-4o，每一版本的进步不仅在于参数规模的扩大，还在于算法的优化和应用场景的拓展。
概括地讲，自然语言处理包括两大任务：自然语言文本理解和自然语言文本生成。自然语言文本理解就是让机器洞悉人们所言之意，自然语言文本生成旨在让机器像人一样表达和说话。文本理解的关键在于对已知文本的上下文表征和建模，而文本生成的本质是在文本理解的基础上准确流畅地产生自然语言文本。
桔妹导读：8月2日消息，自然语言处理领域顶级会议ACL2019在意大利弗洛伦萨继续召开。会上滴滴正式宣布开源基于深度学习的语音和自然语言理解模型训练平台DELTA，以进一步帮助AI开发者创建、部署自然语言处理和语音模型，构建高效的解决方案，助力NLP应用更好落地。
作者：宋天龙 链接：https://www.zhihu.com/question/63383992/answer/222718972 来源：知乎
一直以来，大家都在盛传深度学习是工程师的风口，但是对于深度学习和行业的联系却很少被提及。
对话式AI是一种基于自动语音识别（Automatic Speech Recognition，ASR）、文字转语音（Text To Speech，TTS）以及自然语言理解（Natural Language Understanding，NLU）等技术的复杂人工智能系统，能够人机之间实现类似于真人的交互。对话式AI系统能够识别语音和文本、识别语言习惯，并能够以适当的自然语言做出回应。
包括机器学习、计算机视觉、计算机图形学、自然语言处理、语音、数据挖掘、智能问答、机器翻译、软件开发、AI 伦理、商业创新……这些书单里既有最经典的专业书籍，也有一些适合轻快阅读的大众读物。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
