深度学习自然语言处理

549 篇文章
313K 次阅读
119 人订阅

全部文章

zenRRan

清华提出:用于细粒度实体分类的Prompt-Learning,并提出可训练Prompt模板

提示学习(Prompt-learning)一个有效的tune预训练模型到特定任务上的方法,最近受到了各方学者的关注。

9810
zenRRan

ACL 2021 | 预训练模型的改进与应用

论文地址:https://arxiv.org/pdf/2106.16038.pdf

10050
zenRRan

ACL2021 | 一种巧妙解决NER覆盖和不连续问题的方法

由于普通的NER问题被研究的透透的了,本文主要解决一种稍微复杂些问题:一种带有覆盖和不连续(Overlapped and Discontinuous)的命名实体...

9320
zenRRan

ACL2021 | CMU和北邮联合提出的DualGCN在基于Aspect的情感分析任务上达到了SOTA

基于aspect的情感分析是细粒度情感分析的一个重要子任务。最近,GNN在已经成功的探索通过模型连接aspect和opinion words。但是,由于依存关系...

5610
zenRRan

【ACL 2021】开放域对话结构发现

从真实人-人对话中学习离散的对话结构图,有助于人们理解对话规律,同时也可以为生成通顺对话提供背景知识。然而,当前在开放域对话下,这一问题仍然缺乏研究。在本文中,...

12240
zenRRan

这篇文章告诉你,如何用阅读理解来做NER!

之前做过实体关系抽取/联合抽取等任务,是用LSTM+CRF模型+BIO标注的方法,最近看到有一篇ACL用MRC(Machine Reading Comprehe...

13140
zenRRan

位置编码在注意机制中的作用

A. Vaswani等人的《Attention Is All You Need》被认为是解决了众所周知的LSTM/RNN体系结构在深度学习空间中的局限性的突破之...

11630
zenRRan

2021 年了,TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗?

现在各大顶会开源代码没有一丝丝的tensorflow2.x,就连谷歌家自己的论文也是只有torch和jax。零零星星一些tf1的开源代码。

16220
zenRRan

开放域信息抽取最新动向

2020年,自然语言处理领域顶级的国际学术会议EMNLP(Conference on Empirical Methods in Natural Language...

26730
zenRRan

生成式预训练之MASS

今天和大家一起简单回顾一下2019年发表的《MASS: Masked Sequence to Sequence Pre-training for Languag...

14330
zenRRan

细粒度情感分析:还在用各种花式GNN?或许只用RoBERTa就够了

知乎:https://zhuanlan.zhihu.com/p/366133681

22930
zenRRan

【实践】Pytorch nn.Transformer的mask理解

pytorch也自己实现了transformer的模型,不同于huggingface或者其他地方,pytorch的mask参数要更难理解一些(即便是有文档的情况...

36720
zenRRan

【前沿】Purdue&UCLA提出梯度Boosting网络,效果远好于XGBoost模型!

Gradient Boosting Neural Networks: GrowNet

13030
zenRRan

【机器学习】一文看懂贝叶斯优化/Bayesian Optimization

今天想谈的问题是:什么是贝叶斯优化/Bayesian Optimization,基本用法是什么?

15220
zenRRan

Transformer的一家!

而关于attention和self-attention存在非常多的形式,我们之前常见的Transformer是依赖于scaled-dot-product的形式,...

13810
zenRRan

FastFormers:实现Transformers在CPU上223倍的推理加速

自BERT紧随Transformer诞生以来,几乎在所有与语言相关的任务中都占据着主导地位,无论是问答、情感分析、文本分类还是文本生成。与RNN和LSTM不一样...

19810
zenRRan

关系抽取一步到位!

本文主要详细解读关系抽取SOTA论文Two are Better than One:Joint Entity and Relation Extraction w...

31131
zenRRan

【ACL2020】CESTa, 将对话中的情感分类任务建模为序列标注任务

论文:Contextualized Emotion Recognition in Conversation as Sequence Tagging

11720
zenRRan

计算广告之在线广告市场和背景

在线广告,指的是在线媒体上投放的广告。与传统广告不同的是,在线广告在其十几年的发展过程中,已经形成了以人群为投放目标、以产品为导向的技术型投放模式。

19210
zenRRan

【ACL2020】基于语境的文本分类弱监督学习

paper: Contextualized Weak Supervision for Text Classification

21120

扫码关注云+社区

领取腾讯云代金券