腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

深度学习自然语言处理

专栏作者

1010

文章

1176460

阅读量

161

订阅数

一个1024的MLP，击败了几乎所有的GNN模型

NLP 服务数据结构腾讯云开发者社区

每天给你送来NLP技术干货！ ---- 整理：图神经网络与推荐系统近些年，一些NLP研究者尝试利用GNN来做一些NLP相关的任务。但是，ACL2022一篇论文的实验结果：一个1024的MLP，击败了几乎所有的GNN模型。上述结论来自"Bag-of-Words vs. Graph vs. Sequence in Text Classification: Questioning the Necessity of Text-Graphs and the Surprising Strength of a Wid

2022-09-06

4230

ACL2022 | 引入对比学习给生成的过程中加入负样本的模式使得模型能够有效地学习不同层级上的知识

数据结构 processing python

每天给你送来NLP技术干货！ ---- 作者：支付宝搜索团队来自蚂蚁集团、北大等机构的研究者提出了一种多粒度对比生成方法，设计了层次化对比结构。文本生成任务通常采用 teacher forcing 的方式进行训练，这种训练方式使得模型在训练过程中只能见到正样本。然而生成目标与输入之间通常会存在某些约束，这些约束通常由句子中的关键元素体现，例如在 query 改写任务中，“麦当劳点餐” 不能改成 “肯德基点餐”，这里面起到约束作用的关键元素是品牌关键词。通过引入对比学习给生成的过程中加入负样本的模式使得模

2022-06-09

1K0

薪资不逊 NLP 算法岗，边缘 AI 火了！

编程算法神经网络硬件开发 ide 数据结构

众所周知深度神经网络模型被广泛应用在图像分类、物体检测，目标跟踪等计算机视觉任务中，并取得了巨大成功。然而随着时代发展，人们更加关注深度神经网络的实际应用性能，人工智能技术的一个趋势是在边缘端平台上部署高性能的神经网络模型，并能在真实场景中实时(>30帧)运行。如移动端/嵌入式设备，这些平台的特点是内存资源少，处理器性能不高，功耗受限，这使得目前精度最高的模型根本无法在这些平台进行部署和达到实时运行。由于存储空间和算力资源限制，神经网络模型在移动设备和嵌入式设备上的存储与计算仍然是一个巨大的挑战。

2022-03-16

4850

吐血整理了下AAAI2022中和NLP相关的论文，包括信息抽取、机翻、NER、多模态、数据增强、问答、多语言、KD、文本纠错等

文件存储数据结构 linux

每天给你送来NLP技术干货！ ---- 作者：zenRRan 公众号：深度学习自然语言处理 AAAI2022出来一段时间了，但是好像还没人整理出NLP相关的论文呢，趁着周末最后一天还没过完，吐血整理了一番，需要的收藏即可。其中包括：信息抽取、关系抽取、机器翻译、命名实体识别、多模态、数据增强、智能问答、多语言、知识蒸馏、文本纠错等。信息抽取 OneRel: Joint Entity and Relation Extraction with One Module in One Step Yu-Ming

2022-03-14

1.7K0

关系抽取一步到位！

编程算法数据结构

本文主要详细解读关系抽取SOTA论文Two are Better than One:Joint Entity and Relation Extraction with Table-Sequence Encoders[1]，顺带简要介绍关系抽取的背景，方便完全不了解童鞋。

2021-01-28

1.6K0

图神经网络中的Graph Pooling

数据结构 https 网络安全 node.js 机器学习

https://blog.csdn.net/leviopku/article/details/106949616

2020-11-19

2.4K0

机器学习各领域必读经典综述

数据结构 linux 编程算法深度学习机器学习

机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。

2020-09-30

9750

【ACL2020】使用问题图生成解决multi-hop复杂KBQA

数据结构 apache

目前解决复杂KBQA（Knowledge Base Question Answering）的难点主要在于：问题带限制以及问题里包含有多个关系。这篇文章提出了一个query graph生成方法解决这个问题。

2020-09-29

5860

【KDD20】深度图神经网络专题

数据结构神经网络 css python

图神经网络在处理基于图数据问题方面取得了巨大的成功，受到了广泛的关注和应用。GNNs通常是基于消息传递的方式设计的，本质思想即迭代地聚合邻居信息，而经过

2020-09-22

9620

【KDD 2020】会话推荐系统新进展：基于互信息最大化的多知识图谱语义融合

知识图谱推荐系统数据结构

论文标题： Improving Conversational Recommender Systems via Knowledge Graph based Semantic Fusion

2020-07-15

1.8K0

【ACL2020】SEEK：一种轻量级的知识图谱嵌入框架

数据结构知识图谱

paper：https://arxiv.org/pdf/2005.00856.pdf

2020-07-01

1.3K0

【GNN】大热下的 GNN 研究面临哪些“天花板”？未来的重点研究方向又在哪？

https 数据结构网络安全编程算法神经网络

作为脱胎于图论研究的热门研究领域，图神经网络（GNN）与经典的 WL 算法有诸多相似之处。众所周知，强大的 WL 算法对于聚合函数的单射性质有很强的要求，那么强大的 GNN 应该具备哪些性质呢？研究大热下， GNN 面临哪些“天花板”？未来的重点研究方向又在哪？

2020-05-09

6490

【GNN】一文轻松了解Graph Neural Networks

卷积神经网络数据结构神经网络 https 网络安全

图结构数据在各个领域都很常见，例如{分子、社会、引用、道路}网络等，这些只是可以用图表示的大量数据中的一小部分。随着机器学习的进步，我们见证了在可用数据上应用智能算法的潜力。图神经网络是机器学习的一个分支，它以最有效的方式建立图数据的神经网络。

2020-03-03

1.4K0

2020图机器学习GNN的四大研究趋势

神经网络机器学习深度学习人工智能数据结构

【导读】以图神经网络为代表的图机器学习在近两年成为研究热点之一。近日，图机器学习专家 Sergei Ivanov 为我们解读了他总结出来的 2020 年图机器学习的四大热门趋势，包括图神经网络的理论理解、应用普及、应用、图嵌入框架，并通过21篇论文阐述！

2020-02-18

8700

【论文】2019年各大顶会神经关系抽取（NRE）优质论文整理分享

数据结构 NLP 服务

本资源整理了2019年ACL, EMNLP, COLING, NAACL, AAAI, IJCAI等各类AI顶会中，一些神经网络关系提取（Neural Relation Extraction）相关的优质论文，文末根据关键词分类。

2020-02-18

9710

【GNN】图神经网络综述

卷积神经网络数据结构神经网络机器学习人工智能

本篇文章是对论文“Wu Z , Pan S , Chen F , et al. A Comprehensive Survey on Graph Neural Networks[J]. 2019.“”的翻译与笔记

2020-02-18

1.5K0

本周论文推荐（12.14-12.20）

数据结构神经网络深度学习人工智能机器学习

下面论文列表为本小组同学推荐和整理，关于论文细节请联系论文作者。内容涵盖以下研究方向：对抗生成网络、知识图谱补全、推荐系统、文本生成、元学习。

2019-12-26

7590

【GNN】一文读懂图卷积GCN

数据结构编程算法 https 网络安全卷积神经网络

“ 本文的内容包括图卷积的基础知识以及相关辅助理解的知识点，相信同学们看完后一定能平滑上手理解GCN！”

2019-12-26

3K0

一文读懂简化的图卷积网络GCN（SGC）| ICML 2019

3.2 SGC and Low-Pass Filtering 简化的图卷积和低通滤波器

2019-11-12

2.8K0

【图神经网络】向往的GAT（图注意力模型）

node.js 数据结构编程算法

https://zhuanlan.zhihu.com/c_1131513793020334080

2019-09-29

3.9K0

点击加载更多

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态