腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

语言、知识与人工智能

专栏作者

21

文章

95519

阅读量

183

订阅数

transformer框架概述

导语 transformer这个模型是Attention is all you need ( Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser, Illia Polosukhin) 这篇论文提出的网络框架，发表在NIPS 2017上，本文大致梳理下这个网络的框架结构，和它的一些应用场景。希望有什么错误或者遗漏的地方各位大神可以指出。 1. 框架概述

腾讯知文实验室

2018-08-14

4.7K5

基于段落检索的无监督阅读理解介绍

| 导语阅读理解是当前火热的自然语言处理应用方向之一，但在大多数业务场景下都缺少有效的标注数据，这种情况下常常需要借助传统的信息检索方法。本文总结了TREC-9和TREC-10上几个比较经典的基于段落检索的无监督文档型问答系统，并介绍了这类系统的主要框架。背景在自动对话机器人或是智能客服中，根据用户问题，从文档中寻找可能的答案是一种很常见的需求。当前有很多基于神经网络的阅读理解模型，但是这些模型都需要大量的标注数据进行训练。在很多业务场景下，却常常难以拿到数量足够的监督数据，有时候甚至没有监督数据。

腾讯知文实验室

2018-08-13

1.6K0

基于语言模型的拼写纠错

本文则针对中文拼写纠错进行一个简要的概述，主要分享基于n-gram语言模型和困惑集来做中文拼写纠错的方法。

腾讯知文实验室

2018-07-04

7.4K0

胶囊网络(Capsule Network)在文本分类的探索

最近，Hinton老师等提出了胶囊网络, 用神经元向量代替传统神经网络的单个神经元节点，以dynamic routing的方式去训练这种全新的神经网络。

腾讯知文实验室

2018-06-08

2.7K9

当深度学习遇见自动文本摘要

| 导语随着近几年文本信息的爆发式增长，人们每天能接触到海量的文本信息，如新闻、博客、聊天、报告、论文、微博等。从大量文本信息中提取重要的内容，已成为我们的一个迫切需求，而自动文本摘要（automatic text summarization）则提供了一个高效的解决方案。

腾讯知文实验室

2018-01-25

2.3K2

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态