专栏首页机器学习AI算法工程文本相似度,文本匹配模型归纳(附代码)

文本相似度,文本匹配模型归纳(附代码)

本文将会整合近几年来比较热门的一些文本匹配模型,并以QA_corpus为测试基准,分别进行测试,代码均采用tensorflow进行实现,每个模型均会有理论讲解与代码实现。

项目代码与论文讲解都在持续更新中

DSSM详解

https://blog.csdn.net/u012526436/article/details/90212287

ESIM详解

https://blog.csdn.net/u012526436/article/details/90380840

ABCNN详解

https://blog.csdn.net/u012526436/article/details/90179481

BiMPM详解

https://blog.csdn.net/u012526436/article/details/88663975

DIIN详解

https://blog.csdn.net/u012526436/article/details/90710925

DRCN详解

https://blog.csdn.net/u012526436/article/details/90757018

数据集为QA_corpus,训练数据10w条,验证集和测试集均为1w条

其中对应模型文件夹下的args.py文件是超参数

训练: python train.py

测试: python test.py

词向量:不同的模型输入不一样,有的模型的输入只有简单的字向量,有的模型换成了字向量+词向量,甚至还有静态词向量(训练过程中不进行更新)和 动态词向量(训练过程中更新词向量),所有不同形式的输入均以封装好,调用方法如下

静态词向量,请执行 python word2vec_gensim.py,该版本是采用gensim来训练词向量

动态词向量,请执行 python word2vec.py,该版本是采用tensorflow来训练词向量,训练完成后会保存embedding矩阵、词典和词向量在二维矩阵的相对位置的图片, 如果非win10环境,由于字体的原因图片可能保存失败

测试集结果对比:


本文分享自微信公众号 - 机器学习AI算法工程(datayx)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2021-01-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 杂乱文本按”相似度“进行匹配?Power Query实现不难!

    最近,碰到好多个在问怎么实现两列杂乱文本按“相似度”进行匹配的问题。也有大神给出一些VBA的解法——其实这个问题的关键不在于用Power Quer...

    大海Power
  • 计算机视觉"新"范式: Transformer | NLP和CV能用同一种范式来表达吗?

    自从Transformer出来以后,Transformer便开始在NLP领域一统江湖。

    AI科技评论
  • LSF-SCNN:一种基于 CNN 的短文本表达模型及相似度计算的全新优化模型

    本篇文章是我在读期间,对自然语言处理中的文本相似度问题研究取得的一点小成果。有任何问题,欢迎交流。

    全球人工智能
  • 448页伊利诺伊大学《算法》图书【附PDF资料】

    本书是Jeff Erickson即将出版的免费电子教科书《算法》,以及他自1998年以来为伊利诺伊大学厄巴纳香槟分校各种计算机理论课程撰写的其他课堂讲义笔记。

    马上科普尚尚
  • PAMI-2021:5篇顶级GNN论文

    PAMI(IEEE Transactions on Pattern Analysis and Machine Intelligence),IEEE模式分析与机器...

    Houye
  • 《机器学习》-- 第一章

    机器学习是这样一门学科,它致力于研究如何通过计算的手段,利用经验来改善系统自身的性能,在计算机系统中,“经验”通常以“数据”形式存在,因此,机器学习所研究的主要...

    fireWang
  • 搭建LSTM(深度学习模型)做文本情感分类的代码

    传统的文本情感分类思路简单易懂,而且稳定性也比较强,然而存在着两个难以克服的局限性: 一、精度问题,传统思路差强人意,当然一般的应用已经足够了,但是要进一步提高...

    机器学习AI算法工程
  • 专栏 | 云脑科技-实习僧文本匹配模型及基于百度PaddlePaddle的应用

    机器之心
  • NLP详细教程:手把手教你用ELMo模型提取文本特征,附代码&论文

    我致力于研究自然语言处理(NLP)领域相关问题。每个NLP问题都是一次独特的挑战,同时又反映出人类语言是多么复杂、美丽又绝妙。

    Datawhale
  • 章节/情景式学习并非必需?用于少样本学习的联合双路度量

    原文:Wang Z , Zhao Y , Li J , et al. Cooperative Bi-path Metric for Few-shot Learn...

    智能生信
  • 能用数学归纳法做证明题的 Wolfram|Alpha

    世界第一个不受语法束缚的基于数学归纳法的Proof Generator于2016年在 Wolfram|Alpha上闪亮登场,它的设计和创建离不开创意、行动力和优...

    WolframChina
  • 新冠疫情相似句对判定,快速匹配准确答案

    面对疫情抗击,疫情知识问答应用得到普遍推广。如何通过自然语言技术将问答进行相似分类仍然是一个有价值的问题。如识别患者相似问题,有利于理解患者真正诉求,帮助快速匹...

    机器学习AI算法工程
  • Transformer+CNN=sota!上限和下限都很高,Facebook AI一个门控就搞定

    不管是CNN还是Transformer,他们都不是「完美」的模型,一个重视局部特征,一个关注全局特征。

    新智元
  • 学界 | 谁来拯救集体失灵的NLP模型?

    机器能够像人类一样阅读文档并回答问题,确定某一给定的语句是否在语义上蕴含另一给定的语句,还能处理翻译任务。更重要的是,机器的表现甚至优于人类。

    大数据文摘
  • 只要200行JavaScript代码,就能把特斯拉汽车带到您身边

    Jerry的前一篇文章 如何使用JavaScript开发AR(增强现实)移动应用 (一) 介绍了用React-Native + ViroReact开发增强现实应...

    Jerry Wang
  • LeCun 提出基于能量的生成对抗网络,ICLR-17 重新审视 GAN

    【新智元导读】LeCun对对抗生成网络(GAN)的盛赞大家都很熟悉了。在这篇新的论文中,LeCun等人将两类无监督学习方法——GAN和自编码器结合在一起,并从替...

    新智元
  • 【干货】基于注意力机制的神经匹配模型用于短文本检索

    【导读】在基于检索的问答系统中,很重要的一步是将检索到的答案进行排序得到最佳的答案。在检索到的答案比较短时,对答案进行排序也成为了一个难题。使用深度学习的方法,...

    WZEARW
  • 让AI自行编写程序:神经程序合成近期研究进展综述

    机器之心
  • 【方法论】机器学习算法概览

    工作机制:这个算法由一个目标变量或结果变量(或因变量)组成。这些变量由已知的一系列预示变量(自变量)预测而来。利用这一系列变量,我们生成一个将输入值映射到期望输...

    昱良

扫码关注云+社区

领取腾讯云代金券