NLP+2vec︱认识多种多样的2vec向量化模型

1、word2vec

耳熟能详的NLP向量化模型。 Paper: https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf

Java: http://deeplearning4j.org/word2vec

C++: https://github.com/jdeng/word2vec

Python:

https://radimrehurek.com/gensim/models/word2vec.html https://github.com/danielfrg/word2vec

2、doc2vec

Paper: https://cs.stanford.edu/~quocle/paragraph_vector.pdf

Python: https://radimrehurek.com/gensim/models/doc2vec.html

word2vec模型对词向量进行平均处理,我们仍然忽略了单词之间的排列顺序对情感分析的影响。即上述的word2vec只是基于词的维度进行”语义分析”的,而并不具有上下文的”语义分析”能力。

  作为一个处理可变长度文本的总结性方法,Quoc Le 和 Tomas Mikolov 提出了 Doc2Vec方法。除了增加一个段落向量以外,这个方法几乎等同于 Word2Vec。和 Word2Vec 一样,该模型也存在两种方法:Distributed Memory(DM) 和 Distributed Bag of Words(DBOW)。DM 试图在给定上下文和段落向量的情况下预测单词的概率。在一个句子或者文档的训练过程中,段落 ID 保持不变,共享着同一个段落向量。DBOW 则在仅给定段落向量的情况下预测段落中一组随机单词的概率。 (参考:Algorithm & NLP] 文本深度表示模型——word2vec&doc2vec词向量模型

3、tweet2vec

Paper: https://arxiv.org/abs/1605.03481

Python: https://github.com/bdhingra/tweet2vec

一些社交文本中的语言结构跟书面语大不相同,所以作者别出心裁的特意做了一个基于字符组合的模型,其可以基于整个微博环境下复杂、非正常语言的字符串中学习到一种向量化的表达方式。

4、batter-pitcher-2vec

Python: https://github.com/airalcorn2/batter-pitcher-2vec

5、illustration-2vec

Python: https://github.com/rezoo/illustration2vec

6、lda2vec

Paper: https://arxiv.org/pdf/1605.02019v1.pdf

Slideshare: http://www.slideshare.net/ChristopherMoody3/word2vec-lda-and-introducing-a-new-hybrid-algorithm-lda2vec-57135994

Python: https://github.com/cemoody/lda2vec

将LDA与word2vec相结合,LDA是我比较在意的研究方向,这个模型很早提出,不过应用地倒是不多。

lda2vec the topics can be ‘supervised’ and forced to predict another target.

7、sentence2vec

Python: https://github.com/klb3713/sentence2vec

8、wiki2vec

Java/Scala: https://github.com/idio/wiki2vec

9、topicvec

Paper: http://bigml.cs.tsinghua.edu.cn/~jun/topic-embedding.pdf

Python: https://github.com/askerlee/topicvec

10、entity2vec

Python: https://github.com/ot/entity2vec

Paper: http://www.di.unipi.it/~ottavian/files/wsdm15_fel.pdf

11、str2vec

Python: https://github.com/pengli09/str2vec

12、node2vec

Paper: https://arxiv.org/abs/1607.00653

Page: https://snap.stanford.edu/node2vec/

Python: https://github.com/aditya-grover/node2vec

可见:笔记︱基于网络节点的node2vec、论文、算法python实现

13、item2vec

Paper: https://arxiv.org/abs/1603.04259

14、author2vec

Paper: https://www.microsoft.com/en-us/research/publication/author2vec-learning-author-representations-by-combining-content-and-link-information/

15、playlist-to-vec

Python: https://github.com/mattdennewitz/playlist-to-vec

16、sense2vec

Paper: https://arxiv.org/abs/1511.06388

17、med2vec

Paper: https://arxiv.org/abs/1602.05568

Python: https://github.com/mp2893/med2vec

SCODE Word Embeddings using Substitute Words

Python: https://github.com/ai-ku/wvec

18、game2vec

Python: https://github.com/warchildmd/game2vec

19、paper2vec

Paper: https://arxiv.org/pdf/1703.06587.pdf

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏算法channel

机器学习|K-Means算法

01 — K-Means算法 在数据挖掘中,K-Means算法是一种 cluster analysis 的算法,主要通过不断地取离种子点最近均值的算法。 如下...

35960
来自专栏AI科技评论

科普|机器学习中决策树的原理与算法

AI科技评论按:本文作者栗向滨,中科院自动化所复杂系统国家重点实验室研究生毕业,机器学习与计算机视觉方向算法工程师。雷锋网首发文章。 我们知道,在机器学习中有两...

39260
来自专栏大数据文摘

揭秘自编码器,一种捕捉数据最重要特征的神经网络(视频+代码)

18870
来自专栏AI2ML人工智能to机器学习

易图秒懂の深度学习诞生 问题篇

认知科学改写了一帮搞物理的人在做神经网络的局面(参考 ”易图秒懂の连接主义诞生“), 从此以心理学大师Estes的学生,Rumelhart为代表的连接主义的早...

10810
来自专栏AI启蒙研究院

【读书笔记】之概率统计知识梳理

12930
来自专栏AI2ML人工智能to机器学习

变分の美

变分法(Variational method)已经成为微积分后主流的分析工具, 在物理和应用数学有着极大的功能。 变分法的诞生起源于最强大的数学家家族两个兄弟之...

14510
来自专栏AI研习社

从聚合-转移框架浅谈卷积神经网络的架构设计

本次Paper Reading我们并没有关注某些特定的paper,而是用一个视角对现有的代表性的卷积神经网络设计进行总结。

16220
来自专栏互联网杂技

机器学习预备知识之概率论(上)

随着Hadoop等处理大数据技术的出现和发展,机器学习也越来越走进人们的视线。其实早在Hadoop之前,机器学习和数据挖掘早已经作为单独的学科而存在,那为什么在...

38060
来自专栏量化投资与机器学习

从Seq2seq到Attention模型到Self Attention(一)

近一两年,注意力模型(Attention Model)是深度学习领域最受瞩目的新星,用来处理与序列相关的数据,特别是2017年Google提出后,模型成效、复杂...

64940
来自专栏杨熹的专栏

如何自动生成文本摘要

学习资料: https://www.youtube.com/watch?v=ogrJaOIuBx4&list=PL2-dafEMk2A7YdKv4XfKpfb...

46450

扫码关注云+社区

领取腾讯云代金券