LingPipe:自然语言处理工具包

来源:伯乐在线 - 刘立华

LingPipe是运用计算机语言学处理文本信息的工具包,可用于如下任务:

在新闻中查找人名、组织或位置。

自动分类Twitter搜索结果。

提供查询的正确拼写建议。

架构

LingPipe的架构是有效的、可扩展的、可重用的、健壮的。亮点包括:

Java API源码和单元测试;

多语种、多域、集成型模式;

用新任务的新数据训练;

n最优统计的置信度估计输出;

在线训练;

线程安全模型和并发读同步独占写(concurrent-read exclusive-write)解码器;

字符编码敏感的I/O。

教程列表

主题分类

通过人物语言模型分类新闻文章。

http://alias-i.com/lingpipe/demos/tutorial/classify/read-me.html

命名实体识别

介绍如何运行、训练和评估命名实体识别器。

http://alias-i.com/lingpipe/demos/tutorial/ne/read-me.html

聚类

单连接和完整连接的层次聚类器图,包括各种聚类评估技术。

http://alias-i.com/lingpipe/demos/tutorial/cluster/read-me.html

词性标注

介绍如何从语料库用标签解析器和处理器训练词性标注器,如何编译模型到磁盘并读取,如何运行并评估第一次最佳、第n次最佳及置信得分标注器(confidence-scored taggers)。

http://alias-i.com/lingpipe/demos/tutorial/posTags/read-me.html

句子检测

介绍如何使用分块接口检测语句等。

http://alias-i.com/lingpipe/demos/tutorial/sentences/read-me.html

拼写校正

类似搜索引擎的拼写检查,介绍如何调整和训练模型。

http://alias-i.com/lingpipe/demos/tutorial/querySpellChecker/read-me.html

数据库文本挖掘

第一部分使用MEDLINE引用JDBC填充MySQL数据库。第二部分运行数据库脚本创建表和实体。第三部分介绍如何通过数据库查询做数据库文本挖掘。

http://alias-i.com/lingpipe/demos/tutorial/db/read-me.html

字符串比较

介绍如何使用距离和接近措施结束字符串,包括加权编辑距离,TF/IDF距离等。

http://alias-i.com/lingpipe/demos/tutorial/stringCompare/read-me.html

兴趣短语检测

从一个语料库中统计显著多字词组和相对的“热词”的提取

http://alias-i.com/lingpipe/demos/tutorial/interestingPhrases/read-me.html

人物语言建模

训练和调整人物语言模型。

http://alias-i.com/lingpipe/demos/tutorial/lm/read-me.html

中文分词

介绍了如何细分中文字符成不同的话。

http://alias-i.com/lingpipe/demos/tutorial/chineseTokens/read-me.html

连接符和音节

展示了如何从训练数据字典中训练连字符和音节。例如荷兰语、英语和德语。

http://alias-i.com/lingpipe/demos/tutorial/hyphenation/read-me.html

情感分析

使用语言模型的分类做电影评论的情感分析。

http://alias-i.com/lingpipe/demos/tutorial/sentiment/read-me.html

语言识别

语言识别作为分类问题

http://alias-i.com/lingpipe/demos/tutorial/langid/read-me.html

奇异值分解

使用奇异值分解因子矩阵。解释了如何处理位置值估算、正规化、调优参数设置。

http://alias-i.com/lingpipe/demos/tutorial/svd/read-me.html

逻辑回归

介绍了如何为判别标准估计正规化多项式逻辑回归模型。

http://alias-i.com/lingpipe/demos/tutorial/logistic-regression/read-me.html

期望最大化

介绍了如何为半监督学习(semi-supervised learning)各种任务使用期望最大化。

http://alias-i.com/lingpipe/demos/tutorial/em/read-me.html

词义消歧

词义消歧是根据一个词的上下文确定一个词的含义的过程,用于分类、搜索、聚类等。

http://alias-i.com/lingpipe/demos/tutorial/wordSense/read-me.html

Eclipse

使用Eclipse IDE编译和测试LingPipe的基本说明。

http://alias-i.com/lingpipe/demos/tutorial/eclipse/read-me.html

开发文档

教程

http://alias-i.com/lingpipe/demos/tutorial/read-me.html

下载

http://alias-i.com/lingpipe/web/download.html

API文档

http://alias-i.com/lingpipe/docs/api/index.html

Demos

http://alias-i.com/lingpipe/web/demos.html

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181213B0JIWS00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券