基于rapidminer的支持向量机多标签分类
基于rapidminer的支持向量机多标签分类
提问于 2013-06-23 01:09:29
我想使用带有Rapidminer工具的分类器模型SVM对文本数据进行分类。分类将是多类型的。由于我的数据是文本类型，因此如何使用SVM进行这种分类。我知道支持向量机只能处理数字数据。
回答 2
Stack Overflow用户
发布于 2013-06-24 18:05:02
你正在寻找的缺失部分被称为“单词向量”。基本上，您必须创建一个新的示例集，其中单个属性将表示单个单词。对于给定的示例(即文档)，该属性的(数值)值将显示该单词对该文档的“重要性”。
一种简单的方法是使用文档中的单词计数，但通常您应该使用TD-IDF (术语频率-反向文档频率)，它将考虑整个文档语料库。
要在RapidMiner中做到这一点，您必须安装文本挖掘扩展并使用“处理数据中的文档”或“处理文件中的文档”之类的运算符。请记住，对于文本挖掘，您将需要执行更多的预处理步骤，如创建标记、删除停用词(在几乎所有文档中都可以找到的常用词，因此帮助不大)，并使用词的词干(因此"word“和”word“将被同等对待)。
下面是一个小示例：
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<process version="5.3.009">
<context>
<input/>
<output/>
<macros/>
</context>
<operator activated="true" class="process" compatibility="5.3.009" expanded="true" name="Process">
<process expanded="true">
<operator activated="true" class="text:create_document" compatibility="5.3.000" expanded="true" height="60" name="Create Document" width="90" x="45" y="75">
<parameter key="text" value="I want to classify text data using classifier model SVM with Rapidminer tool. Classification would be of multilable type. Since my data is of text type, how SVM can be used for this classification. I know that SVM works with numeric data only."/>
</operator>
<operator activated="true" class="text:create_document" compatibility="5.3.000" expanded="true" height="60" name="Create Document (2)" width="90" x="45" y="165">
<parameter key="text" value="The missing piece you are looking for is called "word vector". Basically you have to create a new example set for which the attributes will represent the words. For a given example (i.e. a document) the (numerical) value for this attribute will show the "importance" of this word for this document. A naive approach would be to use the count of the word within the document, but typically you should use TD-IDF (term frequency–inverse document frequency) which will take the whole document corpus into account as well. To do this in RapidMiner you have to install the text mining extension and use operators like "Process Documents from Data" or "Process Documents from Files". Keep in mind that for text mining you will need to conduct more preprocessing steps like creating tokens, removing stop words (common words which you can find in nearly all documents and which are therefore not very helpful) and use the stem of the words (so "word" and "words" will be treated equally). Here is a small example:"/>
</operator>
<operator activated="true" class="text:process_documents" compatibility="5.3.000" expanded="true" height="112" name="Process Documents" width="90" x="179" y="75">
<process expanded="true">
<operator activated="true" class="text:tokenize" compatibility="5.3.000" expanded="true" height="60" name="Tokenize" width="90" x="45" y="30"/>
<operator activated="true" class="text:filter_stopwords_english" compatibility="5.3.000" expanded="true" height="60" name="Filter Stopwords (English)" width="90" x="179" y="30"/>
<operator activated="true" class="text:stem_porter" compatibility="5.3.000" expanded="true" height="60" name="Stem (Porter)" width="90" x="313" y="30"/>
<connect from_port="document" to_op="Tokenize" to_port="document"/>
<connect from_op="Tokenize" from_port="document" to_op="Filter Stopwords (English)" to_port="document"/>
<connect from_op="Filter Stopwords (English)" from_port="document" to_op="Stem (Porter)" to_port="document"/>
<connect from_op="Stem (Porter)" from_port="document" to_port="document 1"/>
<portSpacing port="source_document" spacing="0"/>
<portSpacing port="sink_document 1" spacing="0"/>
<portSpacing port="sink_document 2" spacing="0"/>
</process>
</operator>
<connect from_op="Create Document" from_port="output" to_op="Process Documents" to_port="documents 1"/>
<connect from_op="Create Document (2)" from_port="output" to_op="Process Documents" to_port="documents 2"/>
<connect from_op="Process Documents" from_port="example set" to_port="result 1"/>
<portSpacing port="source_input 1" spacing="0"/>
<portSpacing port="sink_result 1" spacing="0"/>
<portSpacing port="sink_result 2" spacing="0"/>
</process>
</operator>
</process>顺便说一句，youtube上也有一些很好的RapidMiner文本挖掘教程。
Stack Overflow用户
发布于 2014-01-22 17:53:32
这个问题可能有点老了，但也许还有更多像我这样的人，只是在试验Rapidminer，希望能解决完全相同的问题。
我猜关于使用Rapidminer的插件“文本挖掘扩展”处理文本的第一部分已经被maerch很好地解释了一段时间。但考虑到kailash的评论，主要问题似乎是二项式SVM模型和多项式输入/标签集之间的不兼容性。
支持向量机模型的实际馈送是通过添加元操作符“二项式分类多项式”作为支持向量机的包装器来完成的。它多次合并输入类(在某种程度上，您可以使用“分类策略”参数进行选择)，以便始终有两个输入组，并将它们提供给SVM，直到可以导出组合结果。然后，所得到的模型能够处理多个类。
下面的流程片段演示了一个SVM (默认参数)及其Poly2Bi-Wrapper：
<process expanded="true">
<operator activated="true" class="polynomial_by_binomial_classification" compatibility="5.3.015" expanded="true" height="76" name="Polynominal by Binominal Classification" width="90" x="112" y="120">
<parameter key="classification_strategies" value="1 against all"/>
<parameter key="random_code_multiplicator" value="2.0"/>
<parameter key="use_local_random_seed" value="false"/>
<parameter key="local_random_seed" value="1992"/>
<process expanded="true">
<operator activated="true" class="support_vector_machine_linear" compatibility="5.3.015" expanded="true" height="76" name="SVM (Linear)" width="90" x="179" y="210">
<parameter key="kernel_cache" value="200"/>
<parameter key="C" value="0.0"/>
<parameter key="convergence_epsilon" value="0.001"/>
<parameter key="max_iterations" value="100000"/>
<parameter key="scale" value="true"/>
<parameter key="L_pos" value="1.0"/>
<parameter key="L_neg" value="1.0"/>
<parameter key="epsilon" value="0.0"/>
<parameter key="epsilon_plus" value="0.0"/>
<parameter key="epsilon_minus" value="0.0"/>
<parameter key="balance_cost" value="false"/>
<parameter key="quadratic_loss_pos" value="false"/>
<parameter key="quadratic_loss_neg" value="false"/>
</operator>
<connect from_port="training set" to_op="SVM (Linear)" to_port="training set"/>
<connect from_op="SVM (Linear)" from_port="model" to_port="model"/>
<portSpacing port="source_training set" spacing="0"/>
<portSpacing port="sink_model" spacing="0"/>
</process>
</operator>
<connect from_port="training" to_op="Polynominal by Binominal Classification" to_port="training set"/>
<connect from_op="Polynominal by Binominal Classification" from_port="model" to_port="model"/>
<portSpacing port="source_training" spacing="0"/>
<portSpacing port="sink_model" spacing="0"/>
<portSpacing port="sink_through 1" spacing="0"/>
</process>请注意，当在验证操作符的训练区域内以这种方式使用Poly2Bi操作符，并且在测试区域中有性能操作符时，(至少)版本5.3.015的RapidMiner会出现问题。将出现Performance操作符的错误消息：
标签和预测必须属于同一类型，但分别是多义词和名词性的。
但是在RapidMiner论坛中，他们point out说这似乎是一个你可以忽略的无用警告。在我的例子中，这个过程也运行得很好。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/17253246
复制相关文章
相似问题
腾讯云开发者
