【人工智能】Transformers之Pipeline（二十四）：文本特征抽取（feature-extraction）

一、引言

pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型

今天介绍多模态的第二篇：特征抽取（feature-extraction），在huggingface库内有1万个文档特征抽取（feature-extraction）模型。

二、特征抽取（feature-extraction）

2.1 概述

特征抽取（feature-extraction）用途非常广泛，指将文本、语音、图片、视频抽帧等多模态内容向量化，在内容相似比对、推荐模型、迁移学习、检索排序、RAG等场景非常常用。

2.2 Facebook/bart-base

BART（Bidirectional and Auto-Regressive Transformers），一种用于预训练序列到序列模型的去噪自动编码器。BART 的训练方式是 (1) 使用任意噪声函数破坏文本，以及 (2) 学习模型以重建原始文本。它使用基于标准 Tranformer 的神经机器翻译架构，尽管它很简单，但可以看作是 BERT（由于双向编码器）、GPT（使用从左到右的解码器）和许多其他较新的预训练方案的泛化。

• GPT是一种Auto-Regressive(自回归)的语言模型。它也可以看作是Transformer model的Decoder部分，它的优化目标就是标准的语言模型目标：序列中所有token的联合概率。GPT采用的是自然序列中的从左到右（或者从右到左）的因式分解。
• BERT是一种Auto-Encoding(自编码)的语言模型。它也可以看作是Transformer model的Encoder部分，在输入端随机使用一种特殊的[MASK]token来替换序列中的token，这也可以看作是一种noise，所以BERT也叫Masked Language Model。
• BART吸收了BERT的bidirectional encoder和GPT的left-to-right decoder各自的特点，建立在标准的seq2seq Transformer model的基础之上，这使得它比BERT更适合文本生成的场景；相比GPT，也多了双向上下文语境信息。

2.3 pipeline参数

2.3.1 pipeline对象实例化参数

• model（PreTrainedModel或TFPreTrainedModel）— 管道将使用其进行预测的模型。 对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从TFPreTrainedModel继承。
• tokenizer ( PreTrainedTokenizer ) — 管道将使用 tokenizer 来为模型编码数据。此对象继承自 PreTrainedTokenizer。
• modelcard（str或ModelCard，可选） — 属于此管道模型的模型卡。
• framework（str，可选）— 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。
• task（str，默认为""）— 管道的任务标识符。
• num_workers（int，可选，默认为 8）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。
• batch_size（int，可选，默认为 1）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。
• args_parser（ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。
• device（int，可选，默认为 -1）— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太
• torch_dtype（str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）
• tokenize_kwargs（dict，可选） - 传递给标记器 (tokenizer) 的关键字参数的附加词典。
• return_tensors ( bool，可选) — 如果True，则根据指定的框架返回一个张量，否则返回一个列表。

2.3.2 pipeline对象使用参数

• args（str或List[str]）—— 要获取特征的一个或多个文本（或一个文本列表）。

2.4 pipeline实战

基于pipeline的特征抽取（feature-extraction）任务，采用facebook/bart-base进行文本特征抽取，代码如下：

import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

from transformers import pipeline
feature_extractor = pipeline("feature-extraction", framework="pt", model="facebook/bart-base")
text = "Transformers is an awesome library!"

output=feature_extractor(text,return_tensors = "pt")
print(output)

执行后，自动下载模型文件并进行识别：

2.5 模型排名

在huggingface上，我们将文本特征抽取（feature-extraction）模型按下载量从高到低排序，总计1万个模型，bart排名第三。

​​​​​​​

三、总结

本文对transformers之pipeline的文本特征抽取（feature-extraction）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用多模态中的文本特征抽取（feature-extraction）模型。