【人工智能】Transformers之Pipeline（二十一）：翻译（translation）

LDG_AGI

发布于 2024-11-21 13:50:22

15600

代码可运行

文章被收录于专栏：人工智能极简应用

运行总次数：0

代码可运行

一、引言

首先，在这里祝大家1024程序员节快乐！很高兴能在CSDN认识大家。

今年5月6日，职场焦虑的我在CSDN发布了第一篇文章，5月26日第一次上热榜后，每一篇基本上都进入榜单前5，3个月后，8月25日达到2万粉。

逐渐养成习惯，在CSDN写文章成了缓解焦虑的有效手段，你们的关注让我充满成就感，感谢大家的关注。今天继续给大家分享transformers中的pipeline，期待您的三连。

pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型

今天介绍NLP自然语言处理的第九篇：翻译（translation），在huggingface库内有5000个翻译（translation）。

二、翻译（translation）

2.1 概述

翻译，顾名思义，是将文本从一种语言转换为另一种语言的任务。。

2.2 Google/T5

T5（Text-To-Text Transfer Transformer）是由google研究团队提出的一种统一的自然语言处理模型，它的核心理念是将所有的 NLP 任务转换为一种 “text到text” 的形式，这样所有的任务都可以用相同的框架进行处理。T5 模型在多个自然语言理解和生成任务上取得了非常优异的效果，展现了强大的通用性和迁移学习能力。

与 BERT 对比：BERT 是一个encoder模型，主要用于理解类任务，而 T5 是完整的编码器-解码器架构，不仅可以处理理解类任务，还可以生成文本。这使得 T5 在生成类任务中具有显著优势。
与 GPT 对比：GPT 是基于decoder的模型，专注于生成任务，T5 则使用编码器-解码器架构，能够更好地处理输入和输出双向的复杂任务。

2.3 pipeline参数

2.3.1 pipeline对象实例化参数

model（PreTrainedModel或TFPreTrainedModel）— 管道将使用其进行预测的模型。对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从 TFPreTrainedModel继承。
tokenizer ( PreTrainedTokenizer ) — 管道将使用其对模型的数据进行编码的 tokenizer。此对象继承自 PreTrainedTokenizer。
modelcard（str或ModelCard，可选） — 属于此管道模型的模型卡。
framework（str，可选）— 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。
task（str，默认为""）— 管道的任务标识符。
num_workers（int，可选，默认为 8）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。
batch_size（int，可选，默认为 1）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。
args_parser（ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。
device（int，可选，默认为 -1）— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太
torch_dtype（str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）
binary_output（bool，可选，默认为False）——标志指示管道的输出是否应以序列化格式（即 pickle）或原始输出数据（例如文本）进行。

2.3.2 pipeline对象使用参数

args（str或List[str]）——要翻译的文本。
return_tensors（bool，可选，默认为False）— 是否在输出中包含预测张量（作为标记索引）。
return_text（bool，可选，默认为True）— 是否在输出中包含解码后的文本。
clean_up_tokenization_spaces（bool，可选，默认为False）—是否清理文本输出中可能出现的额外空格。
src_lang（str，可选）— 输入的语言。多语言模型可能需要。对单对翻译模型没有任何影响
tgt_lang（str，可选）— 所需输出的语言。多语言模型可能需要。对单对翻译模型没有任何影响generate_kwargs — 传递给模型生成方法的附加关键字参数（请参阅此处与您的框架相对应的生成方法）。

2.3.3 pipeline返回参数

Translation_text（str，出现时间return_text=True）——翻译。
Translation_token_ids（torch.Tensor或tf.Tensor，当存在时return_tensors=True）— 翻译的标记 ID。

2.4 pipeline实战

基于pipeline的translation_xx_to_yy任务，其translation_xx_to_yy模式为 xx 是源语言代码，yy 是目标语言代码，pipeline的默认模型是t5-base：

import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

from transformers import pipeline
en_fr_translator = pipeline("translation_en_to_fr",model="google-t5/t5-base")
output=en_fr_translator("How old are you?")
print(output)

执行后，自动下载模型文件并进行识别：