pipeline(管道)是huggingface transformers库中一种极简方式使用大模型推理的抽象,将所有大模型分为音频(Audio)、计算机视觉(Computer vision)、自然语言处理(NLP)、多模态(Multimodal)等4大类,28小类任务(tasks)。共计覆盖32万个模型
今天介绍NLP自然语言处理的第六篇:文本生成(text-generation),在huggingface库内有13.4万个文本生成(text-generation))模型,当仁不让为最重要的task,当前主流的大语言模型,比如国外的llama3、gemma、Phi、GPT,国内的Qwen、Baichuan都属于这个任务。
生成文本是根据一段文本生成新文本的任务。例如,这些模型可以填充不完整的文本或释义。
关于各家大语言模型(LLM)的原理、训练、部署、推理之前讲了非常多,本篇博文不再进行复述,如果需要的话可以翻我之前的博客,非常用心与详细。今天主要带大家看一下大语言模型(LLM)的家族树谱。
主要分为
str
或ModelCard
,可选) — 属于此管道模型的模型卡。str
,可选)— 要使用的框架,"pt"
适用于 PyTorch 或"tf"
TensorFlow。必须安装指定的框架。str
,默认为""
)— 管道的任务标识符。int
,可选,默认为 8)— 当管道将使用DataLoader(传递数据集时,在 Pytorch 模型的 GPU 上)时,要使用的工作者数量。int
,可选,默认为 1)— 当管道将使用DataLoader(传递数据集时,在 Pytorch 模型的 GPU 上)时,要使用的批次的大小,对于推理来说,这并不总是有益的,请阅读使用管道进行批处理。int
,可选,默认为 -1)— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU,设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device
或str
太str
或torch.dtype
,可选) - 直接发送model_kwargs
(只是一种更简单的快捷方式)以使用此模型的可用精度(torch.float16
,,torch.bfloat16
...或"auto"
)bool
,可选,默认为False
)——标志指示管道的输出是否应以序列化格式(即 pickle)或原始输出数据(例如文本)进行。str
,List[str]
,List[Dict[str, str]],或List[List[Dict[str, str]]]
)— 需要完成的一个或多个提示(或一个提示列表)。如果传递了字符串或字符串列表,则此管道将继续每个提示。或者,可以传递“聊天”(以带有“role”和“content”键的字典列表的形式),或传递此类聊天的列表。传递聊天时,将使用模型的聊天模板对其进行格式化,然后再将其传递给模型。bool
,可选,默认为False
) — 是否在输出中返回预测的张量(作为标记索引)。如果设置为 True
,则不返回解码后的文本。bool
,可选,默认为True
)— 是否在输出中返回解码后的文本。bool
,可选,默认为True
)— 如果设置为,False
则仅返回添加的文本,否则返回全文。仅当 return_text设置为 True 时才有意义。bool
,可选,默认为True
)—是否清理文本输出中可能出现的额外空格。str
,可选)— 添加到提示的前缀。str
,可选)— 默认情况下,此管道不处理长生成(以某种形式超出模型最大长度的生成)。dict
,可选)——传递给模型的生成方法的附加关键字参数(请参阅此处与您的框架相对应的生成方法)。str
,出现时间return_text=True
)——生成的文本。torch.Tensor
或tf.Tensor
,当存在时return_tensors=True
)— 生成文本的标记 ID。本文实战方面只对pipeline的使用方法进行阐述,每家的模型都有自己的参数、范式,更详细的使用可以翻看我之前的博文,写的全面一些。这里介绍两种pipeline使用方法:
import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
from transformers import pipeline
generator = pipeline(task="text-generation",model= "openai-community/gpt2" )
output=generator( "我不敢相信你做了这样的事 " , do_sample= False )
print(output)
generator = pipeline(task="text-generation",model= "HuggingFaceH4/zephyr-7b-beta" )
output=generator([{ "role" : "user" , "content" : "法国的首都是什么?用一个词回答。" }], do_sample= False , max_new_tokens= 2 )
print(output)
执行后,自动下载模型文件并进行识别:
在huggingface上,我们将文本生成(text-generation)模型按下载量从高到低排序,总计13.5万个模型,可以说是huggingface上最多的任务类别了。下载排名第一的为GPT的第2代模型——gpt2,llama3、qwen2的小尺寸模型也有上榜。
本文对transformers之pipeline的文本生成(text-generation)从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍,读者可以基于pipeline使用文中的2行代码极简的使用NLP中的文本生成(text-generation)模型。