LazyLLM测评 | 基于LazyLLM Agent大模型搭建聊天机器人

# Windows示例
python -m venv lazyllm-venv311
.\lazyllm-venv311\Scripts\Activate.ps1

git clone https://github.com/LazyAGI/LazyLLM.git
cd LazyLLM
pip install -r requirements.txt  # 基础依赖
# 如需完整功能（含多模态、微调），安装全量依赖
pip install lazyllm[full]

import os
# 设置豆包API Key
os.environ['LAZYLLM_DOUBAO_API_KEY'] = '你的豆包API密钥'

import lazyllm
# 1. 初始化在线模型（指定豆包）
chat_module = lazyllm.OnlineChatModule(source="doubao", api_key=os.getenv("LAZYLLM_DOUBAO_API_KEY"))
# 2. 启动Web界面（端口23333）
lazyllm.WebModule(chat_module, port=23333).start().wait()

import lazyllm

# 1. 初始化模型（通义千问）
chat = lazyllm.OnlineChatModule(source="qwen", api_key="你的通义千问API Key")

def generate_code_doc(file_path):
    # 2. 读取Python文件内容
    with open(file_path, "r", encoding="utf-8") as f:
        code = f.read()
    
    # 3. 构建提示词（明确注释生成规则）
    prompt = f"""
你是代码文档生成助手，需为以下Python代码生成规范注释，包含：
1. 函数用途（一句话说明功能）
2. 参数说明（类型+含义，如List[Tuple[int, int]]表示坐标列表）
3. 返回值说明（类型+用途）

代码：
{code}
"""
    # 4. 调用模型生成注释
    return chat.forward(prompt)

# 5. 测试：为snake.py生成注释
if __name__ == "__main__":
    doc = generate_code_doc(r"E:\python\LazyLLM\snake.py")
    print("=== 自动生成的注释 ===")
    print(doc)

def move_snake(direction, snake_body, grow=False):
    head_x, head_y = snake_body[0]
    if direction == "UP":
        new_head = (head_x, head_y - 20)
    elif direction == "DOWN":
        new_head = (head_x, head_y + 20)
    elif direction == "LEFT":
        new_head = (head_x - 20, head_y)
    else:
        new_head = (head_x + 20, head_y)
    snake_body.insert(0, new_head)
    if not grow:
        snake_body.pop()
    return snake_body

## `move_snake(direction, snake_body, grow=False)`
### 用途
根据输入方向更新蛇的身体坐标，支持蛇身增长（吃到食物时）。

### 参数说明
- `direction`：`str`  
  移动方向，仅支持"UP"（上）、"DOWN"（下）、"LEFT"（左）、"RIGHT"（右）。
- `snake_body`：`List[Tuple[int, int]]`  
  蛇身坐标列表，第一个元素为蛇头坐标，后续为蛇身节点。
- `grow`：`bool`，可选  
  是否增长蛇身，默认False（不增长），吃到食物时设为True。

### 返回值
- `List[Tuple[int, int]]`  
  更新后的蛇身坐标列表，蛇头在第一个位置。

import os

def batch_generate_docs(root_dir=r"E:\python\LazyLLM"):
    # 创建输出目录
    output_dir = os.path.join(root_dir, "_docs")
    os.makedirs(output_dir, exist_ok=True)
    
    # 扫描所有.py文件
    for root, _, files in os.walk(root_dir):
        for file in files:
            if file.endswith(".py"):
                file_path = os.path.join(root, file)
                print(f"正在处理：{file_path}")
                
                # 读取代码并生成注释
                with open(file_path, "r", encoding="utf-8") as f:
                    code = f.read()
                doc = generate_code_doc(code)  # 复用上述generate_code_doc函数
                
                # 保存文档
                output_file = os.path.join(output_dir, file.replace(".py", "_doc.txt"))
                with open(output_file, "w", encoding="utf-8") as f:
                    f.write(doc)
                print(f"文档保存至：{output_file}\n")

# 执行批量生成
batch_generate_docs()

# rag.py
import lazyllm

def main():
    # Part1
    documents = lazyllm.Document(dataset_path="/path/to/your/doc/dir",
                             embed=lazyllm.OnlineEmbeddingModule(),
                             manager=False)

    # Part2
    retriever = lazyllm.Retriever(doc=documents,
                              group_name="CoarseChunk",
                              similarity="bm25_chinese",
                              similarity_cut_off=0.003,
                              topk=3)

    # Part3
    llm = lazyllm.OnlineChatModule()

    # Part4
    prompt = '你将扮演一个人工智能问答助手的角色，完成一项对话任务。在这个任务中，你需要根据给定的上下文以及问题，给出你的回答。'
    llm.prompt(lazyllm.ChatPrompter(instruction=prompt, extra_keys=['context_str']))

    # Part5
    query = input("query(enter 'quit' to exit): ")
    if query == "quit":
        exit(0)

    # Part6
    doc_node_list = retriever(query=query)
    res = llm({
        "query": query,
        "context_str": "".join([node.get_content() for node in doc_node_list]),
    })

    # Part7
    print(f"answer: {res}")

if __name__ == "__main__":
    main()

import lazyllm
import json
import os

# 1. 配置API Key（豆包+阿里云Stable Diffusion）
os.environ['LAZYLLM_DOUBAO_API_KEY'] = '你的豆包API Key'
os.environ['LAZYLLM_ALIYUN_SD_API_KEY'] = '你的阿里云SD API Key'

# 2. 大纲生成器（根据主题生成Markdown大纲）
def generate_outline(topic):
    outline_prompt = f"""
你是大纲生成专家，需根据主题生成嵌套结构的大纲，格式为JSON数组，每个元素含"title"（Markdown层级）和"describe"（写作指导）。
示例：
[
    {{"title": "# 一级标题", "describe": "介绍背景与核心观点"}},
    {{"title": "## 二级标题", "describe": "用具体例子支撑一级标题"}}
]
主题：{topic}
"""
    outline_module = lazyllm.OnlineChatModule(source="doubao")
    outline_str = outline_module.forward(outline_prompt)
    return json.loads(outline_str)  # 解析为JSON格式

# 3. 内容生成器（按大纲生成正文）
def generate_content(outline_item):
    content_prompt = f"""
你是专业写作助手，需根据以下大纲生成正文，语言流畅、逻辑清晰，符合文体要求。
大纲：
title: {outline_item['title']}
describe: {outline_item['describe']}
正文：
"""
    content_module = lazyllm.OnlineChatModule(source="doubao")
    return content_module.forward(content_prompt)

# 4. 多模态扩展（生成配图+语音）
def generate_multimodal(content, task_type="image"):
    if task_type == "image":
        # 生成图像提示词（中文转英文，适配SD模型）
        prompt_translator = lazyllm.OnlineChatModule(source="doubao")
        en_prompt = prompt_translator.forward(f"将以下内容转为英文图像提示词：{content[:100]}（技术趋势图，细节丰富，高清）")
        # 调用Stable Diffusion生成图像
        sd_module = lazyllm.OnlineChatModule(source="aliyun-sd", api_key=os.getenv("LAZYLLM_ALIYUN_SD_API_KEY"))
        return sd_module.forward(en_prompt)
    elif task_type == "audio":
        # 调用ChatTTS生成语音（本地模型）
        tts_module = lazyllm.TrainableModule("ChatTTS")
        return tts_module.forward(content, output_path="output_audio.wav")

# 5. 组装写作助手流程
def run_writing_assistant(topic):
    # 步骤1：生成大纲
    print(f"=== 生成{topic}大纲 ===")
    outline = generate_outline(topic)
    for item in outline:
        print(f"{item['title']} - {item['describe']}\n")
    
    # 步骤2：生成正文
    print(f"=== 生成{topic}正文 ===")
    full_content = []
    for item in outline:
        content = generate_content(item)
        full_content.append(f"{item['title']}\n\n{content}")
    full_content_str = "\n\n".join(full_content)
    print(full_content_str)
    
    # 步骤3：生成配图与语音
    print("\n=== 生成多模态内容 ===")
    image_url = generate_multimodal(full_content_str, task_type="image")
    audio_path = generate_multimodal(full_content_str, task_type="audio")
    print(f"配图URL：{image_url}")
    print(f"语音文件：{audio_path}")

# 测试：生成“九三阅兵观后感”
if __name__ == "__main__":
    run_writing_assistant("九三阅兵观后感（从爱国、装备、信仰角度展开）")