大模型知识引擎 | 如何一站式构建运营商智能客服

原创

叫我阿柒啊

修改于 2025-03-20 10:08:40

10760

代码可运行

文章被收录于专栏：LLM学习笔记LLM学习笔记 LLM时代，写点什么 Tencent云服务征文

运行总次数：0

代码可运行

前言

在ChatGPT和DeepSeek未出现之前，智能这个词的概念已经逐渐展现在运营商的各个领域。例如智能客服，通过在掌上营业厅预置一些比较常见的套餐、流量问题，去引导客户触发这些问题，让客户觉得客服很”智能“。

然后业务支撑部门中通过实时处理技术，识别目标客户群打上标签，然后推送到到事件中心，事件中心再开放给运营部门，最后流转到外呼平台以人工电话回访的形式，进一步了解客户的需求。

智能客服

例如，在进入对话页的时候，会弹出很多预设的问题。

如果我们点击或者输入这些问题，就会触发电话回访预约。

痛点

如果我们输入的问题与预设的问题不符合，那么就会引导用户朝着设定好的问题上靠拢，然后触发电话回访预约。

我们可以看到在智能客服业务流程中，因为智能客服的后台只做数据采集，识别用户问题中的关键字，但是当我们问到一些日常故障的问题，智能客服就无法回复用户提出的问题。

所以，我们的目标是构建一个既能满足现有预约业务场景，也能准确理解客户问题的智能客服。

解决方案

在 DeepSeek 未出现之前，我们考虑最多的是，到底什么样的技术选型才能让智能客服变得更“智能”。在 DeepSeek 出现之后，就开始考虑如何在DeepSeek赋予更多的能力，并能满足以下的需求：

高效：快速响应客户咨询，减少客户等待时间
精准：准确理解客户问题，提供针对性解决方案
可扩展：系统可灵活扩展，适应业务增长和变化

所以单单只靠 DeepSeek 大模型是无法完成上面要求的，后来了解到腾讯云的大模型知识引擎 LKE，于是开始尝试是否可以满足智能客服的构建需求。

大模型知识引擎 LKE

大模型知识引擎（LLM Knowledge Engine）是基于大语言模型的知识应用构建平台，可以通过知识库的构建，来结合企业专属数据，提供知识问答等应用范式，更快更高效地完成大模型应用的构建，推动大语言模型在企业服务场景的应用落地。

产品优势

在DeepSeek的热度浪潮下，市场上涌现了很多基于DeepSeek构建大模型应用的产品，而选择LKE的的原因在于：

高效搭建大模型应用：提供大模型应用构建工作台，同时提供公有云和私有化两个版本，无需下载任何软件，在浏览器中克随时随地完成大模型应用的搭建。
复杂知识处理能力强：基于混元大模型技术及多行业丰富高质量数据训练，内置 OCR、LLM+RAG 、MLLM 等多种技术能力，对复杂的非结构化图文类文档进行准确智能解析，提升知识提取质量和效率。
配套工具链完善：开放模型配置、知识配置等配套工具链，提供最小的必要输入即可获得良好的效果，支持测试 - 修正 - 发布 - 反馈增强的一站式流程。

体验中心

目前LKE开放了产品体验服务，在LKE主页点击产品体验，即可进入LKE体验中心。

提供了很多优秀的大模型应用，点击立即体验即可使用大模型应用。

如果想要借鉴大模型应用的构建过程，或者这些大模型应用的基础上构建自己的应用，可以通过点击对话页面上方的 创建为我的应用 按钮，这样在 应用管理 下就可以看到刚刚“复制”的应用。

资源计费

关于资源计费，很多人会担心在体验或者测试过程中消耗token产生费用，目前新用户开通体验LKE，即可获得token免费额度。

如果想要接入应用生产，也可以根据需要，在LKE资源包购买页购买合适的资源包。

目前，腾讯云也提供了DeepSeek API快捷接入，腾讯云DeepSeek API价格最新计费信息：

DeepSeek-R1 模型 | 输入：0.004元/千token | 输出：0.016元/千token

DeepSeek-V3 模型 | 输入：0.002元/千token | 输出：0.008元/千token

腾讯云DeepSeek API调用方式接口地址：https://cloud.tencent.com/document/product/1772/115963

构建智能客服

我们在应用管理页面新建一个智能客服的应用。

输入名称之后进入到应用配置页面。

在此页面选择模型配置，除了基本的DeepSeek R1和V3模型，还可以选择精调知识大模型和各个垂直行业的大模型，例如金融、医疗。

这里我选择满血版的DeepSeek V3模型，然后就是配置角色指令。

对于角色指令可以使用模版，然后进行内容填充，这样更准确。

知识库构建

知识库对于构建智能客服系统非常必要。为了提升回答的准确性，我们可以将业务把办理流程、常见故障排查方法、套餐等信息整合到文档中，以此来构建知识库。智能客服通过匹配用户问题，迅速查找标准答案，实时提供专业解答，提升客户满意度和服务质量。

在大模型知识引擎中，提供了两种方式来构建知识库：

文档：结合知识引擎的能力，基于导入的文档形成有关知识的业务知识库，智能客服可直接根据知识库中的内容对用户问题进行解答
问答FAQ：针对于需要进行标准化、稳定的问题回复的情况，需要引入FAQ（问答对）进行处理

在构建知识库之前，我们要进行知识提取和筛选，将复杂的内容简化为易于理解的形式，去除重复、过时或无关的信息，保证数据准确性、实用性、完整性和时效性。

文档

我们在知识管理点击导入按钮，这里支持网页内容导入和本地文档导入，这里选择从本地文档导入，添加要上传的文档列表。

在这里我将故障排查手册、流量套餐列表和业务操作指南等文档上传，在点击导入文档之后，文档列表里就可以看到我们上传的文档。

在大模型引擎解析过后，基于这些文档就形成了智能客服的知识库。

问答FAQ

我们可以整理出来高频固定的问题，生成FAQ导入到我们的智能客服中，这样可以提高智能客服的回复速度，并保证回复的标准化。例如：

Q: 如何更换套餐？下月生效吗？
A: 您可通过APP“套餐变更”页面操作，新套餐次月生效，本月剩余流量可结转。

Q: 可以办副卡吗？副卡收费吗？
A: 主套餐支持1-2张副卡，每张副卡月费10元，共享主卡流量和通话。
 
Q: Wi-Fi信号满格但网速慢怎么办？
A: 请尝试：1. 重启路由器；2. 减少连接设备数量；3. 切换至5GHz频段（如有）。若仍无效，请联系客服。

Q: 出国后手机无法上网，如何开通漫游？
A: 发送短信“KTGJMY”至100，或登录APP开通国际漫游套餐。需确保手机已开启数据漫游功能。

1. FAQ录入

我们在知识管理页面选择问答，点击新建可以看到有三种方式新建FAQ：

如果使用批量的话，需要将问题和答案整理到excel中然后导入。

在这里我使用的是手工录入，因为这样可以使用AI自动生成相似问。在手工录入页面输入问题之后，点击问题上方的相似问。

2. 相似问

点击AI一键生成相似问，这样就会自动生成10个相似问。

点击完成之后，相似问就和问题绑定。

如上图所示，相似问就变成了10个，当用户提出这些问题的时候，智能客服都会使用你设定的答案完成回复。

在新增FAQ的过程中，我们需要遵循以下原则：

确认现有知识库中是否有问题类似的问题，避免出现知识库中（包括 FAQ、文档、任务流）出现问题相似/相同、但答案不同甚至冲突的情况
系统会根据 Q自动检测冲突的 FAQ，需要按照系统提示保留其中一个FAQ

高级设置

我们可以对知识库设定一些高级选型，对检索策略、文档设置和问答设置进行参数设置。

工作流

大模型知识引擎和知识库弥补了智能客服的短板，解决了无法解决实际问题的场景，对于原有的预约场景，可以通过工作流的形式来实现。

在工作流管理页面中选择新建。

在工作流描述之后，可以通过AI一键优化格式。

点击确定，就进入到工作流开发页面。

中间画布只有开始和结束节点，我们需要中开始和结束节点之间，使用页面做的的信息处理节点，来构造业务预约的工作流。

工作流的起点是开始节点，首先查看一下节点信息。

在开始节点要关注的是系统变量，这些变量会在各个节点传递引用。对于预约业务，我们要关注本轮对话内容UserQuery和当前时间CurrentTime这两个变量。

1. 变量提取

预约业务首先需要知道用户的手机号。我们在业务预约常见下，通过API调用大模型知识引擎时，可以在对话内容userQuery中将号码传递过来，然后我们进行提取。

可以通过 大模型标签提取 节点，提取 UserQuery 中的手机号码。

但是这里我使用代码节点，因为为了保证数据的隐私和安全性，通常需要对手机号这类的信息进行加密，在代码节点中，我们可以实现解密逻辑。这里先不讨论加密的问题，在业务预约场景中，约定好手机号和业务预约内容之间使用逗号分割。

这里拉取一个代码节点，代码节点支持用户编写Python代码，并内置了numpy等常用python包，这里将UserQuery 作为输入变量：

点击 编辑代码，对输入的userQuery进行处理。

# 请保存函数名为main,输入输出均为dict；最终结果会以json字符串方式返回，请勿直接返回不支持json.dumps的对象
def main(params: dict) -> dict:
    userQuery = params.get('userQuery')
    inputs = userQuery.split(',')
    phone =  inputs[0]
    content = inputs[1]
    return {
        'phone': phone,
        'content': content
    }

在编辑区域下方输入测试数据：

15000000000,宽带新装

点击测试。

在输出结果中输出了代码处理后的变量。

为了将输出的 phone 和 content 变量传递给下一个节点，通过点击 解析到输出变量，代码输出的变量就会自动添加到输出变量中。

2. 预约推送

当用户触发了工作流，通过代码节点提取了变量，接下来就是要将触发工作流的预约业务数据，推送到后台的事件系统用于预约外呼，所以这里需要实现一个接口来接收这些数据。

接口开发

真累使用搭载了DeepSeek满血版的腾讯云AI代码助手来实现这个接口。

在这里限定了三个参数：手机号、业务和时间，腾讯云AI代码助手使用flask实现了 /api/submit 接口。具体代码如下：

from flask import Flask, request, jsonify
from flask_cors import CORS
import re
from datetime import datetime

app = Flask(__name__)
CORS(app)  # 允许跨域请求

@app.route('/api/submit', methods=['POST'])
def handle_request():
    # 获取参数
    data = request.json
    phone = data.get('phone')
    business = data.get('business')
    timestamp = data.get('time')

    # 参数校验
    if not all([phone, business, timestamp]):
        return jsonify({'code': 400, 'message': '缺少必要参数'}), 400

    # 手机号格式校验
    if not re.match(r'^1[3-9]\d{9}$', phone):
        return jsonify({'code': 400, 'message': '手机号格式错误'}), 400
        
    # 业务逻辑处理（示例）
    # TODO: 添加实际业务处理逻辑
    print(f'手机号：{phone}\n业务：{business}\n时间：{timestamp}'
    return jsonify({
        'code': 200,
        'message': '请求成功',
        'data': {
            'phone': phone,
            'business': business,
            'time': timestamp
        }
    })

if __name__ == '__main__':
    app.run(debug=True, port=5000)

这里只打印接收的参数，不实现具体的业务逻辑。将程序部署在腾讯云轻量服务器上，启动服务监听5000端口。通过curl测试一下服务是否可用：