很多企业在评估AI客服时，最先问的是：准确率多少？能替代多少人工？这些问题不是不重要，但在上线第一天之前，有一个更现实的问题：它答错了，谁负责？

2024年2月，加拿大不列颠哥伦比亚省的民事解决庭（Civil Resolution Tribunal）作出了Moffatt诉加拿大航空案的裁决（2024 BCCRT 149）。据报道，乘客Moffatt在亲人去世后咨询航空公司网站上的聊天机器人，机器人告诉他可以在购票后90天内申请丧亲票价的差价退款；而航空公司网页上的政策写明，不允许对已发生的行程退款。航空公司拒绝退款，并辩称聊天机器人是“独立的法律实体”，公司不应对其提供的信息负责。

裁决否定了这一说法：聊天机器人是公司网站的一部分，公司需要为网站上的信息负责，并且未尽合理注意义务确保机器人回答准确；乘客不应被要求去核对网站另一处的信息是否与机器人矛盾。据报道，航空公司最终需要支付约650加元的赔偿，加上利息和费用，总额约812加元。

这个案例有几点需要说明：金额很小；它是加拿大一个裁判机构的裁决，不是中国法律，国内法院会如何认定类似情况，我没有找到可靠的依据，无法确认；麦克米伦律所也指出，从裁决中看不出该机器人是否使用了人工智能。但它给企业的启发是清楚的：不要指望“这是机器说的”能成为免责理由。

设计原则一：涉及钱和承诺的回答，不要让模型自由发挥

价格、退款、赔偿、期限，这些一旦说错就有后果。更稳妥的做法是：这类回答直接从订单系统、政策库等确定性来源读取，再由模型组织语言；政策库里没有的内容，让机器人回答“我无法确认，为您转人工”，而不是猜一个答案。

设计原则二：转人工要有明确的触发条件

可以考虑的触发点：用户连续两次以上重复提问；出现投诉、维权、法律等关键词；涉及金额超过设定阈值；情绪明显激烈。具体阈值要根据业务来定。转人工时，要把此前的对话摘要一并传过去，避免用户重复描述。

AI客服接入业务系统以后，一个关键问题是它能做什么：

• 只读：查订单状态、物流、政策。

• 低风险写入：修改尚未发货订单的收货地址、取消未支付订单。需要用户确认。

• 高风险写入：退款、赔付、改价、关闭账户。建议必须经过人工确认。

每一道门都要有日志。这是工程实践，不是某个标准的要求，但对避免越权操作很有效。

设计原则四：留痕，能还原当时发生了什么

出了纠纷，企业需要还原：用户问了什么，AI回答了什么，依据的是知识库的哪一条。因此对话记录、引用的知识来源、模型版本、知识库版本，都应当保存。知识库被修改以后，也要能追溯“当时的版本”。

国家互联网信息办公室等四部门发布的《人工智能生成合成内容标识办法》，自2025年9月1日起施行，配套的强制性国家标准《网络安全技术　人工智能生成合成内容标识方法》（GB 45438—2025）同步实施。办法规定，标识分为显式标识和隐式标识，显式标识包括在生成合成内容或者交互场景界面中添加的、用户能明显感知到的文字、声音、图形等；服务提供者提供生成合成内容的下载、复制、导出等功能时，要确保文件中含有显式标识；还要在文件元数据中添加隐式标识。

AI客服的界面是否、以及如何适用这些规定，要结合办法条文、国家标准和你的服务形态来判断，比如是自建模型提供服务，还是调用第三方模型，是否提供对话导出等。这件事我没有做逐条核对，请交给法务确认，这里只提醒：不要等监管问到才想起这件事。

成熟产品通常适合：问题以常见问答为主，渠道是常规的网页、小程序或在线客服，不需要接入复杂的内部系统。

定制开发更适合：需要接入订单、CRM、工单等内部系统，并且需要严格的权限控制；行业知识复杂，知识库需要结构化维护；数据不能离开企业自己的环境。

第四个条件容易被忽略：企业是否有人持续维护知识库和评估效果。没有人维护，再好的系统，三个月后回答也会过期。

“解决率”需要先定义：用户没有再提问，不等于问题解决了，也可能是放弃。更可靠的办法是抽样复核，随机抽取对话，由人工判断回答是否正确、是否合规，并先在小范围灰度上线，再逐步扩大。

AI客服上线第一天，最该问的不是准确率，而是答错了谁负责

人工智能

新闻资讯

职业发展

企业部署AI客服前需明确责任归属，参考加拿大航空案判例，公司需为机器人信息错误担责。设计上，涉及金钱承诺须读取确定性来源，设置明确转人工触发条件，实行只读、低风险写入、高风险确认的三级权限，并全程留痕。同时需注意2025年9月实施的AI生成内容标识法规，根据自身业务选择成熟产品或定制开发，并通过人工抽样复核评估真实解决率。

聊天机器人

网络安全

2026上云采购 | AI焕新·智启新局

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

企业部署AI客服前需明确责任归属，参考加拿大航空案判例，公司需为机器人信息错误担责。设计上，涉及金钱承诺须读取确定性来源，设置明确转人工触发条件，实行只读、低风险写入、高风险确认的三级权限，并全程留痕。同时需注意2025年9月实施的AI生成内容标识法规，根据自身业务选择成熟产品或定制开发，并通过人工抽样复核评估真实解决...

AI客服上线第一天，最该问的不是准确率，而是答错了谁负责

AI客服上线第一天，最该问的不是准确率，而是答错了谁负责

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐