前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >clickhouse之删除数据或更新数据无效的解决思路

clickhouse之删除数据或更新数据无效的解决思路

作者头像
公众号-利志分享
发布2022-04-25 09:29:40
5.2K0
发布2022-04-25 09:29:40
举报
文章被收录于专栏:利志分享

在clickhouse中我们要对数据进行删除或者更新,采用如下的sql:

删除:

代码语言:javascript
复制
ALTER TABLE 表名 DELETE WHERE 条件

更新:

代码语言:javascript
复制
ALTER TABLE 表名 UPDATE column1 = expr1 [, ...] WHERE filter_expr

我们都知道ClickHouse内核中的MergeTree存储一旦生成一个Data Part,这个Data Part就不可再更改了。所以从MergeTree存储内核层面,ClickHouse就不擅长做数据更新删除操作。但是绝大部分用户场景中,难免会出现需要手动订正、修复数据的场景。所以ClickHouse为用户设计了一套离线异步机制来支持低频的Mutation(改、删)操作。我们所说的Mutation也是异步的操作,是Clickhouse中的工作线程池来完成。

对于Clickhouse执行删除语句后查询数据仍旧存在,等待数分钟后依然存在的话,我们需要先查询system.mutations表,查询未执行的任务,如下:

代码语言:javascript
复制
select * from system.mutations where is_done = 0;

我们业务中曾经就出现过删除未成功,最后查询有很多条命令未执行成功,其他的报错如下,能看lastest_fail_reason字段的错误,至于什么原因会报这个错就不知了。

线上发现有如下报错,我们通过如下命令先删除异常的mutation

代码语言:javascript
复制
KILL MUTATION [ON CLUSTER cluster]
  WHERE <where expression to SELECT FROM system.mutations query>

删除mutation之后,再执行提交的删除发现又执行成功了。至于之前的为什么没执行成功,也没有去探究,只是当时发现线上不少mutations被卡住,未执行成功。

总结:

对于mutations执行失败的话,先去查询system.mutations的任务,查看is_done=0的数据,并且看下latest_fail_reason的原因。如果发现问题不是sql的原因,则删除mutations再尝试执行删除或者更新,如果是sql或者其他原因,查询找到原因解决再执行删除或者更新。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-12-12,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 利志分享 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档