前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >总结 canal 使用过程中的几个问题,值得思考一下

总结 canal 使用过程中的几个问题,值得思考一下

作者头像
闻说社
发布2023-04-18 17:42:18
8440
发布2023-04-18 17:42:18
举报
文章被收录于专栏:用户9378957的专栏

前几天在网上冲浪的时候发现了一个比较成熟的开源中间件——Canal。在了解了它的工作原理和使用场景后,顿时产生了浓厚的兴趣。本着好记性不如烂笔头的原则,阿Q对 Canal 的原理进行了梳理、对环境进行了搭建,具体步骤见这篇文章:原理+配置+实战,Canal一套带走

今天我们抛开 canal 的原理和代码不谈,总结几个在使用过程中遇到的问题,当然,解决方案也一并呈上。

问题一

在给 canal 分配数据库权限的过程中,由于密码设置的比较简单,会报以下错误

代码语言:javascript
复制
ERROR 1819 (HY000): Your password does not satisfy the current policy requirements
复制代码

这是由 MySQL 的密码规范决定的,建议设置的密码要包含大小写字母、数字和特殊字符,具体的规范大家可以自行百度😃。

问题二

在通过命令./bin/startup.sh 启动 canal 服务后,发现在 logs 下没有生成 canal.log 日志,在进程命令中 ps -ef | grep canal 也查不到 canal 的进程。

通过查看目录 logs 下的文件 canal_stdout.log,发现了问题所在

报错信息提示内存不足,Java 运行时环境无法继续。更详细的错误日志在文件:/usr/local/bin/hs_err_pid25186.log 中。

既然是内存原因,那就检查一下自己的内存,执行命令free -h ,发现可用内存仅为 96M,应该是内存问题,解决方法如下:

  • 杀死运行的一些进程;
  • 增加虚拟机的内存;
  • 修改 canal 启动时所需要的内存;

我就是用的第三种方法,首先用 vim 打开 startup.sh 修改内存参数,可以对照我的进行修改,按照自己服务器剩余内存进行修改,这里我将内存调整到了 80M。

2内存配置.png
2内存配置.png

改为 -server -Xms80m -Xmx80m -Xmn80m -XX:SurvivorRatio=2 -XX:PermSize=66m -XX:MaxPermSize=80m -Xss256k -XX:-UseAdaptiveSizePolicy -XX:MaxTenuringThreshold=15 -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSInitiatingOccupancyOnly -XX:+HeapDumpOnOutOfMemoryError

改完之后执行命令发现依旧报错:found canal.pid , Please run stop.sh first ,then startup.sh 意思是找到了 canal.pid,请先运行stop.sh

这是由于 canal 服务不正常退出服务导致的,比如说虚拟机强制重启。

执行 stop.sh 命令后重新启动,成功运行,成功运行后可以在 canal/logs 文件夹中生成 canal.log 日志。

3canal日志.png
3canal日志.png

问题三

在 canal 服务启动之后,想通过编写代码的方式来测试数据库变更之后触发 canal 输出数据的过程。结果无论怎样修改,控制台就是没有日志打出。

通过查看 canal /usr/local/logs/example下的 example.log 文件才发现问题所在

4实例ip配置不对.jpg
4实例ip配置不对.jpg

原因就是meta.dat中保存的位点信息和数据库的位点信息不一致导致 canal 抓取不到数据库的动作。

于是我找到 canal 的 conf/example/instance.properties 实例配置文件,发现没有将canal.instance.master.address=127.0.0.1:3306 设置成自己的数据库地址。

解决方案

  • 先停止 canal 服务的运行;
  • 删除meta.dat文件;
  • 再重启canal,问题解决;

今天的内容到这里就结束了,希望对大家有所帮助,我们下期再见。跪求一键三连,期望靓仔在评论区打出“老铁666”,鼓励一下阿Q。

好看的皮囊千篇一律,有趣的灵魂万里挑一,让我们在冷漠的城市里相互温暖,我是阿Q,我们下期再见!

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 问题一
  • 问题二
  • 问题三
    • 解决方案
    相关产品与服务
    云数据库 MySQL
    腾讯云数据库 MySQL(TencentDB for MySQL)为用户提供安全可靠,性能卓越、易于维护的企业级云数据库服务。其具备6大企业级特性,包括企业级定制内核、企业级高可用、企业级高可靠、企业级安全、企业级扩展以及企业级智能运维。通过使用腾讯云数据库 MySQL,可实现分钟级别的数据库部署、弹性扩展以及全自动化的运维管理,不仅经济实惠,而且稳定可靠,易于运维。
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档