高可用RabbitMQ安装及使用

引言

你是否遇到过两个(多个)系统间需要通过定时任务来同步某些数据?你是否在为异构系统的不同进程间相互调用、通讯的问题而苦恼、挣扎?如果是,那么恭喜你,消息服务让你可以很轻松地解决这些问题。

消息服务擅长于解决多系统、异构系统间的数据交换(消息通知/通讯)问题,你也可以把它用于系统间服务的相互调用(RPC)。本文将要介绍的RabbitMQ就是当前最主流的消息中间件之一。本文仅关注高可用安装和使用,后续篇章持续关注

下载

由于RabbitMQ是基于Erlang语言开发,所以在安装RabbitMQ之前,需要先安装Erlang。好在RabbitMQ官网已经为我们提供了Erlang的安装包

Erlang下载地址:http://www.rabbitmq.com/releases/erlang/

本人使用的操作系统为:CentOS7

下载的Erlang安装包为:erlang-19.0.4-1.el7.centos.x86_64.rpm

RabbitMQ下载地址:https://www.rabbitmq.com/download.html

下载的RabbitMQ安装包为:rabbitmq-server-3.6.8-1.el7.noarch.rpm

安装

将下载的两个文件上传到/usr/local目录,先安装Erlang

yum install erlang-19.0.4-1.el7.centos.x86_64.rpm

测试Erlang是否安装成功

出现以下信息则表示安装成功:

Erlang (SMP,ASYNC_THREADS,HIPE) (BEAM) emulator version 8.0.3

安装RabbitMQ

运行RabbitMQ

出现以下信息,则表示启动成功:

后台启动可使用:

插件安装

查看目前RabbitMQ已安装的插件

安装web管理端

安装成功后,启动MQ

通过浏览器访问地址:http://192.168.120.129:15672/#/

由于guest用户被限制,只能通过localhost访问,因此我们需要新建一个用户,并授予管理员权限。

新建一个用户名为admin,密码为admin的用户,并授予管理员(administrator)权限

安装mqtt

安装websocket

配置

如果需要修改RabbitMQ的默认配置,先查找配置文件样例位置

然后将样例配置复制到制定目录

修改样例文件,并保存,重启MQ生效。

权限

主要是set_permissions的使用,先看下命令的格式:

首先需要注意以下几点的理解:

1.这里的权限,只是针对一般用户的访问权限,注意和角色的区分。举个例子来说,非管理用户(普通用户),角色设置为none,然后在这里配置conf、write、read的权限。

2.conf、write、read采用正则表达式,这里的正则主要是针对exchange和queue。主要2种特殊的表达式:

^$:表示完全不匹配(即没有权限)

.*:表示匹配所有(即所有权限)

如果使用RabbitMQ作为消息推送服务,需要授予用户只读访问Stomp主题权限,同时授予另一个用户对同一主题的读写访问权限。

这样的话主题订阅者就不能发布消息,从而解决安全性问题。

但是如果直接这样授权:

会报如下错误:

这样配置存在一个问题,将阻止任何写入,阻止任何写入将导致没有权限连接到RabbitMQ的服务

需要对可读用户权限做如下调整:

集群模式

RabbitMQ集群模式分为两种:普通模式,镜像模式(HA)

普通模式:默认的集群模式

对于Queue来说,消息实体只存在于其中一个节点,A、B两个节点仅有相同的元数据,即队列结构。

当消息进入A节点的Queue中后,consumer从B节点拉取时,RabbitMQ会临时在A、B间进行消息传输,把A中的消息实体取出并经过B发送给consumer。

所以consumer应尽量连接每一个节点,从中取消息。即对于同一个逻辑队列,要在多个节点建立物理Queue。否则无论consumer连A或B,出口总在A,会产生瓶颈。

该模式存在一个问题就是当A节点故障后,B节点无法取到A节点中还未消费的消息实体。

如果做了消息持久化,那么得等A节点恢复,然后才可被消费;如果没有持久化的话,然后就没有然后了……

镜像模式:把需要的队列做成镜像队列,存在于多个节点,属于RabbitMQ的HA方案

该模式解决了上述问题,其实质和普通模式不同之处在于,消息实体会主动在镜像节点间同步,而不是在consumer取数据时临时拉取。

该模式带来的副作用也很明显,除了降低系统性能外,如果镜像队列数量过多,加之大量的消息进入,集群内部的网络带宽将会被这种同步通讯大大消耗掉。

所以在对可靠性要求较高的场合中适用。

服务器信息:

我们准备了两台服务器,系统为Centos7,对应的ip跟hostname分别为

设置 Erlang Cookie:

Rabbitmq的集群是依赖于erlang的集群来工作的,所以必须先构建起erlang的集群环境。Erlang的集群中各节点是通过一个magic cookie来实现的,这个cookie存放在 /var/lib/rabbitmq/.erlang.cookie 中,文件是400的权限。所以必须保证各节点cookie保持一致,否则节点之间就无法通信。

查看文件权限的命令为:

这里将 mq01的 /var/lib/rabbitmq/.erlang.cookie文件复制到 mq02,由于这个文件权限是 400,所以需要先修改该文件权限为 777:

使用scp或其他方式将该文件复制到mq02服务器的相同目录,并覆盖。

然后将mq01的 /var/lib/rabbitmq/.erlang.cookie文件权限修改回来

组成集群

重启RabbitMQ服务:

将mq02与mq01组成集群:

如果要使用内存节点,则可以使用--ram:

查看集群是否配置成功:

HA集群模式配置

上面配置RabbitMQ默认集群模式,但并不保证队列的高可用性,尽管交换机、绑定这些可以复制到集群里的任何一个节点,但是队列内容不会复制,虽然该模式解决一部分节点压力,但队列节点宕机直接导致该队列无法使用,只能等待重启,所以要想在队列节点宕机或故障也能正常使用,就要复制队列内容到集群里的每个节点,需要创建镜像队列。

设置镜像队列策略

在任意一个节点上执行:

将所有队列设置为镜像队列,即队列会被复制到各个节点,各个节点状态保持一直。

如果要为制定的vhost创建策略则使用-p:

这行命令在vhost名称为hrsystem创建了一个策略,策略名称为ha-allqueue,策略模式为 all 即复制到所有节点,包含新增节点,

策略正则表达式为 “^” 表示所有匹配所有队列名称。

例如

注意:"^message" 这个规则要根据自己修改,这个是指同步"message"开头的队列名称,我们配置时使用的应用于所有队列,所以表达式为"^"

安装并配置 HAProxy

在 服务器上安装 HAProxy,然后修改:

作者:java_my_life

链接:https://www.cnblogs.com/java-my-life/p/6610802.html

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181015B0IUNW00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券