听说Memcache你很豪横?-------------深入剖析Memcache+keepalive高可用群集

时间:2022-07-24
本文章向大家介绍听说Memcache你很豪横?-------------深入剖析Memcache+keepalive高可用群集,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。

文章目录

  • 一、memcache集群介绍
    • 1、keepalived+memcached高可用
    • 2、Keepalive原理:
    • 3、高可用架构应用场景:
    • 4、magent软件介绍
  • 二、具体搭建如下
    • 1、实验环境
    • 2、实验拓扑图如下
    • 3、配置 memcache 主缓存节点和从缓存节点(两台服务器配置相同)
    • 4、部署主服务器 ----- 安装 magent代理,(从服务器不需要)
    • 5、在主从服务器上都安装 keepalived,并部署
    • 6、主从服务器都要创建magent脚本
    • 7、启动keepalive验证keepalive的主从
    • 8、测试本地能否连接memcache
  • 三、memcache客户端测试
    • 1、客户端登陆memcache
    • 2、测试主从同步
    • 3、测试高可用

一、memcache集群介绍

memcached群集作用主要解决服务器单点故障。不做群集部署,服务器之间不会复制 同步数据,一旦宕机数据就会丢失,无法有效的为后台web服务器等减轻并发连接压力。所以, 我们采用群集服务去解决这个问题,使用多台memcached做群集部署,即时有一两台服务器宕机,也不会影响用户正常体验,同时也减少后台服务的并发连接压力。

1、keepalived+memcached高可用

客户端连接两台服务器之间的VIP地址,如果后端服务器故障自动切换。

2、Keepalive原理:

1.故障检测: Keepalived的作用是检测memcached服务器的状态是否正常。

2.主从切换: Keepalived如果检测到memcached服务发生DOWN机或者死机等,能将VIP从主服务器移至从服务器

3.Keepalived如何发现memcached异常: 1) keepalived在memcached主服务器产生一个虚拟IP

2)keepalived可以通过不断的检测memcached主服务器的11211端口是否正常工作,如果发现memcached Down机,虚拟IP就从主服务器移到从服务器

3、高可用架构应用场景:

如果memcached分布式节点比较多,那么完全不需要做基于复制的高可用架构。

基于复制的高可用架构一般用在memcached单节点存放缓存或者session。

4、magent软件介绍

由于Memcached服务器与服务器之间没有任何通讯,并且不进行任何数据复制备份,所以当任何服务器节点出现故障时,会出现单点故障,如果需要实现HA,则需要通过另外的方式来解决。

通过Magent缓存代理,防止单点现象,缓存代理也可以做备份,通过客户端连接到缓存代理服务器,缓存代理服务器连接缓存连接服务器,缓存代理服务器可以连接多台Memcached机器可以将每台Memcached机器进行数据同步。如果其中一台缓存服务器down机,系统依然可以继续工作,如果其中一台Memcached机器down掉,数据不会丢失并且可以保证数据的完整性。

memcache键值存储:这个存储过程需要程序员来实现。程序员生成key-value。一般memcache用来缓存静态内容。主节点服务停止,程序上要自动调整到备份节点上。主节点服务恢复后缓存需要重新生成。

magent是memcache的补充,magent下memcache分主备,主节点分散存储所有的键值数据 ,备节点存储一个完整的所有键值数据。magent解决了memcache的不能节点分布式问题。

二、具体搭建如下

1、实验环境

VMware软件 一台centos7虚拟机作为memcache主服务器,IP地址:192.168.110.132 一台centos7虚拟机作为memcache从服务器,IP地址:192.168.110.133 一台centos7虚拟机作为memcache客户端,IP地址:192.168.110.134 漂移IP地址:192.168.110.100,是客户端登陆的IP地址

2、实验拓扑图如下

memcache主从服务器搭建 主服务器需要安装:memcached,libevent,keepalived,magent 从服务器需要安装:memcached,libevent,keepalived

3、配置 memcache 主缓存节点和从缓存节点(两台服务器配置相同)

1、安装依赖包:

yum install gcc gcc-c++ make -y

2、解压软件包:

tar zxvf memcached-1.5.6.tar.gz -C /opt/

tar zxvf libevent-2.1.8-stable.tar.gz -C /opt/

mkdir /opt/magent
tar zxvf magent-0.5.tar.gz -C /opt/magent/

3、编译和安装:

cd /opt/libevent-2.1.8-stable
./configure --prefix=/usr/
make && make install


cd /opt/memcached-1.5.6
./configure 
--with-libevent=/usr
make && make install

4、创建软连接:

ln -s /usr/lib/libevent-2.1.so.6 /usr/lib64/libevent-2.1.so.6

4、部署主服务器 ----- 安装 magent代理,(从服务器不需要)

mkdir /opt/magent
tar zxvf magent-0.5.tar.gz -C /opt/magent/
1、cd /opt/magent
vim ketama.h
在开头处增减以下代码:
#ifndef SSIZE_MAX
#define SSIZE_MAX 32767
#endif

vim Makefile
//运营库
LIBS = -levent -lm   //加上 -lm

2、修改完成后 make 编译

3、此时,make完成后,就会产生 magent可执行程序

4、将这个 magent 程序复制到path环境变量中

cp magent /usr/bin/

5、可以将安装好的 magent 复制到从服务器,这样从服务器就不需要再配置了

yum install openssh-clients -y   //安装工具包
scp magent root@192.168.110.133:/usr/bin/

5、在主从服务器上都安装 keepalived,并部署

(1)主服务器:

yum install keepalived -y    //安装keepalived
先将配置文件备份一份  不然改错了麻烦
cp -p /etc/keepalived/keepalived.conf /opt

修改配置文件:

vim /etc/keepalived/keepalived.conf

! Configuration File for keepalived
vrrp_script magent {
        script "/opt/shell/magent.sh"
        interval 2
      }
global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 192.168.200.1
   smtp_connect_timeout 30
   router_id LVS_MAGENT_HA
}

vrrp_instance VI_1 {
    state MASTER
    interface ens33
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
  track_script {
  magent
}

    virtual_ipaddress {
        192.168.110.100
    }
}


//定义一个函数,建议写在最前面
vrrp_script magent {
        script "/opt/shell/magent.sh"
        interval 2
      }
      
做如下修改:
router_id MAGENT_HA        //修改id名
interface ens33            //修改网卡信息

virtual_ipaddress {
        192.168.220.100     //定义好虚拟ip地址
    }   
    
vrrp_instance VI_1 {
.....
//调用函数.以下三行代码写在vrrp模块内
track_script {
        magent
      }
.....
}

(2)从服务器:

vim /etc/keepalived/keepalived.conf

做如下修改:
router_id MAGENT_HB         //id名和第一台要不一样
state BACKUP               //从服务器
virtual_router_id 52       //id号和第一台不一样
priority 90                 //优先级低与主服务器 

6、主从服务器都要创建magent脚本

[root@master ~]# mkdir /opt/shell
[root@master ~]# cd /opt/shell/
[root@master shell]# vim magent.sh
K=`ps -ef | grep keepalived | grep -v grep | wc -l`
if [ $K -gt 0 ]; then
        magent -u root -n 51200 -l 192.168.110.100 -p 12000 -s 192.168.110.132:11211 -b 192.168.79.133:11211
else
pkill -9 magent
fi
'//如下解释'
-n 51200             '//定义用户最大连接数'
-l 192.168.110.100   '//指定虚拟IP'
-p 12000             '//指定端口号'
-s                   '//指定主缓存服务器
-b                   '//指定从缓存服务器
11211				'//端口号'

7、启动keepalive验证keepalive的主从

'//主从服务器都要做'
[root@master shell]# chmod +x magent.sh 	'//增加magent脚本执行权限'
[root@master shell]# systemctl start keepalived.service	'//开启keepalived服务'
[root@master shell]# netstat -ntap |grep 12000	'//keepalived启动会有点慢,我们需要稍等一下'
tcp        0      0 192.168.110.100:12000    0.0.0.0:*               LISTEN      67513/magent  
[root@master shell]# vim /var/log/messages 
搜索'//Transition to MASTER STATE',有即成功
[root@master shell]# ip addr	'//查看漂移地址是否绑定成功'
...省略内容
 inet 192.168.110.100/32 scope global ens33	'//绑定成功 '
...省略内容
[root@slave keepalived]# vim /var/log/messages 
搜索'//Entering BACKUP STATE',有即成功
[root@slave keepalived]# ip addr	'//查看漂移地址是否绑定成功'
...省略内容
 inet 192.168.110.100/32 scope global ens33	'//绑定成功 '
...省略内容

8、测试本地能否连接memcache

三、memcache客户端测试

1、客户端登陆memcache

#######验证主从memcache
主:
ln -s /usr/local/memcached/bin/* /usr/local/bin/
 memcached -m 512k -u root -d -l 192.168.110.132 -p 11211
[root@master ~]# yum install telnet -y	'//安装Telnet远程登陆程序'
[root@master ~]# telnet 192.168.110.132 11211


从:
ln -s /usr/local/memcached/bin/* /usr/local/bin/
//-d守护进程 ;-m缓存大小32M ;-p端口11211
 memcached -m 512k -u root -d -l 192.168.110.133 -p 11211
[root@master ~]# yum install telnet -y	'//安装Telnet远程登陆程序'
[root@master ~]# telnet 192.168.110.133 11211

2、测试主从同步

主服务器创建一个数据

[root@promote keepalived]# telnet 192.168.110.132 11211
Trying 192.168.110.132...
Connected to 192.168.110.132.
Escape character is '^]'.
get username
VALUE username 0 5
12345
END

从服务器是上查看

[root@promote shell]# telnet 192.168.110.133 11211
Trying 192.168.110.133...
Connected to 192.168.110.133.
Escape character is '^]'.
get username
VALUE username 0 5
12345
END

客户端上查看

[root@promote ~]# telnet 192.168.110.100 12000
Trying 192.168.110.100...
Connected to 192.168.110.100.
Escape character is '^]'.
add username 0 0 5
12345
STORED

3、测试高可用

[root@master ~]# systemctl stop keepalived.service 	'//关闭主服务器keepalived服务'
[root@promote ~]# telnet 192.168.110.100 12000   //客户端依旧可以登录
Trying 192.168.110.100...
Connected to 192.168.110.100.
Escape character is '^]'.
get username
VALUE username 0 5
12345
END