NFS实现（双httpd + php-fpm + nfs + mysql 搭建discuz论坛）

NFS相关介绍

一、NFS简介

1. NFS（Network File System）: NFS是一个文件共享协议， 也是是在类Unix系统中在内核中实现的文件系统。

2. 起源： 最早是由SUN公司研发，非常古老，只是实现文件共享，安全控制方面比较简陋。 版本有， NFSv1, NFSv2，NFSv3，NFSv4. v4版开始支持kerberos 认证。

3. RPC（Remote Procedure Call）：NFS协议是基于PRC(远程过程调用)实现的。

基本过程如下图，客户端某程序发起过程请求–>rpc客户端接过请求–>通过套接字通信交给服务器端–>服务器端接过请求交给某程序执行–>执行后把结果或者状态返回客户端

RPC守护进程rpcbind监听： 111/tcp 和 111/udp

RPC远程调用进程rpc.mount 监听： 2049/tcp 和 2049/udp

4. 关于NFS的安全设置，原生的NFS服务只能基于IP认证。 NFSv4可以基于以下两种认证方式认证

NIS： Network Information Service

Kerberos 5. 安装配置： nfs-utils包， NFS为内核实现，所以只需要工具包

6. 三个关键进程：

mountd: 挂载搜索进程，负责客户端源认证的进程

nfsd:文件读写

idmapd:id映射进程

7. 配置文件/etc/exports:

配置格式：

文件系统 客户端1(文件系统导出属性) 客户端2(文件系统导出属性)

/var/www/htdocs/Discuz/upload 192.168.98.128/24(rw,async,no_root_squash) 192.168.98.129/24(rw,async,no_root_squash)

文件导出属性：

rw

async

sync

root_squash: 压缩root用户，基于imapd，将root通过网络访问时转换为nfsnobody用户

no_root_squash: 不压缩root用户;

all_squash: 压缩所有用户；

anonuid, anongid: 指定匿名用户映射为的UID和GID；

8. 相关命令

showmount

-e: 在nfs客户端执行，探查某主机所导出的nfs文件系统；使用格式“showmount -e Server_IP”；

-d: 在nfs服务器端执行，显示哪个导出的文件系统已经被至少一个客户挂载使用了；

-a: 在nfs服务器端显示所有的挂载会话；

exportfs:用户不重启服务重新导出目录

-a: 操作所有文件系统

-ra: 重新导出所有文件系统

-ua: 取消导入的所有文件系统

-v: 显示详细信息

9. 由于nfs辅助进程mountd默认监听随机端口，有可能会占用一些重要端口，例如80，所以有时需要锁定端口

在/etc/sysconfig/nfs 中实现

# Port rpc.mountd should listen on.

MOUNTD_PORT=892

NFS实践

双web服务器 + php-fpm + nfs + mysql 搭建discuz论坛，实现双web服务器共享后端数据。

、

在四台主机上，需要搭建五个服务。

1） 两台主机担任前端httpd1和httpd2服务器。具有同样域名不同ip，负责简单负载均衡

2） 一台主机担任php-fpm服务器，接受前端web服务对于php页面的反向代理请求。 NFS服务器负责为前端两个web服务器导出论坛安装目录。

3） 最后一台主机存放mysql服务器， 为前端论坛提供数据库服务。

以下配置过程，从后往前配置，先从mysql服务器开始

一、 配置mysql服务器 （主机192.168.98.131）

1. 使用二进制文件，安装mysql

# tar -xf mysql-5.6.25-linux-glibc2.5-x86_64.tar.gz -C /usr/local

# ln -s /usr/local/ mysql-5.6.25-linux-glibc2.5-x86_64 /usr/local/mysql

2. 创建mysql用户用户组

# groupadd -r mysql

# useradd -g mysql -r -s /sbin/nologin mysql

3. 创建逻辑卷和挂载位置 （事先创建一块硬盘sdb）

# fdisk /dev/sdb

Command (m for help): n

Command action

e extended

p primary partition (1-4)

p

Partition number (1-4): 1

First cylinder (1-13054, default 1):

Using default value 1

Last cylinder, +cylinders or +size{K,M,G} (1-13054, default 13054): +10G

Command (m for help): t

Hex code (type L to list codes): 8e

Command (m for help): w

The partition table has been altered!

# pvcreate /etc/sdb1

# vgcreate database /dev/sdb1

# lvcreate -L 6G -n mysqlData database

# mke2fs -t ext4 /dev/database/mysqlData

# mkdir -p /data/mysqldata

## vim /etc/fstab 添加

/dev/database/mysqldata /data/mysqlData ext4 defaults,acl 0 0

# mount -a

4. 初始化数据库

# /usr/local/mysql/mysql_install_db --basedir=/usr/local/mysql --datadir=/data/mydata/ --usr=mysql

# cp /usr/local/mysql/my.cnf /etc/

添加一下两行

[mysqld]

datadir=/data/mydata

basedir=/usr/local/mysql

user=mysql

# cp /usr/local/mysql/mysql.server /etc/rc.d/init.d/mysqld

修改一下两行

datadir=/data/mydata

basedir=/usr/local/mysql

启动服务

# service mysql start

5. 在mysql服务器的准备工作，以及添加discuz数据库。

## 删除匿名用户以及设置管理员密码

mysql> DROP USER 'root'@'playground3';

mysql> DROP USER 'root'@'::1';

mysql> DROP USER ''@'localhost';

mysql> DROP USER ''@'playground3';

## 设置管理员密码

mysql> SET PASSWORD FOR 'root'@'localhost' == PASSWORD('root');

mysql> SET PASSWORD FOR 'root'@'127.0.0.1' = PASSWORD('root');

## 创建discuzData数据库和discuz用户,并且赋予discuz数据库操作权限

## 192.168.98.130为存放discuz的服务器

mysql> CREATE USER 'discuz'@'192.168.98.130' IDENTIFIED BY 'discuz' ;

mysql> CREATE DATABASE discuzData ;

mysql> GRANT ALL ON discuzData.* TO 'discuz'@'192.168.98.130' ;

mysql> flush privileges ;

## 在192.168.98.130上测试连接数据库服务器

# mysql -u'discuz' -h'192.168.98.131' -pdiscuz

mysql> USE discuzData

Database changed

说明此用户已经拥有操作数据库的权限。

二、配置fpm-php服务器 （主机，192.168.98.130）

1. 安装nfs相关包组,还有rpc组件

# yum -y install nfs-utils

# yum -y install rpcbind

2.创建discuz所在目录

# mkdir -p /var/www/htdocs/Discuz/upload

# 然后使用fdisk命令创建一个新分区,这里是sdb1, 并且自动挂载至/var/www/htdocs/Discuz/upload

在/etc/fstab下面添加

/dev/sdb1 /var/www/htdocs/Discuz/upload ext4 defaults,acl 0 0

3. 配置nfs导出文件 /etc/exports

## 192.168.98.128 和 192.168.98.129 将被搭建成web服务器，所以目录需要导出到这两台主机

/var/www/htdocs/Discuz/upload 192.168.98.128/24(rw,async,no_root_squash,no_subtree_check) 192.168.98.129/24(rw,async,no_root_squash,no_subtree_check)

4. 锁定rpc.mount等辅助进程端口

# vim /etc/sysconfig/nfs 添加下面一行

MOUNTD_PORT=892

5. 启动服务

# service nfs start

Starting NFS services: [ OK ]

Starting NFS mountd: [ OK ]

Starting NFS daemon: [ OK ]

Starting RPC idmapd: [ OK ]

四、配置最前端的两台web 服务器 （192.168.98.128 和 192.168.98.129）

1. 同样安装编译环境。

2. 安装apache运行环境apr和apr-util

# tar xf apr-1.5.2.tar.gz

# cd apr-1.5.2

# ./configure --prefix=/usr/local/apr

# make && make install

# tar xf apr-util-1.5.4.tar.gz

# cd apr-util-1.5.4

# ./configure --prefix=/usr/local/apr-util --with-apr=/usr/local/apr

# make && make install

3. 编译安装httpd

# tar -xf httpd-2.4.16.tar.gz

# cd httpd-2.4.16

# ./configure --prefix=/usr/local/httpd24 --sysconfdir=/etc/httpd24 --enable-so --enable-ssl --enable-cgi --enable-rewrite --with-zlib --with-pcre --with-apr=/usr/local/apr --with-apr-util=/usr/local/apr-util --enables-modules=most --enable-mpms-shared=all --with-mpm=event

# make && make install

4. 提供服务脚本

# vim /etc/rc.d/init.d/httpd24 复制粘贴一下内容，通常把yum源安装的httpd服务脚本，稍加修改即可

#!/bin/bash

#

# httpd Startup script for the Apache HTTP Server

#

# chkconfig: - 85 15

# description: Apache is a World Wide Web server. It is used to serve \

# HTML files and CGI.

# processname: httpd

# config: /etc/httpd/conf/httpd.conf

# config: /etc/sysconfig/httpd

# pidfile: /var/run/httpd.pid

# Source function library.

. /etc/rc.d/init.d/functions

if [ -f /etc/sysconfig/httpd ]; then

. /etc/sysconfig/httpd

fi

# Start httpd in the C locale by default.

HTTPD_LANG=${HTTPD_LANG-"C"}

# This will prevent initlog from swallowing up a pass-phrase prompt if

# mod_ssl needs a pass-phrase from the user.

INITLOG_ARGS=""

# Set HTTPD=/usr/sbin/httpd.worker in /etc/sysconfig/httpd to use a server

# with the thread-based "worker" MPM; BE WARNED that some modules may not

# work correctly with a thread-based MPM; notably PHP will refuse to start.

# Path to the apachectl script, server binary, and short-form for messages.

apachectl=/usr/local/httpd24/bin/apachectl

httpd=${HTTPD-/usr/local/httpd24/bin/httpd}

prog=httpd

pidfile=${PIDFILE-/var/run/httpd24.pid}

lockfile=${LOCKFILE-/var/lock/subsys/httpd24}

RETVAL=0

start() {

echo -n $"Starting $prog: "

LANG=$HTTPD_LANG daemon --pidfile=${pidfile} $httpd $OPTIONS

RETVAL=$?

echo

[ $RETVAL = 0 ] && touch ${lockfile}

return $RETVAL

}

stop() {

echo -n $"Stopping $prog: "

killproc -p ${pidfile} -d 10 $httpd

RETVAL=$?

echo

[ $RETVAL = 0 ] && rm -f ${lockfile} ${pidfile}

}

reload() {

echo -n $"Reloading $prog: "

if ! LANG=$HTTPD_LANG $httpd $OPTIONS -t >&/dev/null; then

RETVAL=$?

echo $"not reloading due to configuration syntax error"

failure $"not reloading $httpd due to configuration syntax error"

else

killproc -p ${pidfile} $httpd -HUP

RETVAL=$?

fi

echo

}

# See how we were called.

case "$1" in

start)

start

;;

stop)

stop

;;

status)

status -p ${pidfile} $httpd

RETVAL=$?

;;

restart)

stop

start

;;

condrestart)

if [ -f ${pidfile} ] ; then

stop

start

fi

;;

reload)

reload

;;

graceful|help|configtest|fullstatus)

$apachectl $@

RETVAL=$?

;;

*)

echo $"Usage: $prog {start|stop|restart|condrestart|reload|status|fullstatus|graceful|help|configtest}"

exit 1

esac

exit $RETVAL

# chmod +x /etc/rc.d/init.d/httpd

# chkconfig --add httpd24

5. 配置httpd

## 创建网页文件目录

# mkdir -p /var/www/htdocs/Discuz/upload/

## 查看192.168.98.130主机是否成功导出目录

# showmount -e 192.168.98.130

Export list for 192.168.98.130:

/var/www/htdocs/Discuz/upload 192.168.98.129/24,192.168.98.128/24

## 在/etc/fstab中添加自动挂载项

192.168.98.130:/var/www/htdocs/Discuz/upload /var/www/htdocs/Discuz/upload nfs auto,acl 0 0

# mount -a

6. 配置虚拟主机，设置反向代理

# vim /etc/httpd24/httpd.conf 添加或者开启

## 反向代理支持模块

LoadModule proxy_module modules/mod_proxy.so

LoadModule proxy_fcgi_module modules/mod_proxy_fcgi.so

## 虚拟主机，需要注释掉原主机

#DocumentRoot "/usr/local/httpd24/htdocs/Discuz/upload"

<VirtualHost *:80>

DocumentRoot "/var/www/htdocs/Discuz/upload"

DirectoryIndex index.php index.html home.html default.html

ServerName www.discuz.com

ProxyRequests Off

ProxyPassMatch ^/(.*\.php)$ fcgi://192.168.98.130:9000/var/www/htdocs/Discuz/upload/$1

<Directory "/var/www/htdocs/Discuz/upload">

Options none

AllowOverride none

Require all granted

</Directory>

</VirtualHost>

## 启动服务

# service httpd24 start

五、安装discuz论坛并测试 。

windows 测试

修改C:\Windows\System32\drivers\etc\hosts 文件，添加如下两行

192.168.98.128 www.discuz.com

192.168.98.129 www.discuz.com

浏览器输入域名后，即可进行安装，数据库安装时，输入预先在192.168.98.131数据库服务器上设置的认证信息

关闭192.168.98.129 web服务器，上传一个图片

关闭192.168.98.128后，启动192.168.98.129，刷新浏览器依然可以看到附件，说明负载均衡生效了