专栏首页小手冰凉FastDFS原理及部署

FastDFS原理及部署

FastDFS是一个c语言编写的一个开源的轻量级分布式文件系统,它对文件进程管理,功能包括:文件存储,文件同步,文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题,特别适合以文件为载体的在线服务,如相册网站,视频网站等等,FastDFS为互联网量身定制,充分考虑了冗余备份,负载均衡,现行扩容等,并注重高可用,高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载服务。

一、FastDFS原理及架构详解

1、FastDFS架构 FastDFS架构包括Tracker server和Storage server,client请求Tracker server 进行文件上传、下载,通过Tracker server调度最终由Storage server完成文件上传和下载。

Tracker server:负责调度及负载均衡,通过Tracker server,在文件上传时可以根据一些策略找到Storage server来提供上传服务,可以将tracker称为追踪服务器或调度服务器; Storage server:负责文件最终存储,客户端上传的文件最终存储在storage服务器上,Storage server没有实现自己的文件系统,而是利用操作系统的文件系统来管理文件,可以将storage称为存储服务器。

2、Fast DFS系统的角色 Fast DFS系统有三个角色:跟踪服务器(Tracker Server)、存储服务器(Storage Server)和客户端(Client)。

Tracker Server:跟踪服务器,主要做调度工作,起到均衡的作用;负责管理所有的Storage server和group,每个storage在启动后会连接Tracker,告知自己所属group等信息,并保持周期性心跳。 Storage Server:存储服务器,主要提供容量和备份服务;以group为单位,每个group内部可以有多台storage server,数据互为备份。 Client:客户端,上传下载数据的服务器,也就是我们自己的项目所部署在的服务器。

3、Fast DFS原理 关于模块:跟踪服务器和存储节点都可以由一台或多台服务器构成,跟踪服务器和存储节点均可以随时增加或者下线不会影响线上服务,其中跟踪服务器中所有服务器是对 等,可以根据服务器压力情况随时增加或减少

4、文件上传流程 Storage server会连接集群中所有的Tracker server,定时向他们报告自己的状态,包括磁盘剩余空间、文件同步状况、文件上传下载次数等统计信息。

客户端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。 文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。 虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。 数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

5、文件下载流程

client发送download请求给某个tracker,必须带上文件名信息,tracker从文件名中解析出文件的group、大小、创建时间等信息,然后为该请求选择一个storage用来服务读请求,由于group内的文件同步时在后台是异步的,所以有可能出现在读的时候,文件还没有同步到某些storage server上,为了尽量避免访问到这样的storage,tracker按照如下规则选择group内可读的storage: 文件创建时间戳-storage被同步到的时间戳 且(当前时间-文件创建时间戳)>文件同步最大时间(5分钟),说明文件创建后,认为经过最大同步时间后,肯定已经同步到其他storage了。

二、部署Fast DFS

1、环境如下

博文中所用软件包均可在(提取码:koxu)下载

由于有一些重复性的安装操作,所以找大佬写了个脚本,可以在进行那些重复性操作时,执行这个脚本。在上述链接中就有此脚本 2、配置tracker1

[root@tracker1 ~]# mkdir fastdfs
[root@tracker1 ~]# cd fastdfs/
[root@tracker1 fastdfs]# ls
fastdfs.tar.gz  install.sh  libfastcommon.tar.gz
[root@tracker1 fastdfs]# sh install.sh            # 执行脚本
tracker server install succees .......
[root@tracker1 fastdfs]# /etc/init.d/fdfs_trackerd start            # 起服务
Reloading systemd:                                         [  OK  ]
Starting fdfs_trackerd (via systemctl):                    [  OK  ]
[root@tracker1 fastdfs]# netstat -anput | grep 22122          # 确认端口在监听
tcp        0      0 192.168.171.134:22122   0.0.0.0:*               LISTEN      3847/fdfs_trackerd  

3、配置tracker2

[root@tracker2 ~]# mkdir fastdfs
[root@tracker2 ~]# cd fastdfs/
[root@tracker2 fastdfs]# ls
fastdfs.tar.gz  install.sh  libfastcommon.tar.gz
[root@tracker2 fastdfs]# sh install.sh
tracker server install succees .......
[root@tracker2 fastdfs]# /etc/init.d/fdfs_trackerd start 
Reloading systemd:                                         [  OK  ]
Starting fdfs_trackerd (via systemctl):                    [  OK  ]
[root@tracker2 fastdfs]# netstat -anput | grep 22122
tcp        0      0 192.168.171.135:22122   0.0.0.0:*               LISTEN      4276/fdfs_trackerd  

4、配置storage1

[root@storage1 ~]# mkdir fastdfs
[root@storage1 ~]# cd fastdfs/
[root@storage1 fastdfs]# tar zxf libfastcommon.tar.gz         
[root@storage1 fastdfs]# tar zxf fastdfs.tar.gz 
[root@storage1 libfastcommon-1.0.43]# ./make.sh && ./make.sh install
[root@storage1 libfastcommon-1.0.43]# cd ../fastdfs-6.06/
[root@storage1 fastdfs-6.06]# ./make.sh && ./make.sh install 
[root@storage1 fastdfs-6.06]# cd conf/
[root@storage1 conf]# cp mime.types http.conf /etc/fdfs/
[root@storage1 conf]# cd ../../
[root@storage1 fastdfs]# tar zxf fastdfs-nginx-module.tar.gz 
[root@storage1 fastdfs]# cp fastdfs-nginx-module-1.22/src/mod_fastdfs.conf /etc/fdfs/
[root@storage1 fastdfs]# cd /etc/fdfs/
[root@storage1 fdfs]# mkdir -p /data/storage-fdfs/base        # 建议分开放
[root@storage1 fdfs]# mkdir -p /data/storage-fdfs/store
[root@storage1 fdfs]# cp storage.conf.sample storage.conf
[root@storage1 fdfs]# vim storage.conf
group_name = group1
bind_addr =192.168.171.140
base_path = /data/storage-fdfs/base           #数据和日志目录地址
store_path0 = /data/storage-fdfs/store             # 存储地
tracker_server = 192.168.171.134:22122             #以下是指定tracker-server的监听地址
tracker_server = 192.168.171.135:22122
http.server_port = 8888                 #http访问文件的端口
[root@storage1 fdfs]# vim mod_fastdfs.conf 
base_path=/data/storage-fdfs/base
tracker_server=192.168.171.134:22122
tracker_server=192.168.171.135:22122
storage_server_port=23000
group_name=group1
url_have_group_name = true            #当group有多个的时候需要更改为true,以组名去访问
store_path0=/data/storage-fdfs/store
group_count = 2
[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/data/storage-fdfs/store
[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/data/storage-fdfs/store
#编译安装nginx并添加第三方模块
[root@storage1 fdfs]# cd ~/fastdfs/
[root@storage1 fastdfs]# yum -y install pcre-devel openssl-devel 
[root@storage1 fastdfs]# tar zxf nginx-1.16.1.tar.gz 
#注意下面的第三方nginx模块路径,要与自己的对应
[root@storage1 fastdfs]# cd nginx-1.16.1/
[root@storage1 nginx-1.16.1]# ./configure --add-module=/root/fastdfs/fastdfs-nginx-module-1.22/src && make && make install 
[root@storage1 nginx-1.16.1]# vim /usr/local/nginx/conf/nginx.conf
#在原来的server字段上面(34行)添加以下内容
    server {
        listen 8888;
        server_name localhost;
        location ~/group[0-9]/M00/ {
                ngx_fastdfs_module;
        }
}   
[root@storage1 nginx-1.16.1]# /etc/init.d/fdfs_storaged start 
Starting fdfs_storaged (via systemctl):                    [  确定  ]
[root@storage1 nginx-1.16.1]# /usr/local/nginx/sbin/nginx 
ngx_http_fastdfs_set pid=16712
#确定相关端口在监听
[root@storage01 conf]# netstat -anput | grep 23000
[root@storage01 conf]# netstat -anpt | grep 80
[root@storage01 conf]# netstat -anpt | grep 8888

4、配置主机storage02

[root@storage2 fastdfs]# tar zxf libfastcommon.tar.gz 
[root@storage2 fastdfs]# tar zxf fastdfs.tar.gz 
[root@storage2 fastdfs]# cd libfastcommon-1.0.43/
[root@storage2 libfastcommon-1.0.43]# ./make.sh && ./make.sh install 
[root@storage2 libfastcommon-1.0.43]# cd ../fastdfs-6.06/
[root@storage2 fastdfs-6.06]# ./make.sh && ./make.sh install 
[root@storage2 fastdfs-6.06]# cd conf/
[root@storage2 conf]# cp mime.types http.conf /etc/fdfs/
[root@storage2 conf]# cd ../../
[root@storage2 fastdfs]# tar zxf fastdfs-nginx-module.tar.gz 
[root@storage2 fastdfs]# cd /etc/fdfs/
#将storage01修改后的配置文件复制到本地
[root@storage2 fdfs]# scp root@192.168.171.140:/etc/fdfs/storage.conf /etc/fdfs/
[root@storage2 fdfs]# scp root@192.168.171.140:/etc/fdfs/mod_fastdfs.conf /etc/fdfs/
[root@storage2 fdfs]# vim storage.conf           # 修改复制后的配置文件
group_name = group2
bind_addr =192.168.171.143
[root@storage2 fdfs]# vim mod_fastdfs.conf 
group_name=group2
[root@storage2 fdfs]# mkdir -p /data/storage-fdfs/base
[root@storage2 fdfs]# mkdir -p /data/storage-fdfs/store
#安装nginx
[root@storage2 fdfs]# cd ~/fastdfs/
[root@storage2 fastdfs]# tar zxf nginx-1.16.1.tar.gz 
[root@storage2 fastdfs]# yum -y install pcre-devel openssl-devel 
[root@storage2 nginx-1.16.1]# ./configure --add-module=/root/fastdfs/fastdfs-nginx-module-1.22/src/ && make && make install 
[root@storage2 nginx-1.16.1]# cd /usr/local/nginx/conf/
#将storage01主机的配置文件复制过来即可
[root@storage2 conf]# scp root@192.168.171.140:/usr/local/nginx/conf/nginx.conf ./
[root@storage2 ~]# /etc/init.d/fdfs_storaged start 
Starting fdfs_storaged (via systemctl):                    [  确定  ]
[root@storage2 ~]# /usr/local/nginx/sbin/nginx 
ngx_http_fastdfs_set pid=5694
[root@storage02 conf]# netstat -anput | grep 23000
[root@storage02 conf]# netstat -anpt | grep 80
[root@storage02 conf]# netstat -anpt | grep 8888

5、配置主机nginx提供反向代理功能

[root@nginx ~]# tar zxf nginx-1.16.1.tar.gz 
[root@nginx ~]# yum -y install pcre-devel openssl-devel 
[root@nginx ~]# cd nginx-1.16.1/
[root@nginx nginx-1.16.1]# ./configure && make && make install 
[root@nginx nginx-1.16.1]# vim /usr/local/nginx/conf/nginx.conf
#找到http字段
http {
    include       mime.types;
    default_type  application/octet-stream;
    #添加如下内容
    upstream fdfs_group1 {
        server 192.168.171.140:8888 weight=1 max_fails=2 fail_timeout=30s;
        }
    upstream fdfs_group2 {
        server 192.168.171.143:8888 weight=1 max_fails=2 fail_timeout=30s;
        }
    #找到server字段
 server {
        listen       80;
        server_name  localhost
        #charset koi8-r
        #access_log  logs/host.access.log  main;
        location / {
            root   html;
            index  index.html index.htm;
        }
                #添加如下内容
        location ~/group1 {
                proxy_pass http://fdfs_group1;
        }
        location ~/group2 {
                proxy_pass http://fdfs_group2;
        }
[root@nginx nginx-1.16.1]# /usr/local/nginx/sbin/nginx 
[root@nginx nginx-1.16.1]# netstat -anput |grep 80

6、客户端验证服务是否可以正常使用

[root@client ~]# mkdir fastdfs
[root@client ~]# cd fastdfs/
[root@client fastdfs]# tar zxf libfastcommon.tar.gz 
[root@client fastdfs]# tar zxf fastdfs.tar.gz 
[root@client fastdfs]# cd libfastcommon-1.0.43/
[root@client libfastcommon-1.0.43]# ./make.sh && ./make.sh install 
[root@client libfastcommon-1.0.43]# cd ../fastdfs-6.06/
[root@client fastdfs-6.06]# ./make.sh && ./make.sh install 
[root@client fastdfs-6.06]# cd /etc/fdfs/
[root@client fdfs]# cp client.conf.sample client.conf
[root@client fdfs]# vim /etc/fdfs/client.conf
base_path = /data/storage-fdfs/base
tracker_server = 192.168.171.134:22122
tracker_server = 192.168.171.135:22122
[root@client ~]# mkdir -p /data/storage-fdfs/store
[root@client ~]# ls test.jpg 
test.jpg
[root@client ~]# fdfs_upload_file /etc/fdfs/client.conf test.jpg          # 上传
group2/M00/00/00/wKirj15-NhGAIeapAAFEF6rSzeI524.jpg 
#上面返回的信息需要保存,访问这个图片时需要
[root@client ~]# fdfs_download_file /etc/fdfs/client.conf group2/M00/00/00/wKirj15-NhGAIeapAAFEF6rSzeI524.jpg b.jpg
[root@client ~]# ls b.jpg 
b.jpg                 # 可以看到已经下载并且更改名称了

浏览器访问nginx反向代理+上传图片时返回的ID

最后附加几条FastDFS命令

fdfs_upload_file  Usage: 
fdfs_upload_file <config_file> <local_filename> [storage_ip:port] [store_path_index] 
用于上传文件  
用法为 fdfs_upload_file + 配置文件 + 文件 
fdfs_download_file  Usage: 
fdfs_download_file <config_file> <file_id> [local_filename] [<download_offset> <download_bytes>] 
用于下载文件  
用法为 fdfs_download_file + 配置文件 + 文件 
fdfs_file_info Usage: 
fdfs_file_info <config_file> <file_id> 
用于查看文件信息  
用法为 fdfs_file_info + 配置文件 + 文件 
fdfs_delete_file  Usage: 
fdfs_delete_file <config_file> <file_id> 
用于删除文件  
用法为 fdfs_delete_file + 配置文件 + 文件 
fdfs_monitor  Usage: 
fdfs_monitor <config_file> [-h <tracker_server>] [list|delete|set_trunk_server <group_name> [storage_id]] 
用于查看集群信息  
用法为 fdfs_monitor + 配置文件 

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 基于 Centos 7 搭建Nginx(包含虚拟主机)

    Nginx专为性能优化而开发,其最大的优点就是它的稳定性和低系统资源消耗,以及对http并发连接的高处理能力,单台物理服务器可支持20000~50000个并发请...

    小手冰凉
  • Linux 弱口令检测和端口扫描

    在 Internet 环境中,过于简单的口令是服务器面临的最大风险,对于任何一个承担着安全责任的管理员,及时找出这些弱口令账号是非常必要的。 John the ...

    小手冰凉
  • zookeeper(单机、伪集群、集群)部署

    ZooKeeper是一个分布式的、开源的分布式应用程序协调服务,可以在分布 式环境中实现应用配置管理、统一命名服务、状态同步服务等功能。 ZooKeeper是一...

    小手冰凉
  • mysql-sandbox 安装

    稍等20s后,就会自动在/root/sandboxes目录下生成一个类似msb_10_3_0的目录

    二狗不要跑
  • python中os. popen sy

    python调用Shell脚本或者是调用系统命令,有两种方法: os.system(cmd)或os.popen(cmd),前者返回值是脚本的退出状态码,正确会返...

    py3study
  • linux基础学习整理

    未来sky
  • linux每日命令(28):chgrp命令

    在linux系统里,文件或目录的权限的掌控以拥有者及所属群组来管理。可以使用chgrp指令取变更文件与目录所属群组,这种方式采用群组名称或群组识别码都可以。Ch...

    用户1214487
  • 附016.Kubernetes_v1.17.4高可用部署

    Kubernetes的高可用主要指的是控制平面的高可用,即指多套Master节点组件和Etcd组件,工作节点通过负载均衡连接到各Master。HA有通常有如下两...

    木二
  • Contrastive Loss(对比损失)Contrastive Loss

    致Great
  • 小蛇学python(7)tkinter库的基本使用

    最近做一个小项目,又将tkinter库重新温习了一遍。tk其实并不如很多网友说的那样一文不值,它确实不如QT,Wxpython功能强大,但是这也意味着它比较简单...

    用户2145057

扫码关注云+社区

领取腾讯云代金券