MFS集群部署

MFS分布式文件系统搭建

MFS背景

mooseFS（moose 驼鹿）是一款网络分布式文件系统。它把数据分散在多台服务器上，但对于用户来讲，看到的只是一个源。MFS也像其他类unix文件系统一样，包含了层级结构（目录树），存储着文件属性（权限，最后访问和修改时间），可以创建特殊的文件（块设备，字符设备，管道，套接字），符号链接，硬链接。

MooseFS[MFS]是一个具有容错性的网络分布式文件系统。它把数据分散存放在多个物理服务器上，而呈现给用户的则是一个统一的资源。

一、SAN和MFS比较

   当我们存储服务器的容量达到瓶颈之后，那我们就需要采用分布式的文件系统来扩大存储容量，类似与百度云的存储，也是采用分布式存储!

二、MFS的特征

   1：层析结构（目录树）

   2：存储文件属性（权限，访问和修改时间）

   3：支持特殊文件（块设备，字符设备，管道）

   4：符号链接，软硬链接

   5：对文件系统访问可以通过IP地址或者密码进行访问限制

   6：高可靠（数据的多个拷贝存储在不同的计算机上）

   7：通过附加新的计算机或者硬盘可以实现容量的动态拓展

   8：删除文件可以根据一个可配置的时间周期进行保留

   9：不受访问和写入影响的文件连贯快照

应用场景

      谈及MooseFS的应用场景，其实就是去谈分布式文件系统的应用场景。

      1）大规模高并发的数据存储及访问（小文件、大文件），

      2）大规模的数据处理，如日志分析

源码编译搭建下载地址：

https://moosefs.com/support/#documentation

三、MFS分布式文件系统部署方案

MooseFS 是一种分布式文件系统，MooseFS 文件系统结构包括以下四种角色：

1 管理服务器 managing server (master)：

负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝

2元数据日志服务器Metalogger server（Metalogger）：

负责备份 master 服务器的变化日志文件，文件类型为 changelog_ml.*.mfs，以便于在 master server 出问题的时候接替其进行工作

3 数据存储服务器 data servers (chunk servers ) ：

听从管理服务器调度,提供存储空间，并为客户提供数据传输.。 真正存储用户数据的服务器。存储文件时，首先把文件分成块，然后这些块在数据服务器chunkserver之间复 制（复制份数可以手工指定，建议设置副本数为 3）。数据服务器可以是多个，并且数量越多，可使用的“磁盘空间”越大，可靠性也越高。

4 客户机挂载使用 client computers ：

客户端挂载远程mfs服务器共享出的存储并使用。  通过fuse 内核接口挂载进程管理服务器上所管理的数据存储服务器共享出的硬盘。 共享的文件系统的用法和 nfs 相似。使用 MFS 文件系统来存储和访问的主机称为 MFS 的客户端，成功挂接 MFS 文件系统以后，就可以像以前使用 NFS 一样共享这个虚拟性的存储了。

3.1 内部运行机制

   1：客户端请求访问存储，请求发送到了MFS Master

   2：MFS Master根据我们的请求，查询所需要的文件分布在那些服务器上

   3：客户端直接和存储服务器进行数据存储和读写

端口号简述：（基础理论知识了解一下）

9420  ： MFS master和MFS chunck通信端口

9421  ： MFS master和MFS Client端通信端口

9419  ： MFS master和MFSmetalogger端通信端口

9422  ： MFS chunck 和MFS Client端通信端口

9425  ： MFS master web界面监听端口，查看整体运行状态

四、MFS分布式文件实验环境

安装环境准备：

所有服务器端和客户端都要支持fuse内核模块。

由于mfs的客户端程序也就是加载mfs磁盘系统的命令是使用了fuse，因此只要是想挂载mfs的服务器，必要的前提条件就是先安装fuse，这样编译mfs的时候才能顺利通过。

fuse概述：

用户空间文件系统（Filesystem in Userspace，简称FUSE）是操作系统中的概念，指完全在用户态实现的文件系统。目前Linux通过内核模块对此进行支持。一些文件系统如NTFS-3G（作用：让Linux中对NTFS文件系统提供支持） 使用FUSE实现。

注：2.6以上内核，都自带fuse

拓扑图：

4.1、MFS管理服务器

所有节点上须配置好网络源，上传moosefs-master.zip源码包

[root@Master-server~]# yum install rpm-build gcc gcc-c++ fuse-devel zlib-devel –y                                      #解决依赖

[root@Master-server~]# useradd -s /sbin/nologin mfs #创建运行mfs用户

[root@Master-server~]# unzip moosefs-master.zip    #解压mfs源码包

[root@Master-server~]# cd moosefs-master/          #切换到源码目录

[root@Master-servermoosefs-master]# ./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs&& make -j 4&& make install

 #指定安装路径，用户，组，&& 内核编译&& 安装

[root@Master-servermoosefs-master]# echo $?     #验证编译安装是否成功

0

[root@Master-servermoosefs-master]# cd /usr/local/mfs/#切换到安装目录

[root@Master-servermfs]# ll

total4

drwxr-xr-x2 root root 4096 Jun 21 16:59 bin   #客户端工具

drwxr-xr-x3 root root   17 Jun 21 16:59 etc   #配置文件

drwxr-xr-x2 root root  208 Jun 21 16:59 sbin  #启动程序

drwxr-xr-x4 root root   31 Jun 21 16:59 share #文档

drwxr-xr-x3 root root   17 Jun 21 16:59 var   #元数据目录

[root@Master-servermfs]# cd / usr/local/mfs/etc/mfs/

//Master配置文件

[root@Master-servermfs]# cp mfsmaster.cfg.sample mfsmaster.cfg

//输出目录配置文件

[root@Master-servermfs]# cp mfsexports.cfg.sample mfsexports.cfg

//元数据日志

[root@Master-servermfs]# cp mfsmetalogger.cfg.sample mfsmetalogger.cfg

[root@Master-servermfs]# cd /usr/local/mfs/var/mfs/

//首次安装master 时&#