GPFS环境安装

1、软件安装包

请至钉钉文档查看附件《gpfs_rpms.zip》

2、安装步骤

1)长传gpfs_rpms.zip到linux服务器

2)使用unzip命令解压

3)按顺序安装一下安装包(安装软件时如果出现依赖问题,按照提示安装所需要的软件)

rpm -ivh gpfs.base*.rpm  (必要)
rpm -ivh gpfs.docs*.rpm   (必要)
rpm -ivh gpfs.gpl*.rpm   (必要)
rpm -ivh gpfs.msg.en_US*.rpm  (必要)
rpm -ivh gpfs.gskit*.rpm  (必要)

安装base时可能会提示当前系统缺少程序,可根据对应提示的程序名使用yum install 进行安装。
输入图片说明

image
输入图片说明

4)安装完成后在用户家目录下的.bashrc文件末尾添加

export PATH=$PATH:/usr/lpp/mmfs/bin

使用 source ~/.bashrc命令使添加的路径生效

5)使用mmbuildgpl命令编译安装包。

编译过程中可能出现一下问题(如出现某某未定义的引用,解决方案相同)
输入图片说明

根据错误提示,编辑文件 vim /usr/lpp/mmfs/src/gpl-linux/kdump.c

添加语句:unsigned long page_offset_base;
输入图片说明

重新执行mmbuildgpl命令进行编译。稍后会提示编译成功信息。

输入图片说明

6)进入 /usr/lpp/mmfs/src/ 这个目录执行make rpm命令,生成rpm安装包,生成的文件在用户家目录的rpmbuild/问价夹下,具体路径可看执行成功的输出。

输入图片说明

7)安装对应生成的rpm安装包。

输入图片说明

以上是正对单击安装,如是集群,请自行参考网上资料。

至此,基本安装完成

创建集群(以下是针对单机部署的步骤和流程)

1 设置免密登录

1
2
3
cd /root/.ssh/
ssh-keygen -t rsa #在主服务器创建秘钥 一路回车
cat id_rsa.pub >> authorized_keys

2 创建集群

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
// 在/tmp目录下创建dpfs文件夹,存放几个相关文件
mkdir /tmp/dpfs
cd /tmp/dpfs

// 生成gpfs集群的文件
echo $HOSTNAME:quorum-manager > gpfs

// 创建名为gpfs的集群 -C代表集群名 -N代表前一步生成的文件
mmcrcluster -N gpfs -C gpfs

// 启用license
mmchlicense server --accept -N $HOSTNAME

// 启动集群
mmstartup -a

// 查看集群状态
mmgetstate -L

2 创建gpfs文件系统

gpfs需要单独一个硬盘作为文件系统,不能使用系统的硬盘作为device。

在没有其他硬盘的情况下使用dd命令虚拟出一块硬盘。命令如下

1
dd if=/dev/zero of=nsd.img bs=1000M count=10
  • bs 代表字节为单位的块大小。

  • count 代表被复制的块数。

  • /dev/zero 是一个字符设备,会不断返回0值字节。

若挂载了其他磁盘,则可直接指定挂载的磁盘

2.1. 创建nsd文件

1
2
3
4
5
6
7
8
9
vim nsd

%nsd:
device=/tmp/gpfs/nsd01.img
nsd=nsd1
servers=centos
usage=dataAndMetadata
failureGroup=-1
pool=system
  • device:硬盘设备的具体路径,此处为dd虚拟出来的文件

  • nsd:nsd文件系统的名称

  • servers:自己的主机名

  • usage:{dataOnly | metadataOnly | dataAndMetadata | descOnly | localCache} 五种模式

  • failureGroup:默认值为 -1,表示该磁盘与其他任何磁盘没有共同的故障点。

  • pool:指定为其分配 NSD 的存储池的名称

2.2 使用如下命令创建nsd

1
mmcrnsd -F nsd -v no

-F:创建的nsd文件

-v:验证磁盘是否尚未格式化为NSD。

  1. 查看创建的nsd磁盘列表信息
1
mmlsnsd -X

删除nsd列表中的nsd1

1
mmdelnsd nsd1 

2.3 创建名为gpfs(xxx)的文件系统

1
mmcrfs gpfs -F nsd -Q yes -T /gpfs

-Q:挂载文件系统时自动激活配额。

-F:nsd文件

-T: 挂载点

使用其他参数可参考官方文档

mmcrfs command - IBM Documentation

配额设置查询

设置用户磁盘配额

1
mmsetquota gpfs --user jhadmin --block 1G:1G

管理员权限查询

1
mmrepquota -u  gpfs --block-size auto

普通用户查询

1
mmlsquota -u $USER

注意:如果查询不到,可能是因为挂载点中需要有文件(稍微大一点),还可以使用 mmcheckquota 文件系统名,命令来检查,然后再查询。