新鈦雲服已累計為您分享812篇技術乾貨
實驗環境資訊
我們將在三臺RHEL8.3版本的x86伺服器上安裝Spectrum Scale 5.1.1版本三臺伺服器已經預先進行了如下配置
(1)RHEL安裝盤作為本地YUM源
(2)節點間互信,免密碼登入
(3)/etc/hosts中新增主機名稱和IP地址資訊
(4)防火牆關閉且SELINUX=disabled
(5)預安裝以下rpm包
提取GPFS所需基本包
注意:此後如沒有特殊說明,都只在gpfs101節點上執行即可
其中引數–silent 表示以靜默方式提取,如果不加該引數需要輸入數字“1”,同意相關協議
/root/Spectrum_Scale_Advanced-5.1.1.0-x86_64-Linux-install--silent
配置 Install 節點
cd /usr/lpp/mmfs/5.1.1.0/ansible-toolkit/
./spectrumscale setup -s 192.168.1.101
新增節點並檢視配置
其中引數-a表示admin節點、-g表示GUI節點,-n表示NSD節點,-m表示manager節點,-q表示quorum節點
./spectrumscale node add gpfs101 -a -g -n -m -q
./spectrumscale node add gpfs102 -a -g -n -q
./spectrumscale node add gpfs103 -n -q
./spectrumscale node list
增加NSD磁碟空間,並檢視
其中引數-p表示主NSD節點,-fs表示建立的檔案系統,-fg表示所在的Failure Group,-po表示儲存池,-u表示儲存的資料型別,“/dev/sdx”表示磁碟裝置,實驗中3個NSD節點各有3塊本地磁碟sdb/sdc/sdd用於建立NSD。
以下命令建立了一個Filesystem(gpfs);
3個Pool(system/pool01/pool02);
3個Failure Group(101/102/103)
./spectrumscale nsd add -p gpfs101 -fs gpfs -fg 101 -po system -u dataAndMetadata "/dev/sdb"
./spectrumscale nsd add -p gpfs101 -fs gpfs -fg 101 -po pool01 -u dataOnly "/dev/sdc"
./spectrumscale nsd add -p gpfs101 -fs gpfs -fg 101 -po pool02 -u dataOnly "/dev/sdd"
./spectrumscale nsd add -p gpfs102 -fs gpfs -fg 102 -po system -u dataAndMetadata "/dev/sdb"
./spectrumscale nsd add -p gpfs102 -fs gpfs -fg 102 -po pool01 -u dataOnly "/dev/sdc"
./spectrumscale nsd add -p gpfs102 -fs gpfs -fg 102 -po pool02 -u dataOnly "/dev/sdd"
./spectrumscale nsd add -p gpfs103 -fs gpfs -fg 103 -po system -u dataAndMetadata "/dev/sdb"
./spectrumscale nsd add -p gpfs103 -fs gpfs -fg 103 -po pool01 -u dataOnly "/dev/sdc"
./spectrumscale nsd add -p gpfs103 -fs gpfs -fg 103 -po pool02 -u dataOnly "/dev/sdd"
./spectrumscale nsd list
檢視檔案系統,
調整副本數量與掛載點
其中引數 -mr表示metadata當前副本數,-MR表示metadata最大副本數,-r表示當前資料副本數,-R表示最大資料副本數,-m表示掛載點位置。這裡可以透過list命令,檢視副本數和掛載點修改前後的對比
./spectrumscale filesystem list
./spectrumscale filesystem modify gpfs -mr 2 -MR 3 -r 2 -R 3 -m /gpfs
./spectrumscale filesystem list
配置效能監控功能
開啟效能監控,預設已經開啟
./spectrumscale config perfmon -r on
配置GPFS 叢集名
通訊埠並檢視
其中引數-c表示叢集名稱,-e表示GPFS Daemon通訊埠範圍
./spectrumscale config gpfs -c gpfsdemo -e 60000-61000
./spectrumscale config gpfs --list
配置 Callhome 功能
這裡我們把callhome功能關閉
./spectrumscale callhome disable
檢視並檢查GPFS叢集配置資訊
./spectrumscale install--precheck
開始安裝GPFS叢集
包括NSD,效能監控,GUI,檔案系統等安裝
注意:前述步驟只是進行配置,當前步驟才開始按照前述配置執行安裝
./spectrumscale install
該命令執行時間較長,請耐心等待16分鐘
-
編譯問題:
問題一:
Cannot find a valid kernel header file. One of these files should exist.
/lib/modules/3.10.0-1160.el7.x86_64/build/include/linux/version.h
/usr/src/linux-3.10.0-1160.el7.x86_64/include/linux/version.h
/usr/src/kernels/3.10.0-1160.el7.x86_64/include/generated/uapi/linux/version.h
/lib/modules/3.10.0-1160.el7.x86_64/build/include/generated/uapi/linux/version.h
Contact IBM Service if you still encounter this problem after you install all the required packages.
make: *** [Autoconfig] 錯誤 1
# 原因:路徑/usr/src/kernels/3.10.0-1160.el7.x86_64不存在
[root@gpfs 3.10.0-1160.el7.x86_64]# ll /lib/modules/3.10.0-1160.el7.x86_64
total 3300
lrwxrwxrwx. 1 root root 39 Aug 31 08:35 build -> /usr/src/kernels/3.10.0-1160.el7.x86_64
.....
[ ]
[ ]
問題二:
In file included from /usr/include/sys/ioctl.h:26:0,
from /usr/lpp/mmfs/src/gpl-linux/lxtrace.c:61:
/usr/include/bits/ioctls.h:23:24: 致命錯誤:asm/ioctls.h:沒有那個檔案或目錄
^
[root@node1 src]
/usr/src/kernels/3.10.0-1160.el7.x86_64/arch/x86/include/uapi/asm/ioctls.h
/usr/src/kernels/3.10.0-1160.el7.x86_64/include/uapi/asm-generic/ioctls.h
[root@node1 src]
[root@node1 src]
問題三:
kdump-kern.o:在函式‘GetOffset’中:
kdump-kern.c:(.text+0x15):對‘__x86_return_thunk’未定義的引用
kdump-kern.o:在函式‘KernInit’中:
kdump-kern.c:(.text+0x1a5):對‘__x86_return_thunk’未定義的引用
kdump-kern.o:在函式‘GenericGet’中:
kdump-kern.c:(.text+0x348):對‘__x86_return_thunk’未定義的引用
kdump-kern.c:(.text+0x35e):對‘__x86_return_thunk’未定義的引用
kdump-kern.o:在函式‘tiInit’中:
kdump-kern.c:(.text+0x3bc):對‘__x86_return_thunk’未定義的引用
kdump-kern.o:kdump-kern.c:(.text+0x445): 跟著更多未定義的參考到 __x86_return_thunk
collect2: 錯誤:ld 返回 1
make[1]: *** [modules] 錯誤 1
make[1]: 離開目錄“/usr/lpp/mmfs/src/gpl-linux”
make: *** [Modules] 錯誤 1
vim /usr/lpp/mmfs/src/gpl-linux/kdump.c
unsignedlong __x86_return_thunk;
問題四:
kdump-kern.o: In function `GetOffset':
kdump-kern.c:(.text+0x9): undefined reference to `page_offset_base'
kdump-kern.o: In function `KernInit':
kdump-kern.c:(.text+0x58): undefined reference to `page_offset_base'
collect2: error: ld returned 1 exit status
make[1]: *** [modules] Error 1
make[1]: Leaving directory `/usr/lpp/mmfs/src/gpl-linux'
make: *** [Modules] Error 1
vim/usr/lpp/mmfs/src/gpl-linux/kdump.c
# 在122行新增內容
unsignedpage_offset_base;
配置 GUI 賬戶
建立admin賬戶,並新增到Administrator和SecurityAdmin組中
/usr/lpp/mmfs/gui/cli/mkuser admin -g Administrator,SecurityAdmin
之後輸入兩次密碼,例如:admin001,在瀏覽器中可以透過 http://192.168.1.101 訪問GUI介面
注:GUI介面的使用不在本實驗演示範圍,接下來請回到命令列介面繼續實驗
為CES服務修改 Hosts 檔案
注意:該步需要在所有節點執行
在所有節點的hosts檔案中,寫入CES的IP地址
Tips:Cluster Export Services(CES)可以提供高可用的檔案和物件服務,包括NFS、SMB和Object
echo"192.168.1.104 ces104.cscdemo.cn ces104">>/etc/hosts
echo"192.168.1.105 ces105.cscdemo.cn ces105">>/etc/hosts
echo"192.168.1.106 ces106.cscdemo.cn ces106">>/etc/hosts
新增協議服務節點並檢視
配置gpfs101/gpfs102/gpfs103為協議服務節點
./spectrumscale node add gpfs101 -p
./spectrumscale node add gpfs102 -p
./spectrumscale node add gpfs103 -p
./spectrumscale node list
分配CES協議服務IP地址
./spectrumscale config protocols -e 192.168.1.104,192.168.1.105,192.168.1.106
配置cesShareRoot
其中引數-f表示放置的檔案系統,-m表示掛載路徑
./spectrumscale config protocols -f gpfs -m /gpfs
./spectrumscale enable nfs
./spectrumscale enable smb
檢查協議配置資訊
./spectrumscale deploy --precheck
部署協議服務
部署包括CES,NFS和SMB
./spectrumscale deploy
該命令執行時間較長,請耐心等待10分鐘
配置協議服務認證方式
這裡採用本地認證方式
/usr/lpp/mmfs/bin/mmuserauth service create--data-access-method file --type userdefined
新增認證使用者
注意:該步需要在所有節點執行
建立本地使用者,下面建立了 cscdemo 使用者並且輸入password作為密碼
useradd cscdemo
/usr/lpp/mmfs/bin/smbpasswd -a cscdemo
釋出SMB共享目錄
建立smbshare1目錄,給 cscdemo 使用者設定該目錄許可權,併發布共享
mkdir /gpfs/smbshare1
chown cscdemo /gpfs/smbshare1
/usr/lpp/mmfs/bin/mmsmb export add smbshare1 /gpfs/smbshare1
訪問SMB目錄
在桌面右上角選擇 Applications -> File Manager
然後輸入smb://192.168.1.104/smbshare1 回車
(請等待幾秒鐘,回車一次就好,待彈出對話方塊)
選擇 Connect as user ,輸入使用者名稱(Username):cscdemo ,
密碼(Password):password 點選 Connect在開啟的目錄中,嘗試建立任何檔案或目錄,返回gpfs101的/gpfs/smbshare1可以檢視到
如有相關問題,請在文章後面給小編留言,小編安排作者第一時間和您聯絡,為您答疑解惑。