FusionInsight LibrA是企业级的大规模并行处理关系型数据库。FusionInsight LibrA采用MPP(Massive Parallel Processing)架构,支持行存储与列存储,提供PB(Petabyte,2的50次方字节)级别数据量的处理能力。 FusionInsight LibrA在核心技术上跟传统数据库相比有巨大优势,可以解决很多行业用户的数据处理性能问题,可以为超大规模数据管理提供高性价比的通用计算平台,并可用于支撑各类数据仓库系统、BI(Business Intelligence)系统和决策支持系统,统一为上层应用的决策分析等提供服务。 FusionInsight解决方案是华为企业级大数据存储、查询、分析的统一平台,能够帮助企业快速构建海量数据信息处理系统,通过对海量信息数据进行实时与非实时的分析挖掘,发现全新价值点和企业商机。 FusionInsight LibrA是FusionInsight解决方案的一个子产品。FusionInsight LibrA在FusionInsight解决方案中的位置如图所示: FusionInsight解决方案由2个子产品FusionInsight HD、FusionInsight LibrA和1个操作运维系统FusionInsight Manager构成。

  • FusionInsight HD:企业级的大数据处理环境,是一个分布式数据处理系统,对外提供大容量的数据存储、分析查询和实时流式数据处理分析能力。
  • FusionInsight LibrA:企业级的大规模并行处理关系型数据库。FusionInsight LibrA采用MPP(Massive Parallel Processing)架构,支持行存储和列存储,提供PB(Petabyte,2的50次方字节)级别数据量的处理能力。
  • FusionInsight Manager:企业级大数据的操作运维系统,提供高可靠、安全、容错、易用的集群管理能力,支持大规模集群的安装部署、监控、告警、用户管理、权限管理、审计、服务管理、健康检查、问题定位、升级和补丁等功能。

一、安装前准备

1.1 环境介绍

本文使用的服务器都是基于VMware虚拟化平台,具体信息如下图所示: 集群组网方案如下图所示:

1.2 软件下载

从华为官方网站下载HD软件安装包和配置工具(需要账号),如下:

[root@hwd01 opt]# la /u02/software/hw/
-rw-r--r-- 1 root root 898M Jul 30 15:07 FusionInsight_LibrA_V100R002C80SPC300_RHEL.tar.gz
-rw-r--r-- 1 root root 301K Sep 14 11:40 FusionInsight_SetupTool_V100R002C80SPC200.tar.gz

二、安装过程

2.1 安装包准备

这里安装过程中使用了集群模式,所以需要将安装包上传至2个管理节点上。另外还需在一个管理节点上挂载操作系统的镜像至media目录,因为在配置规划工具中会用到。这里用的是nfs共享,如下:

[root@hwd01 ~]# mkdir /u02;mount onas:/u02 /u02;mount /u02/CentOS-7-x86_64-DVD-1708.iso /media
[root@hwd02 ~]# mkdir /u02;mount onas:/u02 /u02

2.2 解压软件包

需要在集群的2个管理节点上进行解压操作。

--hwd01
[root@hwd02 ~]# cd /opt/
[root@hwd02 opt]# tar -xzf /u02/software/hw/FusionInsight_SetupTool_V100R002C80SPC200.tar.gz 
[root@hwd02 opt]# tar -xzf /u02/software/hw/FusionInsight_LibrA_V100R002C80SPC300_RHEL.tar.gz 
--hwd02
[root@hwd02 ~]# cd /opt/
[root@hwd02 opt]# tar -xzf /u02/software/hw/FusionInsight_SetupTool_V100R002C80SPC200.tar.gz 
[root@hwd02 opt]# tar -xzf /u02/software/hw/FusionInsight_LibrA_V100R002C80SPC300_RHEL.tar.gz 

2.3 生成配置文件

通过配置规划工具,生成配置文件。此工具就是一个execl文件,里面通过宏来进行一些配置,最后输出为文件。

  • 基础配置
  • 选择服务
  • IP规划与进程部署
  • 节点信息
  • 浮动IP
  • 磁盘配置
  • 集群参数设置
  • 实例参数设置
  • 生成配置文件 生成的配置文件会存放在d:\software文件夹下,根据提示输入用户名以及密码并上传至指定的节点目录。

2.4 预安装配置

[root@hwd01 FusionInsight_SetupTool]# ./setuptool.sh preinstall

2.5 安装集群服务

现在主节点执行,完了后在备用节点执行,如下:

--主节点hwd01
[root@hwd01 ~]# /opt/FusionInsight/software/install.sh -f /opt/FusionInsight/software/install_oms/192.168.120.122.ini 

--备用节点hwd02
[root@hwd02 ~]# /opt/FusionInsight/software/install.sh -f  

安装完成后,初次访问需要更改admin账户的初始密码,初始密码为:Admin@123。

三、配置集群服务

通过web界面访问,选择使用模板安装,导入生成的模板文件,会弹出输入主机的root密码,然后点击查找主机,验证通过后,会跳到“确认”步骤。 配置完成后,点击“完成”。

  • 实时监控标签
  • 服务管理标签
  • 主机管理标签

四、客户端安装与使用

这里还是使用nfs服务批量部署,具体过程参考之前的FusionInsight HD 客户端安装与使用的批量部署客户端。

[root@onas FusionInsight_Services_ClientConfig]# ./install.sh /u02/huawei/client
[18-10-08 14:30:28]: Pre-install check begin...
[18-10-08 14:30:28]: Checking necessary files and directory.
[18-10-08 14:30:28]: Checking NTP service status.
[18-10-08 14:30:28]: Checking "/etc/hosts" config.
[18-10-08 14:30:28]: Pre-install check is complete.
[18-10-08 14:30:28]: Precheck on components begin...
[18-10-08 14:30:28]: Precheck on components is complete.
[18-10-08 14:30:28]: Deploy "dest_hosts" begin ...
[18-10-08 14:30:28]: Warning: "hwd02" already exists in "/etc/hosts", it will be overwritten.
[18-10-08 14:30:28]: Warning: "hwd01" already exists in "/etc/hosts", it will be overwritten.
[18-10-08 14:30:28]: Warning: "hwd05" already exists in "/etc/hosts", it will be overwritten.
[18-10-08 14:30:28]: Warning: "hwd04" already exists in "/etc/hosts", it will be overwritten.
[18-10-08 14:30:28]: Warning: "hwd03" already exists in "/etc/hosts", it will be overwritten.
[18-10-08 14:30:28]: Deploy "dest_hosts" is complete.
[18-10-08 14:30:28]: Install public library begin ...
[18-10-08 14:30:28]: Install components client begin ...
[18-10-08 14:30:28]: Install JDK begin ...
[18-10-08 14:30:28]: Decompress jdk.tar.gz to /u02/huawei/client/JDK.
/u02/tmp/FusionInsight_Services_ClientConfig/JDK
[18-10-08 14:30:34]: Create JRE env file "/u02/huawei/client/JDK/component_env".
[18-10-08 14:30:34]: JDK installation is complete.
[18-10-08 14:30:34]: Warning: /u02/tmp/FusionInsight_Services_ClientConfig/JDK/VERSION not exist.
[18-10-08 14:30:34]: Install KrbClient begin ...
[18-10-08 14:30:34]: Copy /u02/tmp/FusionInsight_Services_ClientConfig/KrbClient/FusionInsight-kerberos-1.15.2.tar.gz to /u02/huawei/client/KrbClient.
/u02/tmp/FusionInsight_Services_ClientConfig/KrbClient
[18-10-08 14:30:34]: Copy KRB config files to "/u02/huawei/client/KrbClient/kerberos/conf"
[18-10-08 14:30:34]: Copy security script files to "/u02/huawei/client/KrbClient/kerberos/bin"
[18-10-08 14:30:34]: Create KRB env file "/u02/huawei/client/KrbClient/component_env".
[18-10-08 14:30:34]: KrbClient installation is complete.
[18-10-08 14:30:34]: Install MPPDB begin ...
[18-10-08 14:30:34]: Decompress Gauss200-OLAP-V100R007C10-REDHAT-64bit-ClientTools.tar.gz to /u02/huawei/client/MPPDB.
[18-10-08 14:30:35]: Copy config files to "/u02/huawei/client/MPPDB/"
[18-10-08 14:30:35]: Begin to update the client ssl certificates.
[18-10-08 14:30:35]: Success to update the client ssl certificates.
[18-10-08 14:30:35]: Create MPP env file "/u02/huawei/client/MPPDB/component_env".
[18-10-08 14:30:35]: MPPDB installation is complete.
[18-10-08 14:30:35]: Components client installation is complete.
[root@onas ~]# source /u02/huawei/client/bigdata_env 
[root@onas ~]# kinit candon
Password for candon@HADOOP.COM: 
Password expired.  You must change it now.
Enter new password: 
Enter it again: 
[root@onas ~]# kinit candon
Password for candon@HADOOP.COM: 
[root@onas ~]# klist 
Ticket cache: FILE:/tmp/krb5cc_0
Default principal: candon@HADOOP.COM

Valid starting       Expires              Service principal
10/08/2018 14:53:16  10/09/2018 14:53:12  krbtgt/HADOOP.COM@HADOOP.COM

五、数据库使用

5.1 确认连接信息

以操作系统用户omm登录LibrA集群任意一套主机,执行source ${BIGDATA_HOME}/mppdb/.mppdbgs_profule命令启动环境变量。

[omm@hwd01 ~]$ source /opt/huawei/Bigdata/mppdb/.mppdbgs_profile 

然后使用gs_om命令查询集群各实例情况,确认CN所在的服务器的IP地址及数据路径(端口号查询备用)。如下:

[omm@hwd01 ~]$ gs_om -t status --detail

默认的端口号是25308,也可以通过查看/srv/BigData/mppdb/data1/coordinator/postgresql.conf配置文件确认端口号。

5.2 配置远程连接

由于服务器默认只监听localhost,而进行远程连接的时候还需要监听管理平面的IP,所以需要配置listen_addresses,增加对外提供服务的网卡IP或者主机名(英文逗号分隔),其中NodeName为当前节点名称。这里直接将listen_addresses配置为,此配置下将监听所有网卡,但存在安全风险,不推荐使用,官方建议按照需要配置IP或者主机名,打开监听。

[omm@hwd01 ~]$ gs_guc set -N all -I all -Z coordinator -c "listen_addresses = '*'"

Total instances: 5. Failed instances: 0.
Success to perform gs_guc!

参数说明:

  • -Z coordinator表示实例类型为coordinator。
  • -N all表示集群的所有主机。
  • -I all表示主机中的所有实例。
  • 星号(*)表示本地所有网卡的IP地址。 最后,执行以下命令重启集群:
[omm@hwd01 ~]$ gs_om -t stop && gs_om -t start

5.3 连接数据库

[omm@hwd01 ~]$ gsql -d postgres -p 25308
gsql ((Gauss200 OLAP V100R007C10 build e542e841) compiled at 2018-07-29 09:09:48 commit 1880 last mr 2754 )
Non-SSL connection (SSL connection is recommended when requiring high-security)
Type "help" for help.
postgres=# \l