druid hive 配置配置hive环境

转载

mob6454cc78b025 2023-07-11 10:25:13

文章标签 druid hive 配置 hive hdfs hadoop Hive 文章分类 Hive 大数据

Hive部署：

前提：

在安装Hive之前，要求先预装：
- 安装JDK 8
- 安装Hadoop-2.7.7
- 安装MySQL 5.6.x

！！！我这里主节点叫chun1，根据自己的进行修改

一、安装

1. 下载hive，并解压缩到用户主目录下：

tar -xzvf apache-hive-2.3.6-bin.tar.gz
改名：
mv apache-hive-2.3.6-bin hive

2. 设置环境变量：

sudo vim /etc/profile
在文件的最后，添加如下两句：
export  HIVE_HOME=/usr/local/hive
export  PATH=$HIVE_HOME/bin:$PATH

然后执行：
source /etc/profile

二、配置管理

首先进入conf目录把所有带template后缀的文件移除后缀。

其中hive-default.xml移除后缀后，需要修改名为hive-site.xml。

druid hive 配置配置hive环境_druid hive 配置

1. 可通过以下方法对Hive进行配置：

1.1 修改hive-env.sh

cp hive-env.sh.template hive-env.sh
因为Hive使用了 Hadoop, 需要在 hive-env.sh 文件中指定 Hadoop 安装路径：

vim hive-env.sh

在打开的配置文件中，添加如下几行：

export JAVA_HOME=/usr/local/hadoop/jdk1.8.0_221
export HADOOP_HOME=/usr/local/hadoop/hadoop-2.7.7
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export HIVE_HOME=/usr/local/hive
export HIVE_CONF_DIR=$HIVE_HOME/conf
export HIVE_AUX_JARS_PATH=$HIVE_HOME/lib

1.2 修改hive-log4j2.properties，配置hive的log

cp hive-log4j2.properties.template hive-log4j2.properties

vim conf/hive-log4j2.properties 

配置下面的参数(如果没有logs目录，在hive根目录下创建它)：

property.hive.log.dir=/usr/local/hive/logs

1.3 在/usr/local/hive-2.1.5/下新建一个tmp目录，在tmp/下新建一个hive目录。

cd /usr/local/hive
mkdir tmp
mkdir tmp/hive

1.4 修改hive-site.xml

cp hive-default.xml.template hive-site.xml

将hive-site.xml文件中：

凡是${system:java.io.tmpdir}都替换成:/home/hduser/hive/tmp

凡是${system:user.name}都替换为chun1     //你的主节点名

2) hive-site.xml 中配置 MySQL 数据库连接信息：

下面的配置信息只把需要改的写出来了，vim命令行模式下输入`/+内容`进行搜索对应的name，将value做修改

<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
      <!-- 设置下面这些属性 -->
      <property>
			<name>hive.exec.scratchdir</name>
			<value>/tmp/hive</value>
      </property>
      
      <property>
			<name>hive.exec.local.scratchdir</name>
			<value>/usr/local/hive/tmp/hive</value>
			<description>Local scratch space for Hive jobs</description>
      </property>
  
      <property>
			<name>hive.downloaded.resources.dir</name>
			<value>/usr/local/hive/tmp/${hive.session.id}_resources</value>
			<description>Temporary local directory for added resources in the remote file system.</description>
      </property>
      
      <property>
			<name>hive.querylog.location</name>
			<value>/usr/local/hive/tmp/hive</value>
			<description>Location of Hive run time structured log file</description>
      </property>  

      <property>
			<name>hive.aux.jars.path</name>
			<value>/usr/local/hive/lib,/usr/local/hive/jdbc</value>
			<description>These JAR file are available to all users for all jobs。</description>
      </property>
      <property>
			<name>hive.metastore.warehouse.dir</name>
			<value>hdfs://chun1:9000/user/hive/warehouse</value>
			<description>相对于fs.default.name有关的目录，管理表存储的位置</description>
      </property>
  
      <!--配置Hive Metastore-->
      <property>
			<name>javax.jdo.option.ConnectionURL</name>
			<value>jdbc:mysql://chun1:3306/hive?createDatabaseIfNotExist=true&characterEncoding=UTF-8</value>
      </property>
      
      <property>
			<name>javax.jdo.option.ConnectionDriverName</name>
			<value>com.mysql.jdbc.Driver</value>  //有些高版本的驱动需要在改成com.mysql.cj.jdbc.Driver
      </property>
      
      <property>
			<name>javax.jdo.option.ConnectionUserName</name>
			<value>root</value>
      </property>
      
      <property>
			<name>javax.jdo.option.ConnectionPassword</name>
			<value>123</value>   //这里是你mysql的密码
      </property>	  

      <!--配置hiveserver2主机(这里最好是配置ip地址，以便于从Windows连接)-->
      <property>
            <name>hive.server2.thrift.bind.host</name>
            <value>chun1</value>
            <description>Bind host on which to run the HiveServer2 Thrift service.</description>
      </property>
      
      <!--配置beeline远程客户端连接时的用户名和密码。这个用户名要在对应的hadoop的配置文件core-site.xml中也配置-->  
      <property>
            <name>hive.server2.thrift.client.user</name>
            <value>chun1</value>
            <description>Username to use against thrift client. default is 'anonymous'</description>
      </property>
      
      <property>
            <name>hive.server2.thrift.client.password</name>
            <value>123</value>    //这里是你主机用户的密码
            <description>Password to use against thrift client. default is 'anonymous'</description>
      </property> 

      <!-- 配置下面两个属性，可以配置 hive 2.x web ui -->
      <property>
            <name>hive.server2.webui.host</name>
            <value>chun1</value>
      </property>
      <!-- 重启HiveServer2，访问http://172.16.212.17:10002/ -->  
</configuration>

1.4 配置Hive Metastore

默认情况下, Hive的元数据保存在了内嵌的derby数据库里, 但一般情况下生产环境使用MySQL来存放Hive元数据。
将 mysql-connector-java-x.x.x.jar 放入 $HIVE_HOME/lib 下。（mysql jdbc驱动程序）

！！！！这里注意mysql版本一定要比mysql-connector-java-x.x.x.jar版本低，要不然会报错，他是向下兼容！（这里很重要，当时我在这卡了很久，当你有问题的时候可以看看是不是这个问题）

四、运行

1. 运行Hive CLI:

在命令行运行hive命令时必须保证HDFS已经启动。可以使用start-dfs.sh来启动HDFS。
(特别说明：从 Hive 2.1 版本开始, 在第一次运行hive之前，需要先运行schematool命令来执行初始化操作。)
1。// 如果是使用MySQL数据库：
// 先启动mysql服务器：执行

systemctl enable mysqld.service

// 执行初始化操作

schematool -initSchema -dbType mysql

执行成功后，可以查看MySQL中元数据库hive是否已经创建成功。

2.// 如果是使用derby数据库：

schematool -initSchema -dbType derby

// 进入hive命令行：

hive
（或hive --service metastore &）
// 使用 show tables 来显示所有的表:

hive> show tables;

// 退出hive
hive> quit;

创建个数据库然后创建表

hive> drop table chun;
OK
Time taken: 1.125 seconds
hive> create database chun;
OK
Time taken: 0.099 seconds
hive> use chun;
OK
Time taken: 0.024 seconds

druid hive 配置配置hive环境_druid hive 配置_02