编译 Atlas 安装包一、Atlas2.1.0 源码下载Atlas 官网没有提供 Atlas 的安装包，需要下载 Atlas 的源码后编译安装，下载 Atlas 源码需要登录 Atlas 官网下载 Atlas：https://atlas.apache.org/#/Downloads,选择2.1.0版本：二、Atlas 与其他框架依赖Atlas 内部架构使用到了 kafka 来做元数据注入和消费，
# HiveServer2执行流程详解
HiveServer2是Apache Hive的一个重要组件，它提供了一个客户端和Hive服务之间的中间层，以支持多用户同时进行查询，提供了多种API（如JDBC、Thrift等）用于与Hive进行交互。了解HiveServer2的执行流程对于性能调优、系统架构设计及故障排查都至关重要。本文将详细介绍HiveServer2的执行流程，并提供相关代码示例，帮
原创
2024-09-03 05:19:25
40阅读
客户现场的CDH6.x版本的集群执行一个大分区表时hiveserver2发生了内存溢出。下面针对该问题进行了复现并深入了解了hiveserver2内存加载使用原理；提出了解决此类问题的方案，具体内容如下。
转载
2023-05-21 15:27:38
556阅读
在之前的学习和实践Hive中，使用的都是CLI或者hive –e的方式，该方式仅允许使用HiveQL执行查询、更新等操作，并且该方式比较笨拙单一。幸好Hive提供了轻客户端的实现，通过HiveServer或者HiveServer2，客户端可以在不启动CLI的情况下对Hive中的数据进行操作，两者都允许远程客户端使用多种编程语言如Java、Py
转载
2023-07-20 19:10:22
194阅读
1、HiveServer2基本概念1.1、HiveServer2基本介绍HiveServer2 (HS2) is a server interface that enables remote clients to execute queries against Hive and retrieve the results (a more detailed intro here). The curre
转载
2023-07-20 19:09:53
233阅读
# HiveServer2 执行 SQL 超时处理
在大数据处理过程中，HiveServer2 是一个非常重要的组件，它用于支持 Hive SQL 查询。而在实际使用过程中，我们可能会遇到 “执行 SQL 超时” 的问题。这篇文章将简要介绍 HiveServer2 执行 SQL 超时的原因及解决方案，并包括代码示例和相关的流程图。
## 1. SQL 超时的原因
SQL 超时通常发生在以下几
原创
2024-08-03 09:58:56
120阅读
本文重新回顾一下Hive的两个核心服务：HiveServer2 和 HiveMetastore(HMS)。很多人会简单地把HiveServer2当成Hive的JDBC/ODBC服务，不启动HiveServer2服务，就没有10000端口，JDBC/ODBC客户端就连接不上Hive。从使用者的角度理解这就够了。如果要deep dive一下，HiveServer2的功能不止这些。我们知道：如果把Hiv
转载
2023-09-25 13:30:03
200阅读
Hive提供了运行SQL语句查询存储在HDFS上数据的能力，Hive提供的查询引擎，可以将SQL语句转化成MapReduce任务，提交到Hadoop集群上执行。MapReduce任务运行的结果会存在HDFS上。下面的图表示了一个用户运行Hive查询的Hadoop内部交互。 有多种和Hive交互的方法，最常用的是CLI，不过，CLI的设计使其不便于通过编程的方式进行访问。还有可以使用HIveSe
转载
2024-03-13 23:28:36
87阅读
1.启动脚本 $HIVE_HOME/bin/hive --service hiveserver2 --> $HIVE_HOME/bin/ ext/hiveserver2.sh --> 可以看到入口类和 org.apache.hive.service.server.HiveServer2 2.简要介绍 HiveServer2 主要包括cli
转载
2024-08-14 21:57:56
117阅读
# Hiveserver2简介及代码示例
## 一、什么是Hiveserver2
Hiveserver2是Apache Hive项目的一部分，它是一个面向Hive的远程服务，用于提供对Hive的SQL查询和交互式查询的支持。Hiveserver2使用Thrift作为跨语言的通信框架，可以与多种编程语言进行交互，如Java、Python、Ruby等。
Hiveserver2提供了一种客户端-服
原创
2023-07-16 09:20:25
348阅读
前题hive跑起来了，再继续下面步骤～文件修改 1.配置hive-site.xml 切换到hive的conf目录下，打开hive-site.xml文件cd /Users/zhaohaichao/programming/hive-1.1.0-cdh5.15.1/conf
vi hive-site.xml添加以下配置<property>
<name>hive.s
转载
2023-09-01 11:44:59
362阅读
背景：测试hive时，执行简单查询select count(*) from test.t1;，任务跑起来后卡住不动，也不报错，如下图： 原因：最后发现是参数：yarn.nodemanager.resource.memory-mb设置的太小导致的 进入CDH管理界面，Yarn的配置中这个参数显示如下： 这里的“容器内存”这个解释误导了我，开始我以为这个参数是设置每个container容器的内存大小，
转载
2023-09-01 16:19:36
377阅读
Java连接hive简单操作 首先在使用java连接前我们需要在虚拟机上开启hiveserver2（hiveserver2需要安装），hiveserve2的作用是实现hive可以进行并发操作，否则没有办法实现java对hive的操作。 使用命令：hiveserver2即可打开hiveserver2服务，需要注意的是，开启服务后这个命令窗口就会被占用，即出现一下情况：
转载
2023-08-21 17:50:51
128阅读
目录1、简介2、用户说明 2.1、未开启用户模拟功能：2.2、开启用户模拟功能3、Hiveserver2部署3.1、Hadoop端配置3.2、Hive端配置3.3、测试3.3.1、启动hiveserver23.3.2、使用命令行客户端beeline进行远程访问4、用Datagrip图形化客户端进行远程访问1、简介 &n
转载
2024-06-15 19:43:31
208阅读
一、背景HiveServer2是一个服务接口，能够允许远程的客户端去执行SQL请求且得到检索结果。HiveServer2的实现，依托于Thrift RPC。HiveServer2满足JDBC协议，可以很方便的使用hive功能。但是频繁的访问或者数据量过大很容易导致HiveServer2故障，为解决实际生产中HiveServer2故障问题，笔者多方查阅资料研究，总结以下方法，提高HiveServer
转载
2023-06-08 14:18:50
449阅读
Hive有三种使用方式——CLI命令行，HWI（hie web interface）浏览器 以及 Thrift客户端连接方式。
1、hive 命令行模式 直接输入/hive/bin/hive的执行程序，或者输入 hive –service cli 用于linux平台命令行查询，查询语句基本跟MySQL查询语
转载
2023-07-18 12:30:05
234阅读
启动方式1， hive 命令行模式，直接输入/hive/bin/hive的执行程序，或者输入 hive –service cli 用于linux平台命令行查询，查询语句基本跟mysql查询语句类似2， hive web界面的启动方式，hive –service hwi
转载
2023-07-18 12:30:31
208阅读
目录1 部署启动hiveserver21.1 配置hive-site.xml1.2 配置hadoop中的core-site.xml文件1.3 测试2 高可用部署2.1 hive-site.xml添加配置2.2 Hiveserver2启动2.3 jdbc连接hive server方式2.4. 客户端轮询方式连接2.5 客户端直连方式连接1 部署启动hiveserver21.1 配置hive-site
转载
2023-07-13 19:55:21
161阅读
文章目录概要一、进行heap dump1.1 查HiveServer2的进程id，得到2190451.2 根据进程号，查jstat的gc信息二、heap dump分析2.1 把hiveServer2的heap dump回来2.2 使用eclipse memory analyzer进行分析2.3 leak suspects2.4 dominatorTree对象占用空间比例2.5 整个jstat后台
转载
2023-07-14 12:29:34
487阅读
hive的hiveserver2模式启动不起来，发现Hadoop一直处于安全模式命令介绍命令hadoop fs –safemode get 查看安全模式状态
命令hadoop fs –safemode enter 进入安全模式状态
命令hadoop fs –safemode leave 离开安全模式状态用Hadoop fsck查看破坏丢失的文件位置hadoop fsck
Usage: DFSc
转载
2024-06-01 02:53:06
78阅读
