Hive1.基本概念Hive本质上是基于 Hadoop 一个数据仓库工具,可以将结构化数据文件映射为一张表,并 提供类 SQL 查询功能。通俗一点就是Hive相当于一个hadoop客户端,利用hdfs存储数据,利用mapreduce计算框架来进行计算任务,好处就是可以将人从繁琐mapreduce程序中解放出来,通过编写简单HQL语句从而实现对复杂逻辑运算。2.优缺点优点采用类sql
转载 2023-07-12 16:15:08
87阅读
1.定义    Apache Hive数据仓库软件便于读,写和管理大型数据集驻留在分布式存储使用SQL。  结构可以投影到存储中数据上。  客户端连接方式可采用:command line 和 JDBC Driver。注意:Hive实质就是客户端,不存在主从结构,搭建过程没有集群概念。2.搭建Hive  前提:       a.Hadoop集群搭建完成!      
转载 2023-07-03 21:22:08
71阅读
大数据技术之 Hive第 1 章 Hive 基本概念1.1 什么是 Hive1) hive 简介Hive:由 Facebook 开源用于解决海量结构化日志数据统计工具。Hive 是基于 Hadoop 一个数据仓库工具,可以将结构化数据文件映射为一张表,并 提供类 SQL 查询功能。2) Hive 本质:将 HQL 转化成 MapReduce 程序SQL—Mapreduce(1)Hive 处理
转载 2023-07-21 16:24:13
120阅读
1、搭建环境部署节点操作系统为CentOS,防火墙和SElinux禁用,创建了一个shiyanlou用户并在系统根目录下创建/app目录,用于存放Hadoop等组件运行包。因为该目录用于安装hadoop等组件程序,用户对shiyanlou必须赋予rwx权限(一般做法是root用户在根目录下创建/app目录,并修改该目录拥有者为shiyanlou(chown –R shiyanlou:shiyanl
转载 2024-07-23 09:40:04
204阅读
用户画像系统搭建项目 Hive 在当前数据驱动时代,用户画像系统搭建越来越成为企业刚需。本文将详细介绍如何搭建一个基于Hive用户画像系统,从环境准备到扩展应用,全面覆盖整个过程。 ## 环境准备 首先,我们需要确保环境准备就绪,包括前置依赖安装和硬件资源评估。 ### 前置依赖安装 我们需要安装以下依赖: - Java 8 - Hadoop 2.x - Hive 2.x
原创 6月前
60阅读
前面一路从hadoop、spark、zookeeper、kafka等集群搭建而来,大数据生态环境已经初步形成,下面要继续来搭建大数据生态中很重要Hive集群。 一、Hive简介 Hive 是基于 Hadoop 一个数据仓库工具,可以将结构化数据文件映射为一张数据库表,并提供完整 SQL 查询功能,将类 SQL 语句转换为 MapReduce 任务执行。 二、环境准备 hadoop-
转载 2023-07-14 12:57:41
105阅读
目录导读Hadoop、Hive 是什么运行环境hive-env.shhive-site.xmlcore-site.xmlhdfs-site.xmlmapred-site.xmlyarn-site.xmlhadoop-env.cmdJava 环境Mysql下载 Hadoop、Hive 和 驱动安装 Hadoop启动 Hadoop安装 Hive配置 Hive运行 Hive连接到 Hive导读最近一个数
转载 2024-07-22 10:43:28
37阅读
因为hive是基于hadoop,所以一定要有hadoop平台支撑:hadoop分布式集群搭建:http://blog.51cto.com/14048416/23414911.内嵌Derby版本:安装步骤:上传安装包:apache-hive-2.3.2-bin.tar.gz解压安装包:tar-zxvfapache-hive-2.3.2-bin.tar.gz-C/application进入进入到b
原创 2019-01-13 21:23:50
1236阅读
目录1、Hive描述2、Hive下载安装1、Hive描述Hive是什么?由facebook开源,最初用于解决海量结构化日志数据统计问题;    ETL (Extraction-Transformation-Loading )工具     构建在Hadoop之上数据仓库;    数据计算使用MR ,数据存储使用HDFS&nbs
转载 2024-04-19 11:09:16
53阅读
Hive hive是简历再hadoop上数据库仓库基础架构,它提供了一系列工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储,查询和分析存储再hadoop种大规模数据机制,hive定义了简单类sql查询语音,称为QL,它允许熟悉sql用户查询数据,同时, 这个语言也允许熟悉ma
原创 2021-07-27 16:45:21
148阅读
前提条件: 下载:https://mirrors.cnnic.cn/apache/hive/ 安装了hadoop集群,   1.解压缩hive软件包,使用命令: tar -zxvf hive-3.1.0-bin.tar.gz   **2.进入hive配置目录. 编辑/usr/local/data/hive-3.1.0/conf/hive-site.xml ** 添加配置文件: <?xml
原创 2024-04-22 09:48:53
21阅读
目录一、删除原版本5.7MySQL二、安装5.8版本MySQL1、准备以下mysql包2、新建mysql文件夹 3、上传安装包4、rpm下载5、启动mysql服务 6、修改密码 三、配置Hive元数据保存到MySQL1、删除原版本mysql驱动2、上传新版本驱动 3、修改$HIVE_HOME/conf/hive-site.xml4、登录mqsql,创建元数据
转载 2024-02-20 13:54:48
133阅读
1、Hive基本概念1.1Hive简介Hive本质是将SQL转换为MapReduce任务进行运算,底层由HDFS来提供数据存储,说白了hive可以理解为一个将SQL转换为MapReduce任务工具,甚至更近一步说hive就是一个MapReduce客户端。       为什么使用Hive?如果直接使用hadoop的话,人员学
转载 2023-07-12 21:20:42
67阅读
作者:姑婆 谈到“用户画像”,很多伙伴都不陌生,什么用户属性、用户行为张嘴就来,但是你真的弄懂了用户画像意义与构建方法吗?用户画像有什么用?用户画像包括哪些方面?在做用户画像时候我们应该注意些什么?今天就让姑婆来为你答疑解惑。 一、首先,咱们还是来看看用户画像定义 用户画像是根据用户社会属性、生活习惯和消费行为等信息而抽象出一个标签化
2021SC@SDUSC 目录安装HadoopLinux虚拟机XShell和XftpJDKHadoop安装Hadoop配置安装HiveHive总体流程与任务分配 到写这篇博客为止,我己经初步装好了hadoop和hivehive已经可以运行了,且已经有了源码,但是没有截图,只能尽量配图了。 安装Hadoophive要运行在hadoop上,那么使用hive必要前提就是安装hadoop了。Linu
转载 2023-07-20 20:06:29
66阅读
# 查看搭建 Hive 版本 在大数据领域中,Hive 是一个非常受欢迎数据仓库工具,它提供了用于分析和查询大规模数据集 SQL 接口。了解你所使用 Hive 版本是非常重要,因为不同版本可能会有不兼容特性或者 bug。本文将介绍如何查看已搭建 Hive 版本,并提供相关代码示例。 ## 1. 查看 Hive 版本命令 要查看已搭建 Hive 版本,可以使用以下命令: `
原创 2023-12-01 08:00:58
382阅读
一.前述Hive搭建分为三中方式 a)内嵌Derby方式 b)Local方式 c)Remote方式 三种方式归根到底就是元数据存储位
原创 2022-12-30 16:53:36
213阅读
环境宿主机:Windows 10 64bit虚拟机:VMware 15 pro CentOS 7.5 64bit 3个(1个master、2个slaves)Hadoop-2.6.5jdk1.8.0_211MySQL-5.7.26Hive-1.2.2ssh工具:SecureCRT 7.3(MySQL、Hive目前都只在master节点上安装了)目录0、准备工作1、新建配置文件hive-site
转载 2023-07-12 15:42:16
143阅读
hive是什么?由facebook开源,用于解决海量结构化日志数据统计;基于hadoop一个数据仓库工具,使用HDFS进行存储并将结构化数据文件映射成一张表,并提供类sql查询功能,其底层采用MR进行计算;本质是将HQL转化成MR程序。hive架构图安装前准备Java 1.7 (preferred)Hadoop 2.x (preferred), 1.x (not supported by
转载 2023-07-20 18:53:17
82阅读
记录一下使用docker快速搭建部署hive环境 记录一下使用docker快速搭建部署hive环境目录写在前面步骤安装docker安装docker安装docker-compose配置docker国内镜像源(可选)安装git & 配置github部署Hivedocker-hive开始部署使用Hive命令行收尾工作安装vi、lrzsz关闭相关命令EN
转载 2023-07-18 18:45:35
114阅读
  • 1
  • 2
  • 3
  • 4
  • 5