文章目录在Hive中执行shell命令和hdfs命令1. 执行shell命令2. 执行hdfs命令DDL操作1. Hive中的数据库操作2. 创建表2.1 建表示例2.2 内部表2.3 外部表2.4 分区表2.5 创建分桶表3. 修改表3.1 重命名表3.2 增加列3.3 改变列3.4 替换列3.5 增加分区3.6 删除分区4. 删除表DML操作1.加载数据1.1 put1.2 load2. 导
转载
2023-08-07 17:13:35
262阅读
HDFS 概述：向磁盘中写入数据的时间一般是读取时间的3倍。HDFS以流处理访问模式来存储文件的，一次写入，多次读取。磁盘存储文件时，是按照数据块来进行存储的，数据块是磁盘读写的最小单位。构建与的那个磁盘上的文件系统是通过磁盘块来管理文件系统，文件系统块的大小一般是磁盘块的整数倍。磁盘块的大小一般是512字节。 对于用户来说，HDFS可以被看为一个巨大的硬盘。 体系结构及原理 HDFS采用
转载
2023-07-12 10:09:02
74阅读
? 博主介绍 ?? 博主主页：喵的主页 ✨主攻领域：【大数据】【java】【python】【面试分析】 HDFS元数据管理机制1. 元数据管理概述2. 元数据目录相关文件3. Fsimage、Edits3.1 概述3.2．内容查看 1. 元数据管理概述HDFS元数据，按类型分，主要包括以下几个部分： 1、文件、目录自身的属性信息，例如文件名，目录名，修改信息等。 2、文件记录的信息的存储相关的信息
转载
2023-09-13 21:36:28
106阅读
1.Hive概述1.1 Hive简介The Apache Hive ™ data warehouse software facilitates reading, writing, and managing large datasets residing in distributed storage using SQL. Structure can be projected onto data al
转载
2024-06-04 08:45:43
203阅读
2019.04.25更新，新增数据类型转换部分一.装载数据--可自动创建分区
load data [local] inpath 'file_path' [overwrite] into table table_name [partition(partcol1=val1,parcol2=val2...)]使用local关键字,那么'file_path'应该为本地文件系统(hive客户端所在系统，如L
转载
2023-07-12 21:27:28
357阅读
Hive的安装部署以及使用方式安装部署Derby版hive直接使用cd /export/softwares将上传的hive软件包解压：tar -zxvf hive-1.1.0-cdh5.14.0.tar.gz -C ../servers/cd /export/servers/hive-1.1.0-cdh5.14.0/启动：bin/hive缺点：多个地方安装hive后，每一个hive是拥有一套自己的
转载
2024-06-05 15:36:02
29阅读
# Hive SQL操作HDFS中的数据
## 介绍
Hive是一个建立在Hadoop之上的数据仓库工具，它提供了一个类SQL的查询语言，称为HiveQL，用于查询和分析存储在Hadoop分布式文件系统（HDFS）中的数据。通过Hive SQL，用户可以方便地对分布式存储的数据进行查询、分析和处理。
本文将介绍如何使用Hive SQL操作HDFS中的数据，包括创建表、加载数据、查询数据等操作
原创
2024-05-02 07:38:21
162阅读
Hadoop主要由HDFS（Hadoop分布式文件系统）和MapReduce两个核心部分组成。其中最底部就是HDFS,它被用来存储Hadoop集群中所有存储节点上的文件。1、HDFS的产生背景随着数据量越来越大，在一个操作系统管辖的范围内存不下了，那么就需要分配到更多的操作系统管理的磁盘中,但是不方便管理和维护，迫切需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统。HDFS只是分布式文
转载
2023-08-18 19:33:49
81阅读
原文作者：jiangw-Tonyhdfs 在生产应用中主要是客户端的开发，其核心步骤是从 hdfs 提供的 api 中构造一个 HDFS的访问客户端对象，然后通过该客户端对象操作（增删改查）HDFS 上的文件。一、环境搭建1、创建一个Maven工程HdfsClientDemo2、在该项目的pom.xml文件中添加以下代码：导入相应的依赖坐标+日志添加<dependencies>
转载
2023-07-20 21:28:36
39阅读
在hive中，较常见的文件存储格式有：TestFile、SequenceFile、RcFile、ORC、Parquet、AVRO。默认的文件存储格式是TestFile，在建表时若不指定默认为这个格式，那么导入数据时会直接把数据文件拷贝到hdfs上不进行处理。除TestFile外的其他格式的表不能直接从本地文件导入数据，数据要先导入到TestFile格式的表中，然后再从表中用insert
转载
2024-07-19 14:06:20
89阅读
Hive：hive不支持更改数据的操作，Hive基于Hadoop上运行，数据存储在HDFS上。 Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供完整的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。其优点是学习成本低，可以通过类SQL语
转载
2023-07-11 19:48:43
354阅读
查看数据库
show databases;
进入到某个数据库
use default;
展示有哪些表
show tables;
不进入Hive的命令行窗口就可以执行SQL语句
[root@master test]# hive -f hive-seclet.sql
hive (default)> quit;
hive (default)> exit;
exit:先提交数据，然后退
转载
2023-09-13 16:56:06
156阅读
Hive进行UDF开发十分简单，此处所说UDF为Temporary的function，所以需要hive版本在0.4.0以上才可以。一、背景：Hive是基于Hadoop中的MapReduce，提供HQL查询的数据仓库。Hive是一个很开放的系统，很多内容都支持用户定制，包括：a）文件格式：Text File，Sequence Fileb）内存中的数据格式： Java Integer/String,
转载
2023-07-12 23:36:06
52阅读
文章预览：1.Hive简介2.Hive部署（前提是部署好Hadoop） 1.Hive简介1.地址 官网：http://hive.apache.org/ GitHub地址：github.com/apache/hive CDH版本：http://archive.cloudera.com/cdh5/cdh/5/ 中下载hive-1.1.0-cdh5.16.2.tar.gz 软件使用上Hadoop、Hi
转载
2023-10-03 20:05:23
32阅读
# HDFS to Hive
## Introduction
Hadoop Distributed File System (HDFS) and Hive are two essential components in the Hadoop ecosystem. HDFS is a distributed file system that provides high throughput ac
原创
2024-01-06 08:52:25
45阅读
环境配置： hadoop-2.0.0-cdh4.3.0 (4 nodes, 24G mem/node)
hbase-0.94.6-cdh4.3.0 (4 nodes,maxHeapMB=9973/node)
hive-0.10.0-cdh4.3.0 一、查询性能比较： query1:
select count(1) from on_hdfs;
selec
转载
2023-08-03 22:04:39
62阅读
一、hive简介 Hive是一个数据仓库基础工具在Hadoop中用来处理结构化数据。它架构在Hadoop之上，总归为大数据，并使得查询和分析方便。并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。 最初，Hive是由Facebook开发，后来由Apache软件基金会开发，并作为进一步将它作为名义下Apache Hive为一个开源项目。Hive 没有专门的数据格式。
转载
2023-10-25 11:05:42
101阅读
这两天被hive的权限问题,折腾的不轻.记录一下Hive的基本配置我就不细说了,自行配置,网上一堆堆的.1.背景要求可以使用hdfs和hive用户操作自己创建的数据库. 权限不可乱. 要求,如下,[基本就是裸奔,没做任何配置,但依旧是坑不断.]1.hive没有设置任何权限 采用默认 NONE 2.hadoop权限体系采用默认最简单的Simple机制.3. 要求目录权限不能设置7774.
转载
2023-08-18 20:38:53
102阅读
Hive安装与配置安装前准备三台虚拟机master、slave1、slave2配置hadoop用户，之间免密登录，时钟同步，hadoop健康可用Hadoop与Hive的整合因为Hive需要把数据存储在HDFS上，并且通过MapReduce作为引擎处理数据； 因此需要在Hadoop中添加相关配置属性，以满足Hive在Hadoop上允许。 修改Hadoop中core-site.xml，并且Hadoop
转载
2023-06-12 20:22:19
700阅读
对于刚接触大数据的用户来说，要想区分Hive与HBase是有一定难度的。本文将尝试从其各自的定义、特点、限制、应用场景等角度来进行分析，以作抛砖引玉之用。 Hive是什么？Apache Hive是一个构建于Hadoop(分布式系统基础架构)顶层的数据仓库，注意这里不是数据库。Hive可以看作是用户编程接口，它本身不存储和计算数据；它依赖于HDFS(Hadoop分布式文件系统)和MapRe
转载
2023-07-14 11:36:17
317阅读
