内表：删表删数据 （hdfs上的文件数据） 外表：删表不删数据（hdfs上的文件数据）内表 创建表时没加external，默认是内表所有的 Table 数据（不包括 External Table）都保存在warehouse这个目录中。删除表时，元数据与数据都会被删除创建过程和数据加载过程（这两个过程可以在同一个语句中完成），在加载数据的过程中，实际数据会被移动到
转载
2023-10-23 09:07:39
108阅读
# Hive与HDFS的关系解析
## 前言
在大数据生态系统中，Hive和HDFS是两个重要的组成部分。Hive是一个数据仓库基础设施，它建立在Hadoop之上，允许用户通过SQL查询语言来处理存储在HDFS（Hadoop分布式文件系统）中的大规模数据。本文将深入探讨Hive的外表概念以及它与HDFS的数据关系。
## 什么是HDFS？
HDFS是一个分布式文件系统，旨在以高吞吐量访问数
HDFS与Hive实战 + 滴滴出行数据分析1.HDFS1.1 分布式文件系统1.2 HDFS的Shell命令行1.3 启动Hadoop集群1.4 大数据环境清单2.数据仓库2.1 数据仓库与数据库区别3.Hive3.1 终端连接Hive3.2 Hive操作命令3.3 Hive函数4. Zeppelin5.滴滴出行数据分析5.1 架构图5.2 日志数据集介绍5.3 构建数据仓库5.4 ods创建
## Hive注册外部表HDFS
在Hive中，我们可以使用外部表（External Table）来访问存在于Hadoop分布式文件系统（HDFS）上的数据。外部表与内部表（Internal Table）相比，不会在创建表的同时创建数据目录，而是将数据目录作为外部表的属性进行注册。这样的设计可以让我们在Hive中操作外部数据时更加灵活，以适应不同的数据存储需求。
接下来，我们将通过示例代码和详
原创
2023-10-26 16:21:31
23阅读
首先要知道 Hive 和 HBase 两者的区别，我们必须要知道两者的作用和在大数据中扮演的角色概念Hive1.Hive 是 hadoop 数据仓库管理工具，严格来说，不是数据库，本身是不存储数据和处理数据的，其依赖于 HDFS 存储数据，依赖于 MapReducer 进行数据处理。2.Hive 的优点是学习成本低，可以通过类 SQL 语句（HSQL）快速实现简单的 MR 任务，不必开发专门的 M
转载
2024-02-24 13:28:34
35阅读
HDFS 概述：向磁盘中写入数据的时间一般是读取时间的3倍。HDFS以流处理访问模式来存储文件的，一次写入，多次读取。磁盘存储文件时，是按照数据块来进行存储的，数据块是磁盘读写的最小单位。构建与的那个磁盘上的文件系统是通过磁盘块来管理文件系统，文件系统块的大小一般是磁盘块的整数倍。磁盘块的大小一般是512字节。 对于用户来说，HDFS可以被看为一个巨大的硬盘。 体系结构及原理 HDFS采用
转载
2023-07-12 10:09:02
74阅读
0. 说明已经安装好Hadoop和hive环境，hive把元数据存储在mysql数据库。这里仅讨论外部表和HDFS的关联，并且删掉外部表之后，对HDFS上的文件没有影响。1. 在HDFS创建分区，并存有文件手工创建或者由程序在HDFS上生成了分区目录，每个分区目录下有相应的文件。本例中根据day分了两个分区，如下所示：/test/in/day=20/20.txt
/test/in/day=21/2
转载
2023-07-06 21:59:19
326阅读
什么是HIVE由Facebook实现并开源的，基于Hadoop的数据仓库工具，适用于离线的批量数据计算；底层数据存储在HDFS上，Hive可以将结构化的数据映射为一张数据库表；提供HQL（Hive SQL）查询功能**Hive的本质：**将SQL语句转换为MapReduce任务运行，进而使用户方便的利用HQL处理和计算存储于HDFS上的结构化数据。HIVE特点优点：可扩展性，横向扩展延展性：支持自
转载
2023-07-12 20:35:37
102阅读
Hive 7、Hive 的内表、外表、分区
1、Hive的内表Hive 的内表，就是正常创建的表，在 中已经提到； 2、Hive的外表创建Hive 的外表，需要使用关键字 External： CREATE EXTERNAL TABLE [IF NOT EXISTS] [db_name.]table_name
[(col_n
转载
2023-09-17 09:55:00
168阅读
1、 内表和外表的区别内表和外表之间是通过关键字EXTERNAL来区分。删除表时：内表：在删除时，既删除内表的元数据，也删除内表的数据外表：删除时，仅仅删除外表的元数据。CREATE [EXTERNAL]
page_url STRING, referrer_url STRING,
ip STRING COMMENT 'IP Address of the User',
转载
2023-07-12 11:09:20
414阅读
1.1 hive的简介Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。其本质是将SQL转换为MapReduce/Spark的任务进行运算，底层由HDFS来提供数据的存储，说白了hive可以理解为一个将SQL转换为MapReduce/Spark的任务的工具，甚至更进一步可以说hive就是一个MapReduce/Spark Sql的客户端
转载
2023-07-12 20:34:47
101阅读
Hive简介Hive是一个数据仓库基础工具在Hadoop中用来处理结构化数据。它架构在Hadoop之上。Hive并不是一个完整的数据库, Hadoop以及HDFS的设计本身约束和局限性地限制了Hive所能胜任的工作。其中最大的限制就是Hive不支持记录级别的更新、插入或者删除操作。同时hive用户可以通过查询生成新表或者将查询结果导人到文件中。因为Hadoop是一个面向批处理的系统，而MapRed
转载
2023-10-30 18:45:15
91阅读
# HBase数据导入HDFS作为Hive外表使用
在大数据生态系统中，HBase与Hive是两种重要的组件。HBase是一种NoSQL数据库，适合存储大量稀疏数据，而Hive则是一个数据仓库工具，用于查询和分析存储在HDFS上的数据。在某些情况下，我们需要将HBase中的数据导入HDFS，以便Hive能通过外部表的方式使用。这篇文章将介绍如何实现这个过程，包含代码示例和可视化图表。
## 提
原创
2024-08-07 11:20:17
99阅读
# Hive外表简介与使用
Hive是一个用于大数据处理的SQL查询工具，基于Hadoop开发。Hive提供了一个方便的方式来处理存储在Hadoop分布式文件系统（HDFS）上的大规模数据。因此，“外表”成为了Hive中一个重要的概念。本文将介绍Hive外表的定义、用途、创建方式及其使用示例，并展示相应的代码。
## 什么是Hive外表？
Hive外表（External Table）是一种在
原创
2024-09-19 07:51:43
95阅读
分布式文件系统HDFS百度百科 Hadoop分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统（Distributed File System） HDFS是一个高度容错性的系统tachyon百度百科 Tachyon是一个高性能、高容错、基于内存的开源分布式存储系统kfs百度百科 Kosmos distributed file syst
转载
2024-05-12 08:35:42
36阅读
第6章HDFS概述6.1HDFS的主要特性1.HDFS的主要特征l 支持超大文件l 检测和快速应对硬件故障l 流式数据访问l 简化一致性模型（1次写多次读） 2.HDFS不适合的场景l 低延迟数据访问，可以考虑HBase或者Cassandral 大量小文件l 多用户写入文件、修改文件 3.HDF
转载
2024-04-19 16:21:20
26阅读
一、Hive的基本概念 （安装的是Apache hive 1.2.1） 1、hive简介 Hive 是基于 Hadoop 的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表， 并提供类 SQL 查询功能， h
转载
2023-09-08 18:25:32
159阅读
欢迎访问我的GitHub这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos《hive学习笔记》系列导航基本数据类型复杂数据类型内部表和外部表分区表分桶HiveQL基础内置函数Sqoop基础UDF用户自定义聚合函数(UDAF)UDTF本篇概览本文是《hive学习笔记》系列的第三篇，要学习的是各种类型的表及其特点，主要内容如下：建库内
转载
2024-05-28 22:57:31
58阅读
Hive是将符合SQL语法的字符串解析生成可以在Hadoop上执行的MapReduce的工具。使用Hive尽量按照分布式计算的一些特点来设计sql，和传统关系型数据库有区别，所以需要去掉原有关系型数据库下开发的一些固有思维。基本原则：1：尽量尽早地过滤数据，减少每个阶段的数据量,对于分区表要加分区，同时只选择需要使用到的字段select ... from Ajoin Bon A.key = B.
转载
2024-08-06 18:14:58
44阅读
Doris总结-Join1.Broadcast Join
2.Shuffle Join
3.Colocation Join
4.Bucket Shuffle Join
5.Runtime Filter
顺序：Colocate Join -> Bucket Shuffle Join ->Broadcast Join -> Shuffle Join 目录Doris总结-Jo
转载
2023-11-16 14:31:06
142阅读
