一.hive基础1.hive作用将结构化数据文件映射成一张表 提供类似于sql的查询功能 HQL 存储在hdfs上2.hive的内置数据库一般用mysql为什么不用默认的内置数据库?默认内置derby弊端,一台机器只支持一个客户端 比如你用xshell连接服务器之后通过bin/hive启动了hive,不关; 然后你再打开一个xshell,还去执行bin/hive命令,就会报错,因为被锁住了3.hi
转载 2024-10-08 21:01:13
25阅读
文章预览:1.Hive简介2.Hive部署(前提是部署好Hadoop) 1.Hive简介1.地址 官网:http://hive.apache.org/ GitHub地址:github.com/apache/hive CDH版本:http://archive.cloudera.com/cdh5/cdh/5/ 中下载hive-1.1.0-cdh5.16.2.tar.gz 软件使用上Hadoop、Hi
转载 2023-10-03 20:05:23
32阅读
Hive介绍Hadoop开发存在的问题只能用java语言开发,如果是c语言或其他语言的程序员用Hadoop,存 在语言门槛。 需要对Hadoop底层原理,api比较了解才能做开发。Hive概述Hive是基于Hadoop的一个数据仓库工具。可以将结构化的数据文件映射为 一张表,并提供完整的sql查询功能,可以将 sql语句转换为 MapReduce任 务进行运行。其优点是学习成本低,可以通过类 SQ
转载 2023-07-13 16:35:38
114阅读
前言文本已收录至我的GitHub仓库,欢迎Star:https://github.com/bin392328206/six-finger种一棵树最好的时间是十年前,其次是现在叨絮hadoop 完成之后,就是hive了。。今天我们就来看看hive小六六学大数据之 Hadoop(一)小六六学大数据之 Hadoop(二)什么是 HiveHive:由 Facebook 开源用于解决海量结构化日志的数据统计
Hadoop集群搭建之Hive安装1. 准备工作准备好已经安装了Hadoop的集群服务器之后,需要在其中一台中安装MySQL数据库,安装可以参考CentOS7安装MySQL5.7这篇文章。下载Hive的安装包并上传至其中一台服务器中,下载地址2. Hive本地安装1. 安装目录规划统一安装路径:/opt/modules 统一软件存放路径:/opt/software2. 上传压缩包1. 将压缩包上传
转载 2023-09-08 20:32:19
34阅读
Hadoop是一个开发和运行处理大规模数据的平台,实现在多台计算机组成的集群中对海量数据进行分布式计算。hadoop框架最核心的部分是hdfs和mapreduce。hdfs提供了海量数据的存储,mapreduce提供了对数据的计算。hadoop处理海量数据,需要hbase做数据库,hbase是面向列的分布式数据库,使用集群环境的内存做处理,但是不支持sql语句,所以操作和计算数据非常不方便,于是整
转载 2023-05-23 10:18:18
70阅读
文章目录1 Apache Hive概述1.1 为什么使用Hive:1.2 Hivehadoop的关系2 如何实现Hive功能3 Apache Hive架构、组件4 Apache Hive数据模型4.1 Data Model4.2 Databases 数据库4.3 Tables 表4.4 Partitions 分区4.5 Buckets 分桶4.6 Hive和Mysql比较5 Hive安装部署5
转载 2024-06-04 08:52:03
49阅读
初始Hadoop   google的三篇论文(GFS,MapReduce,BigTable)很快促进了hadoop的面世,hadoop实际上起源于Nutch项目,于2006年2月正式启动,2008年开始hadoop正式火起来了。 Apache HadoopHadoop 生态系统Common:一系列组件和接口,用于分布式文件系统和通用I/O Avro : 一种序列化系统,用于支持高效,
转载 2023-07-12 11:15:11
109阅读
目录标题1、Hadoop是什么2、Hadoop发展历史3、Hadoop优势4、Hadoop组成4.1 HDFS4.2 YARN4.3 MapReduce架构概述4.4 HDFS、YARN、MapReduce 三者关系5、大数据技术生态系统6、推荐系统的框架图 1、Hadoop是什么1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 2)主要解决,海量数据的存储和海量数据的分析
目录一、概述1)Impala优点2)Impala缺点二、Impala架构1)Impala组件组成1、Client2、Impalad3、Statestore4、Catalog5、数据存储服务2)Impalad服务的三种角色3)Impala运行原理1、启动服务时执行的操作2、查询SQL的运行流程3、数据计算流程三、Impala环境部署(CDH集成)1)添加服务2)自定义角色分配3)审核更改4)安装完成
转载 2023-05-29 10:29:22
141阅读
Hadoop是一个分布式计算的开源框架,包含三大核心组件:HDFS(Hadoop Distributed System分布式文件系统)、HIVE(数据仓库工具)、HBASEHDFSHDFS是Hadoop生态圈最基础的存储引擎,请注意HDFS的设计主要为大文件存储,为高吞吐量的读取和写入服务,HDFS不适合存储小文件,也不支持大量的随机读写。Hive专门处理存储在HDFS数据仓库工具,通过Hive
转载 2023-08-16 06:28:07
68阅读
一、Hive基本概念1、概念 Hive:由Facebook开源用于解决海量结构化日志的数据统计。 Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。 本质是:将HQL转化成MapReduce程序 HQL转化成MapReduce (1)Hive处理的数据存储在HDFS(2)Hive分析数据底层的实
转载 2023-08-30 19:26:13
106阅读
Hive详解一、Hive简介二、Hive总体架构hive架构图如下:Hive基本组成三、Hive特点优点缺点四、Hive基本语法1、Hive DDL语法2、Hive DML语法五、总结 一、Hive简介hive是什么? “懒人改变世界”,这是我一直坚信的理念。并不是提倡大家偷懒,而是要有懒人的思想,要想尽一切办法来减少自己的工作量,减少重复劳动力,提高生产效率。没有hive之前,作为程序猿需要对
转载 2023-07-12 11:15:36
78阅读
大数据四个特点 :4VVolume(大量),Velocity(高速),Variety(多样),Value(低价值密度)Hadoop是一种分布式系统基础架构,主要解决海量数据的存储和分析计算的问题。广义上说Hadoop是指包含其本身和其它组件(如HDFS)的一个Hadoop生态圈一、Hadoop的概念1.Hadoop思想来源谷歌大数据三大论文2.Hadoop优势(4高)高可靠性:Hadoop底层维护
转载 2023-07-12 11:16:30
86阅读
**一、Hive介绍Hive官网:https://hive.apache.org/1.1 hive简介 Hive是一个数据仓库基础工具在Hadoop中用来处理结构化数据。它架构在Hadoop之上,总归为大数据,并使得查询和分析方便。并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。最初,Hive是由Facebook开发,后来由Apache软件基金会开发,并作为进一步
转载 2023-08-18 21:12:13
59阅读
Hadoop是什么?Hadoop是一个由Apache基金会所开发的分布式系统基础架构。主要解决,海量数据的存储和海量数据的分析计算问题。广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈。Hadoop 发展历史(了解)Hadoop创始人Doug Cutting,为了实现与Google类似的全文搜索功能,他在Lucene框架基础上进行优化升级,查询引擎和索引引擎。2001年年底L
转载 2023-07-23 17:15:45
60阅读
一、Hive:1、定义:    Hive是建立在 Hadoop 上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在 Hadoop 中的大规模数据的机制。Hive 定义了简单的类 SQL 查询语言,称为 HQL,它允许熟悉 SQL 的用户查询数据。同时,这个语言也允许熟悉 MapReduce 开发者的开发自定义的
原创 2016-08-16 17:34:59
894阅读
Hive的基本介绍(1)hive 是基于 Hadoop 的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的 sql 查询功能,可以将 sql 语句转换为 MapReduce 任务进行运行。可以通过类 SQL 语句快速实现简单的 MapReduce 统计,不必开发专门的 MapReduce 应用,十分适合数据仓库的统计分析。(2)Hive 是建立在 Hadoop 上的数据仓库
一、准备工作1. 预备安装包我将需要的包全部放到百度盘里了 : 链接: https://pan.baidu.com/s/1NHxweoK7zYf5hqP1aLIHAw 提取码: ip4c hadoop-2.8.5.tar.gz、hbase-2.1.1-bin.tar.gz、apache-hive-2.3.4-bin.tar.gz、jdk-8u102-linux-x64.tar.gz、mysql-c
转载 2023-09-28 01:09:40
72阅读
1.Hadoop是什么        Hadoop原来是ApacheLucene下的一个子项目,它最初是从Nutch项目中分离出来的专门负责分布式存储以及分布式运算的项目。用于海量数据的并行处理,简单地说来,Hadoop是一个可以更容易开发和运行处理大规模数据的软件平台。hadoop的核心主要包含:HDFS 和 MapReduc
转载 2023-07-12 11:17:11
39阅读
  • 1
  • 2
  • 3
  • 4
  • 5