搭建平台：hadoop+hdfs+mapreduce+hive+derby;软件：前端+后端数据库;构思：hadoop+hdfs+mapreduce负责分布式存储和并行计算；hive负责处理数据库访问操作；derby负责存储元数据问题1：不清楚这几个模块如何架设,如何联系起来,甚至不知道各个模块是否配置成功。问题2：不知道这几个模块的文件如何存放，以及如何相互访问。问题3：不知道对这类问题怎么入手
转载
2023-09-20 10:52:28
109阅读
# 搭建Hadoop大数据平台教程
近年来，大数据技术越来越受到重视，其中Hadoop作为大数据处理的一个重要工具。在本教程中，我们将一步步教你如何搭建Hadoop大数据平台。首先，让我们看一下整个流程：
| 步骤 | 操作 |
|------|------|
| 1. | 安装JDK |
| 2. | 安装Hadoop |
| 3. | 配置Hadoop集群 |
| 4. |
原创
2024-04-30 10:56:46
34阅读
我们此处使用的是VM虚拟机，centOS6.5的系统，初学者建议装中文版的系统，方便查看，我这边也是先装中文版的系统，本文章主要讲解如何在搭建大数据平台之前要对虚拟机进行环境配置工作，我会在重要的步骤截图上传，方便大家学习讨论，同时，对于一些拓展知识我会进行注释解释，一些其他相关知识也会在文章末尾写出来的，以下便具体的讲解如何进行配置
一、系统环境准备工作：
①
** 首先查看
转载
2024-07-22 12:47:21
28阅读
一、准备环境1.ubuntu16（使用虚拟机实现集群搭建） 2.jdk1.8二、安装包准备由于不同版本之间存在兼容问题，本次搭建使用的是hadoop2.7.1+hbase2.1.4+zookeeper3.6.2 安装包见云盘：链接: 安装包 提取码: 2b5a三、安装前准备1、节点主机名-IP映射（1）修改主机名（三台都需要修改）vim /etc/hostname 这里对三台主机的名字进行修改：n
转载
2023-11-09 09:44:56
73阅读
客户端访问hdfs上的某一文件，首先要向namenode请求文件的元数据信息，然后nn就会告诉客户端，访问的文件在datanode上的位置，然后客户端再依次向datanode请求对应的数据，最后拼接成一个完整的文件；这里需要注意一个概念，datanode存放文件数据是按照文件大小和块大小来切分存放的，什么意思呢？比如一个文件100M大小，假设dn（datanode）上的块大小为10M一块，那么它存
转载
2021-04-29 14:19:50
1376阅读
2评论
Hadoop一、大数据数据分析的基本流程明确分析目的和思路==》数据收集==》数据处理==》数据分析==》数据展现==》报表撰写大数据的5V特征Volume 数据体量大采集数据量大存储数据量大计算数据量大TB、PB级别起步Variety 种类、来源多样化种类：结构化、半结构化、非结构化来源：日志文本、图片、音频、视频Value 低价值密度信息海量但是价值密度低深度复杂的挖掘分析需要机器学习参与Ve
转载
2023-10-25 12:54:31
126阅读
今天给大家分享一个制作数据大屏的工具，非常的好用，100行左右的Python代码就可以制作出来一个完整的数据大屏，并且代码的逻辑非常容易理解。PywebIO介绍Python当中的PywebIO模块可以帮助开发者在不具备HTML和JavaScript的情况下也能够迅速构建Web应用或者是基于浏览器的GUI应用，PywebIO还可以和一些常用的可视化模块联用，制作成一个可视化大屏，我们先来安装好需要用
转载
2023-08-21 11:06:23
234阅读
本文是在自己工作中用到各个组件的安装方式的记录，包括：hadoop,hbase,kafka,es,hive,flume,druid，flink，spark等，在持续更新中。具体的使用记录另有博文具体介绍。hdfs这里是列表文本Hadoop有三种分布模式：单机模式、伪分布、全分布模式，本文讲解分布式搭建方式。 假设有a,b,c三个节点。第一步：新建用户# 增加用户，并赋予其密码
$ adduser
转载
2024-04-29 15:39:17
32阅读
大数据平台搭建（hadoop+spark） 一.基本信息 1. 服务器基本信息 2. 软件基本信息 3.环境变量汇总 4. 基本环境配置（master、slave相同操作） 4.1 配置jdk 4.2 配置java环境变量 添加如下信息 4.3 刷新配置文件： 4.4 配置hosts 4.5 配置免
转载
2018-03-22 11:54:00
186阅读
一、了解Hadoop关于Hadoop的官方说明是：Apache Hadoop 是一款支持 数据密集型 分布式 应用程序并以 Apache 2.0 许可协议发布的 开源软体框架。拆开来说，其中包含学习 Hadoop 必须要理解的三个知识点：（1）Hadoop是一个框架； （2）可以用来处理大规模数据； （3）Hadoop被部署在集群上。二、Hadoop传统意义上，我们常说的Hadoop是包含了 Co
转载
2023-07-20 17:52:00
549阅读
目录大数据hadoop集群搭建1.配置网络并使用xshell链接2.搭建Java环境3.配置集群节点间的通信4.配置集群节点间免密登录(主节点)5.配置本地yum源：6.配置集群节点间时间同步7.hadoop搭建1.上传hadoop压缩软件包2.解压hadoop3.修改配置文件修改core-site.xml修改hadoop-env.shhdfs-site.xmlmapred-site.xmlya
转载
2023-07-24 13:52:35
67阅读
一、Hadoop介绍什么是“hadoop”?
大数据的概念与应用
云计算1.什么是“hadoop”?Hadoop是大数据的一个总称hadoop Yarn是dadoop2的一个基础框架。
常用的是hadoop Yarn， 它也是一个开发和运行处理大规模数据的软件平台，
可编写和运行分布式应用处理大规模数据，是Appach的一个用**java语言实现开源软件框架**。
实现在大量计算机组成的
转载
2023-09-27 08:34:25
44阅读
# 使用Hadoop进行大数据采集
大数据是现代技术变革的重要组成部分，Hadoop作为大数据处理框架之一，因其强大的数据存储和处理能力，广泛应用于大数据采集。在本篇文章中，我们将探讨Hadoop在大数据采集中的应用，并为小白介绍实现流程和相关代码。
## 整个数据采集流程
通过下表，我们可以清晰地了解使用Hadoop进行大数据采集的整个流程：
| 步骤 | 说明
二、Hadoop集群搭建2.1、Hadoop安装将Hadoop安装包导入hadoop102的/opt/software文件夹下将Hadoop安装包解压至/opt/module文件夹下[atguigu@hadoop102 software]$ tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/配置Hadoop的环境变量在/etc/profile.d/my_en
转载
2023-11-11 20:41:10
83阅读
Hadoop完全分布式平台搭建：集群机器三台机器：一个作为master，另外两个作为slave1。分别执行ifconfig命令获取每台机器的IP地址2。执行sudo vim /etc/hostname 修改主机名，主机修改为master，另外两个分别修改为slave1，slave2。当然这只是为了方便，其实也可以不用修改 3。三台机器分别执行sudo vim /etc/hosts 修改host
转载
2023-11-07 11:26:26
32阅读
目前大数据使用的系统是Hadoop，这是一个apache的开源项目。 Hadoop有三个核心部分，分别是HDFS、Mapreduce、YARN。HDFS实现存储，MapReduce实现分析处理，YARN实现资源的调度。HDFSHadoop的基本组成部分，Hadoop 分布式文件系统（HDFS）。HDFS 是一种数据分布式保存机制，数据被保存在计算机集群上。数据写入一次，读取多次。HDFS
转载
2023-09-01 11:07:09
60阅读
# 实现大数据平台 Hadoop 的入门指南
Hadoop 是一个开源的分布式计算平台，专为处理大规模数据集而设计，广泛应用于大数据解决方案中。本文将为刚入行的小白提供一个关于如何实现大数据平台 Hadoop 的详细指导，包含流程、代码示例、甘特图和关系图等重要内容。
## 流程概述
下面的表格展示了实现 Hadoop 大数据平台的基本步骤：
| 步骤 | 描述
2.1.1 概述Hadoop 是 Apache 软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构。Hadoop 是基于 java 语言开发的具有很好的跨平台特性，并且可以部署在廉价的计算集群中。Hadoop 的核心是分布式文件系统 HDFS （Hadoop Distributed File System）和 MapRudce。Hadoop 被公认为行业大数据标准
转载
2023-07-14 20:12:40
119阅读
实验包括：1.使用EMR创建Hadoop集群2.定义schema，创建示例表。3.通过HiveQL分析数据，并将分析结果保存到S3上4.下载已经分析结果数据。Task1：创建一个S3桶创建一个存储桶比如hadoop202006…Task2：创建EMR集群这里我解释一下Hadoop集群中的一些组件，了解大数据的同学直接忽略就好。ApacheHadoop：在分布式服务器集群上存储海量数据并运行分布式分
原创
2020-09-11 14:26:00
2563阅读
1 SQL娴熟，这体现在ETL的hive阶段，自定义函数，分析函数，SQL各种关联写 (类dba倾向) 2 hive SQL优化要
原创
2023-04-21 00:37:37
116阅读
