hadoop 实战练习（二）引言： 哈哈，时隔几日，坏蛋哥又回来了，继上一篇hadoop实战练习（一）,坏蛋哥准备继续写一个实战练习实例。苏格拉底曾说：所有科学都源于需求。那么我们就抛出今天实战项目的需求：百度采集了一段时间用户的访问日志。需要将数据进行清洗变成结构化的数据，方便后面模型或报表的制作。那么就让我们开始吧！码字不易，如果大家想持续获得大数据相关内容，请关注和点赞坏蛋哥(haha…)文
转载
2023-10-06 16:19:31
61阅读
在使用 Hadoop 单机实例时，你可能会遇到“Java 拒绝连接”的问题。这通常是因为配置错误或者服务没有正常启动，导致无法与 Hadoop 进行通信。接下来，我们将详细探讨如何解决这个问题。
### 环境准备
要搭建 Hadoop 单机实例，你需要确保你的系统满足以下软硬件要求：
- **操作系统**: Linux (Ubuntu, CentOS)
- **内存**: 至少 4GB
-
Hadoop安装方式 Hadoop的安装方式有三种，分别是单机模式，伪分布式模式，伪分布式模式，分布式模式。 单机模式：Hadoop默认模式为非分布式模式（本地模式），无需进行其他配置即可运行。非分布式即单Java进程，方便进行调试。 伪分布式模式：Hadoop可以在单节点上以伪分布式的方式运行，Hadoop进程以分离的Java进程来运行，节点既作为NameNode也作为DataNode，同
转载
2023-06-30 14:35:38
121阅读
因为最近想做一个基于豆瓣图书分析的展示系统，hadoop处理海量数据有巨大优势，于是在一无所知在Ubuntu下安装hadoop，历经各种曲折，先将经验与大家博友分享，首先，了解Hadoop的三种安装模式：1. 单机模式. 单机模式是Hadoop的默认模。当配置文件为空时，Hadoop完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守
转载
2024-01-09 21:51:59
81阅读
忙了一整天，一直在解决hdfs上传文件时的错误，昨天最后有了一些头绪，但是没来得及验证，今天上午终于验证了自己的想法，从而顺利解决了困扰了自己许久的问题。以这个问题为契机，自己对Hadoop的配置文件重新进行了梳理，顺便加深了对于HDFS的理解。首先来看一直困扰自己的问题，该问题是在自己尝试向HDFS上传本地文件的时候发生的：CopyFromLocal: Call to localhost/127
转载
2023-11-09 17:03:23
259阅读
一、前置条件Hadoop 的运行依赖 JDK，需要预先安装，安装步骤见：二、配置免密登录Hadoop 组件之间需要基于 SSH 进行通讯。2.1 配置映射配置 ip 地址和主机名映射：vim /etc/hosts
# 文件末尾增加
192.168.43.202 hadoop0012.2 生成公私钥执行下面命令行生成公匙和私匙：ssh-keygen -t rsa3.3 授权进入 ~/.ssh 目录
转载
2023-09-04 11:36:03
57阅读
一、环境准备1.说明hadoop的下载来源有：官方版本：http://archive.apache.org/dist/hadoop/CDH版本：http://archive.cloudera.com/cdh5企业应用一般选择CDH版本，因为比较稳定。若决定使用CDH版本，则要保证相关软件的CDH版本相同，如 选择 hadoop-2.6.0-cdh5.9.3 与 &n
转载
2023-09-14 15:15:09
107阅读
Hadoop的三种运行模式 三种模式: -单机模式 -伪分布式模式 -完全分布式模式单机模式 -默认模式。 -不对配置文件进行修改。 -使用本地文件系统，而不是分布式文件系统。 -Hadoop不会启动NameNode、DataNode、JobTracker、TaskTracker等守护进程，Map()和Reduce()任务作为同一个进程的不同部分来执行的。 -用于对MapRedu
转载
2023-07-14 20:01:20
99阅读
最近给大家分享一个在学习过程中比较有意义的面向对象的思想的控制台实现斗地主要求大概就是有一个地主、两个农民，一副牌，谁先出完牌谁就获胜，简单的思路。遇到这种面向对象的题目时首先需要分析一下，理清一下思路。1、分析首先我们需要一个人物类，人物类有一个集合装每个人的牌（农民17张，地主20张），有姓名（地主，或者农民），还有一个判断是否是地主的属性，人物还有出牌的方法还要有一个游戏类，有一个集合装54
1 运行模式：单机模式（standalone）： 单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapRed
转载
2023-07-16 22:39:57
131阅读
Hadoop 单机模式安装配置• Hadoop 的单机模式安装非常简单,只需要配置好环境变量即可运行,这个模式一般用来学习和测试hadoop 的功能。1、获取软件 tar -xf hadoop-2.7.6.tar.gz -C ./ 2、安装配置 java 环境,安装 jps 工具 yum -y install java-1.8.0-openjdk-devel java
转载
2023-09-13 23:41:36
148阅读
文章目录1. 安装hadoop并修改配置文件1.1 配置proflie文件1.2 第一个：hadoop-env.sh1.3 第二个 core-site.xml1.4 第三个 hdfs-site.xml1.5 第四个 mapred-site.xml1.6 第五个 yarn-site.xml2. 格式化 namenode3. 启动 hadoop4. 验证是否启动成功 1. 安装hadoop并修改配置
转载
2023-08-30 15:41:36
95阅读
[toc]Hadoop单机版安装配置前言Hadoop单机版本的环境搭建比较简单，这里总结一下。Centos基本配置网络配置IPADDR=192.168.43.101
NETMASK=255.255.255.0
GATEWAY=192.168.43.2
DNS1=202.96.128.166
DNS2=202.96.128.86配置完成后重启网络：service network restart修改主
转载
2023-12-12 10:44:23
89阅读
Hadoop的单机运行模式配置目录一、Hadoop配置的准备工作.11、linux1二、配置Hadoop11.将hadoop放置到 opt下面的software文件后解压到modules文件下面： 12.配置hadoop的java环境支持.13、配置hdfs33.1、与hdfs相关的配置.33.2、格式化namenode33.3、启动hdfs守护进程.43.4、访问web界面.53.5、
转载
2023-07-20 17:26:26
164阅读
通过一段时间的学习，我在我的centos上安装了单机hadoop，如果这对你有帮助，就进来探讨学习一下Hadoop伪分布式配置Hadoop 可以在单节点上以伪分布式的方式运行，Hadoop 进程以分离的 Java 进程来运行，节点既作为 NameNode 也作为 DataNode，同时，读取的是 HDFS 中的文件。伪分布式需要修改2个配置文件 core-site.xml 和&
转载
2023-05-29 11:12:22
184阅读
Hadoop的安装有三种运行模式：单机模式（Local (Standalone) Mode）：Hadoop的默认模式，0配置。Hadoop运行在一个Java进程中，使用本地文件系统，不使用HDFS，一般用于开发调试MapReduce程序的应用逻辑。伪分布式模式（Pseudo-Distributed Mode）：需简单配置，相当于只有一个节点的集群，Hadoop的所有守护进程运行在同一台机器上。该模
转载
2023-09-11 17:09:42
75阅读
1.下载hadoop-2.7.3.tar.gzhttp://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz2.解压hadoop-2.7.3.tar.gz3.进入hadoop-2.7.3目录4.修改配置etc/hadoop/（1）core-site.xml（2）hdfs-site.xml注意：因
原创
2017-02-06 17:54:41
415阅读
点赞
# 单机搭建 Hadoop
## 简介
Hadoop是一个由Apache基金会开发的开源分布式计算框架，可用于存储和处理大规模数据。在本教程中，我们将教你如何在单台机器上搭建Hadoop环境。
## 步骤概览
以下是搭建Hadoop环境的主要步骤：
| 步骤 | 操作 |
| --- | --- |
| 1 | 安装Java Development Kit (JDK) |
| 2 | 下载和
原创
2024-05-27 11:42:19
94阅读
Hadoop 单机部署是一个非常常见的学习和开发环境搭建方法。通过在一台机器上部署 Hadoop，您可以快速了解和熟悉 Hadoop 的基本概念和操作。在本文中，我将向您介绍如何在单台计算机上实现 Hadoop 单机部署。
整个 Hadoop 单机部署的流程可以分为以下几个步骤：
| 步骤 | 描述 | 操作
原创
2024-05-27 11:42:30
110阅读
# 搭建 Hadoop 单机环境指南
Hadoop 是一个开源框架，用于分布式存储和处理大量数据。在学习 Hadoop 之前，首先要在本地搭建一个单机环境，以便于测试和学习。本文将指引你一步一步完成这一过程。
## 流程概述
以下是搭建 Hadoop 单机环境的步骤摘要：
| 步骤编号 | 步骤描述 |
|----------|-----------------
原创
2024-08-10 07:11:47
38阅读
