一、实现原理的比较 （1）Hadoop和Spark都是并行计算，两者都是用MR模型进行计算 （2）Hadoop一个作业称为一个Job，Job里面分为Map Task和Reduce Task阶段，每个Task都在自己的进程中运行，当Task结束时，进程也会随之结束； （3）Spark用户提交的任务称为application，一个application对应一个SparkContext，app中存在多个
转载
2023-07-12 11:26:31
104阅读
记得曾经问过一个师兄一个问题：要学好一种编程语言怎么做才好，怎样才能像你一样灵活运用？他跟我说：从头学到尾是很不切实际的，要边做项目边学是最快的今天才真正体会这句话，趁着做项目，也接触了Hadoop，也对它有了初步的了解关于HadoopHadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的威力进行高速运算和存储。 H
我觉得，要想正确理解一门技术，一定要理解它产生的背景，解决的问题。背景一：世界需要更多的计算能力信息技术时代的基石是建立在“计算”之上的。以搜索引擎为例，早期的搜索引擎是人工分类索引的，类似黄页，但是随着网站数量的增多，人工索引的工作量变得巨大，而且更新时效低得难以忍受了。后来的一波搜索引擎都采用了由计算机算法自动索引，查找相关文档，并排序展示的方式。这种方式就导致了对计算能力的巨大需求，类似的趋
转载
2024-10-12 14:25:32
78阅读
# 如何实现“spark集群不依赖hadoop部署”
如果你想在部署Spark集群时不依赖Hadoop，可以通过使用Spark Standalone模式来实现。在这篇文章中，我将向你展示如何实现这一目标，让你能够独立部署Spark集群。
## 整体流程
下面是实现“spark集群不依赖hadoop部署”的整体流程：
| 步骤 | 操作 |
| --- | --- |
| 1 | 下载并解压
原创
2024-06-28 06:00:14
554阅读
一、概述1.1 大数据概念大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。1.2 大数据面临的问题存储：单机存储有限，需要使用集群（多台机器）存储数据；硬件上必须有足够的存储容量，软件上有对应的容灾机制。分析：单机算力有限，也需要使用集群进行计算（需要在合理的时间内将数据变废为宝）1.3 大数据的特点4V Volume 数据量大 Velo
转载
2023-12-26 21:09:45
103阅读
# Spark 可以独立部署：一个简单的指南
Apache Spark 是一个广泛使用的分布式计算框架，主要用于大数据处理和分析。通常情况下，Spark 被用作 Hadoop 生态系统的一部分，利用 Hadoop 的分布式文件系统（HDFS）来存储数据。然而，Spark 也可以在没有 Hadoop 的情况下单独部署。本文将带您了解如何在不依赖 Hadoop 的情况下使用 Spark，并提供简单的
## Flink运行不依赖Hadoop的实现方法
作为一名经验丰富的开发者，我将向你介绍如何在Flink中实现不依赖Hadoop的运行环境。下面将按照流程逐步进行说明。
### 流程概览
首先，让我们来看一下整个流程的概览。如下表所示，我们将会使用到以下步骤来实现“Flink运行不依赖Hadoop”。
| 步骤 | 描述 |
| ---- | ---- |
| 步骤1 | 下载Flink安
原创
2023-10-29 07:04:29
181阅读
Spark会在用户提交的计算逻辑中的RDD的转换和动作来生成RDD之间的依赖关系，同时这个计算链也就生成了逻辑上的DAG(有向无环图)。RDD之间的关系可以从两个维度来理解:一个是当前RDD是从哪些RDD转换而来，也就是parent RDD(s)是什么;还有就是依赖于parent RDD的哪些Partition。这个关系，就是RDD之间的依赖。根据依赖parent RDD的Partitions的依
转载
2024-08-16 13:36:39
27阅读
## 如何实现“flink集群 不依赖hadoop”
作为一名经验丰富的开发者，你要教导一位刚入行的小白如何实现“flink集群 不依赖hadoop”。下面是整个过程的详细步骤，以及每个步骤需要做什么和使用的代码。
### 流程步骤表格：
| 步骤 | 操作 |
| --- | --- |
| 步骤一 | 下载并安装Flink |
| 步骤二 | 配置Flink集群 |
| 步骤三 | 启动
原创
2024-04-05 05:41:43
105阅读
# Flink配置不依赖Hadoop启动的科普
Apache Flink 是一个为大规模数据处理设计的开源流处理框架，支持有状态的计算。Flink 通常与 Hadoop 的生态系统一起使用，但我们可以独立于 Hadoop 启动 Flink，这在需要轻量级解决方案或对 Hadoop 依赖最小化的场景中尤为重要。本文将介绍如何配置并启动一个独立的 Flink 集群，并提供代码示例，帮助您更好地理解这
OushuDBMPP集群硬件规划OushuDB(MPP)硬件配置原则性能原则均衡原则可靠性原则OushuDB(MPP)硬件配置建议选择处理器与内存网卡存储RAID配置RAID卡选项 OushuDB(MPP)硬件配置原则OushuDB是一个数据库产品,在企业系统框架里数据库属于比较核心的地位，所以一般数据库产品我们会考虑几个方面性能原则有一个误区，由于OushuDB存储使用的是HDFS，很多说法是
Hadoop安装教程_单机配置_Hadoop1.2.1/Ubuntu16.04最近在自己的Ubantu16.04安装Hadoop，折腾了一天，参考了一些教程，也遇到了一些坑，最后终于搞定了，在这里分享一下经验和过程。 当开始着手实践 Hadoop 时，安装 Hadoop 往往会成为新手的一道门槛。尽管安装其实很简单，书上有写到，官方网站也有 Hadoop 安装配置教程，但由于对 Linux 环境
转载
2024-10-19 21:16:38
53阅读
部署模式概述Spark支持的主要的三种分布式部署方式分别是standalone、spark on mesos和 spark on YARN。standalone模式即独立模式，自带完整的服务，可单独部署到一个集群中，无需依赖任何其他资源管理系统。它是Spark实现的资源调度框架，其主要的节点有Client节点、Master节点和Worker节点。yarn模式yarn是统一的资源管理机制，在上面可以
转载
2023-10-01 20:51:24
629阅读
1. 首先解释一下分布式和集群1.分布式就是指,很多服务器一起做不一样的是(每台服务器做的事都不一样) ,这些不一样的事呢,组合起来就是一件大事,而集群呢就是很多服务器做一样的事.2. dubbo是阿里开源的一个高性能,轻量级的框架3. dubbo架构Provider：暴露服务的服务提供方 Container：服务运行容器 Consumer：调用远程服务的服务消费方 Registry：服务注册与发
------------------------正文开始---------------------------一、如何保证百万级写入速度：目录1、页缓存技术 + 磁盘顺序写2、零拷贝技术3、最后的总结“这篇文章来聊一下Kafka的一些架构设计原理，这也是互联网公司面试时非常高频的技术考点。Kafka是高吞吐低延迟的高并发、高性能的消息中间件，在大数据领域有极为广泛的运用。配置良好的Kafka集群甚
Kafka 不依赖 Zookeeper 实现方法
作为一名经验丰富的开发者，我来教你如何实现 Kafka 不依赖 Zookeeper。首先，让我们来了解一下整个流程，并通过表格展示每个步骤。
| 步骤 | 操作 |
|------|--------------------------------------|
| 1 |
原创
2024-05-29 09:45:44
205阅读
## Dockerfile 不依赖 CentOS
Docker 是一个开源的容器化平台，它可以帮助开发者将应用程序打包成一个独立的容器，并提供了一整套工具和接口来管理和部署这些容器。在 Docker 中，Dockerfile 是用来定义容器构建过程的文件，通过编写 Dockerfile，我们可以轻松地自动化构建容器镜像。
在 Dockerfile 中，我们可以指定基础镜像，安装依赖软件，拷贝文
原创
2024-01-31 04:26:46
33阅读
# HBase 不依赖 HDFS
## 介绍
HBase 是一个分布式、面向列的开源数据库，它是构建在 HDFS 之上的。然而，HBase 并不依赖于 HDFS，这意味着它可以在不使用 HDFS 的情况下运行。
## HBase 的架构
HBase 的架构由多个组件组成，包括 HMaster、RegionServer 和 ZooKeeper。
- HMaster：负责管理整个集群的元数据
原创
2023-12-09 07:34:22
237阅读
1 个人任务
2 流程变量
1 个人任务1.1 分配任务负责人1.1.1 固定分配在进行业务流程建模的时候指定固定的任务负责人。在properties视图中，添加Assignee项为任务负责人。由于固定分配方式，任务只管一步一步执行任务，执行到每一个任务将按照BPMN的配置去分配任务负责人。1.1.2 表达式分配1.1.2.1 UEL表达式Activit
转载
2024-08-09 07:33:54
82阅读
## HBase不依赖MapReduce的探秘
HBase是一个开源的、分布式的、可扩展的NoSQL数据库，主要用于实时读写大量数据。与传统的Hadoop生态系统中的MapReduce紧密集成的方式不同，HBase的发展和设计使得它可以独立于MapReduce进行高效的数据存取。本文将深入探讨HBase的工作原理，以及如何在不借助MapReduce的情况下进行对HBase的操作，配合代码示例和流
原创
2024-10-29 05:42:31
43阅读
