# Storm 架构详解与代码示例
Apache Storm 是一个开源的实时计算系统，旨在处理大量流数据。它能够以低延迟处理数据流，使其在大数据应用中扮演着至关重要的角色。本文将通过一幅架构图以及代码示例来详细解析 Storm 的工作原理。
## Storm 架构
Storm 的核心架构包括生产者（Spout）、处理器（Bolt）和集群。生产者负责从外部数据源读取数据，而处理器则用来处理这
一、流式计算概念 利用分布式的思想和方法，对海量“流”式数据进行实时处理，源自业务对海量数据，在“时效”的价值上的挖掘诉求，随着大数据场景应用场景的增长，对流式计算的需求愈发增多，流式计算的一般架构图如下： Flume获取数据-->Kafka传递数据-->Strom计算数据-->Redis保存数据二、storm介绍 Apache Storm是一个分布式实时大数据处理系统
转载
2023-07-24 16:35:47
74阅读
Storm是一个分布式的、高容错的实时计算系统。Storm适用的场景：Storm可以用来用来处理源源不断的消息，并将处理之后的结果保存到持久化介质中。由于Storm的处理组件都是分布式的，而且处理延迟都极低，所以可以Storm可以做为一个通用的分布式RPC框架来使用。(实时计算？)Storm集群架构Storm集群采用主从架构方式，主节点是Nimbus，从节点是Supervisor，有关调度相关的信
转载
2023-12-21 11:11:13
89阅读
本文是Storm系列之一，主要介绍Storm的架构设计，推荐读者在阅读Storm介绍(一）的基础之上，阅读这一篇。本文只是作者的读书笔记，偏重于浅层次的架构介绍，如果想真正理解内部设计时候的权衡，还需要更多的去阅读Storm源码。理解Storm的架构，有助于帮助我们理解大型分布式系统设计中需要解决的问题，以及解决问题的思路，帮助我们更好的进行Storm性能调优化。架构先上一张Storm的架构图，如
转载
2023-09-26 12:57:41
69阅读
首先回顾map reduce框架主节点jobtracker，从节点 taskTracker。用户提交任务给jobtracker，jobtracker分配给taskTracker，我们管这些任务叫job运行的作业分为两种 map 和 reduce。Storm是一个实时计算框架主节点 nimbus 从节点 supervisor用户提交作业给nimbus， nimbus把任务分配
转载
2024-06-05 18:46:58
45阅读
Storm是分布式实时计算系统，用于数据的实时分析、持续计算，分布式RPC等。（备注：5种常见的大数据处理框架：· 仅批处理框架：Apache Hadoop；· 仅流处理框架：Apache Storm 和 Apache Samza；· 混合框架：Apache Spark 和 Apache Flink）水龙头出来的是水滴 不是水流柱说明单个数据量小，
转载
2023-07-18 15:33:27
65阅读
整体架构Storm集群主要包含Nimbus和Supervisor两部分，集群协调依赖于外部Zookeeper。 Storm特性： 1、分布式计算 2、高性能、低延时 3、可扩容 4、高度容错 5、数据可靠（ACK） Nimbus：集群管理中心，支持HA，负责接收客户端提交的拓扑（Topology），将任务分发给Supervisor，并监控Supervisor的运行状态。 Supervisor：集群
转载
2023-09-30 17:15:09
119阅读
一、storm 基本概念 对比Hadoop的批处理，Storm是个实时的、分布式以及具备高容错的计算系统。同Hadoop一样Storm也可以处理大批量的数据，然而Storm在保证高可靠性的前提下还可以让处理进行的更加实时；也就是说，所有的信息都会被处理。Storm同样还具备容错和分布计算这些特性，这就让Storm可以扩展到不同的机器上进行大批量的数据处理。他同样还有以下的这些特性： 易于扩展
转载
2023-06-26 15:24:52
152阅读
Storm介绍及原理
一、概述
Storm是一个开源的分布式实时计算系统，可以简单、可靠的处理大量的数据流。 Storm有很多使用场景：如实时分析，在线机器学习，持续计算，分布式RPC，ETL等等。 Storm支持水平扩展，具有高容错性，保证
转载
2023-08-15 13:02:09
228阅读
1. 详述storm系统架构 Storm架构由四个部分组成: （1）Nimbus: 集群资源调度、任务分配、接收jar包； （2）Supervisor 接收nimbus分配的任务、启动、停止自己管理的worker进程（当前supervisor上worker数量由配置文件设定） （3）Worker 运行具体处理运算组件的进程（每个Worker对应执行一个Topology的子集）、worker任
转载
2023-07-12 17:34:43
71阅读
首先我们通过一个Storm和Hadoop的对比表格，来了解Storm中的基本概念。 接下来我们再来具体看一下这些概念。Nimbus：负责资源分配和任务调度。Supervisor：负责接受nimbus分配的任务，启动和停止属于自己管理的worker进程。Worker：运行具体处理组件逻辑的进程。Task：worker中每一个spout/bolt的线程称为一个task。在Storm0.8之后，task
转载
2023-06-25 16:14:10
121阅读
Storm集群，利用了分布式系统中经典的master/slave架构。以下显示的是一个Storm集群，其中master节点为Nimbus，slave节点有四个，称之为supervisor。在传统的master/slave架构中，都是master节点负责任务的接受、分配、监控等管理任务，从节点负责任务的执行。总的来说，storm中的主从架构，基本上也符合这个规则。(以下纯属个人理解)不过storm对
转载
2023-10-19 05:41:35
50阅读
阅读导读：1.Topology由什么构成？2.Topology的运行流程？方法调用流程3.storm.zookeeper.root指的是什么？它的值是什么？1 Topology构成 和同样是计算框架的Mapreduce相比，Mapreduce集群上运行的是Job，而Storm集群上运行的是Topology。但是Job在运行结束之后会自行结束，Topology却只能被手动的ki
转载
2024-02-01 21:38:41
44阅读
Storm是基于数据流的实时处理系统，提供了大吞吐量的实时计算能力。通过数据入口获取每条到来的数据，在一条数据到达系统的时候，立即会在内存中进行相应的计算；Storm适合要求实时性较高的数据分析场景。
1.Storm框架 上面这幅图是Stom框架图，和很多分布式系统一样，基于zk作为集群配置运行的元数据基础平台。
nimbus和supervisor是服务器端守护进程。
转载
2023-07-16 20:22:57
162阅读
一、Storm架构简介在上一篇，我们对Storm集群进行了搭建，并使用Java完成了代码的演示，我们知道在Storm中，先要设计一个用于实时计算的图状结构，我们称之为拓扑（topology）。这个拓扑将会被提交给集群，由集群中的主控节点（master node）分发代码，将任务分配给工作节点（worker node）执行。一个拓扑中包括spout和bolt两种角色，其中spout发送消息，负责将
转载
2024-05-20 18:19:41
68阅读
Storm 是一个分布式的，可靠的，容错的数据流处理系统。下面我将分别从storm的整体架构以及部分原理进行讲解。一、基本的概念storm中服务器节点分为主节点和从节点,Nimbus为主节点和Supervisor为从节点。以及若干组件构成。下面为对一些术语进行简单的介绍: Nimbus：主节点，是一个调度中心，负责分发任务 Supervisor：从节点，任务执行的地方 Worker：任务工作进程，
转载
2023-07-14 19:10:37
171阅读
HadoopHadoop是磁盘级计算，进行计算时，数据在磁盘上，需要读写磁盘;Hadoop M/R基于HDFS，需要切分输入数据、产生中间数据文件、排序、数据压缩、多份复制等，效率较低。假设利用hadoop，则需要先存入hdfs，按每一分钟切一个文件的粒度来算（这个粒度已经极端的细了，再小的话hdfs上会一堆小文件），hadoop开始计算时，1分钟已经过去了，然后再开始调度任务又花了一分钟，然后作
转载
2023-07-31 10:37:19
75阅读
一 ，架构图回顾 ：1 ，架构 ：主从。2 ，巧妙 ：用 zk 完成了解耦的的目的。3 ，架构图 ： 孙一般，每个 executor 对应一个 task也有一个 executor 对应多个 task 的情况每个 task 就是任务执行的最小单元，每个 task 对应一个 spout 或者 bolt二 ，完全分布式部署 ：1 ，上传，解压2 ，节点分配 ：节点\角色NimbusSupervisorZ
转载
2023-10-08 11:34:20
123阅读
Storm架构如下图所示:1、主控节点(Master Node) 运行Storm nimbus后台服务的节点(Nimbus)，它是storm系统的中心，负责接收用户提交的作业(如同spark submit一样 即为jar包形式保存的topology代码)，通过Zookeeper向每个工作节点分配处理任务（有进程级的也有线程级别的）2、工作节点(Work Node)&nbs
转载
2023-07-13 20:43:10
64阅读
前言上一篇文章我们通过 Storm 的本地模式对其编程模型进行了讲述.... 本篇文章我们来讲一讲 Storm 的集群：Storm 的特点Storm 的架构和组件如何安装 Storm 集群如何提交作业到 Storm 集群Storm 的特点分布式：这个没什么好说的，对于大数据来说，单台机器肯定是无法满足需求的高容错，高可靠：其容错下了很大的功夫，这个我们以后再细说。高性能：性能一直为大家所关注的一个
转载
2024-02-13 20:56:51
94阅读
