JAVA 基础体系前言场景与使用： 虽然面对的是高并发场景，单今天只关注缓存，不讨论线程安全和锁相关的问题。 前言日常工作中，时常要面对抽奖活动，奖励发放，商品秒杀等大流量高并发的场景。 高并发场景面对的第一个问题是DB的IO瓶颈。 这时比较通用的方式是加缓存对DB进行加速与保护，用redis对内存的性能来解决IO的瓶颈。 但是引入Redis就一劳永逸了嘛？不是的，相对应的高并发场景又会引发R
转载
2023-08-30 09:23:09
50阅读
官方直达电梯Spark一种基于内存的通用的实时大数据计算框架(作为MapReduce的另一个更优秀的可选的方案)通用：Spark Core 用于离线计算，Spark SQL 用于交互式查询，Spark Streaming 用于实时流式计算，Spark Mlib 用于机器学习，Spark GraphX 用于图计算实时：Run programs up to 100x faster than Hadoo
转载
2023-07-24 09:47:28
74阅读
Spark Streaming(DStreaming) VS Spark Structured Streaming 区别比较 优劣势背景这篇博客主要记录Spark Streaming(DStreaming) 与 Spark Structured Streaming 之间的差别与优劣势。Apache Spark 在 2016 年的时候启动了 Structured Streaming 项目，一个基于
转载
2023-11-14 23:52:50
162阅读
Spark-streaming 和spark-sql 基本概念spark-streaming 是spark体系中一个流式处理的框架spark-core 是核心的计算引擎，streaming是其中一个功能streaming与storm的区别：storm数据呈水流状，最基本的单位是 tuple。streaming按照时间做了离散化spark开发的时候，就是开发 RDD的DAG图，spark-core：
转载
2023-12-21 11:00:03
77阅读
kafka优势kafka相比于其他消息系统能够实现有序的并行化的读取，其他的消息系统如果需要实现有序，是通过独占的形式，那样就不能并行化，每次只能有一个消费者读取数据。kafka通过topic和partition的方式实现有序的并行化，每个消费者可以独占一个partition，同时多个消费者读取同一个topic的数据，这样就实现了并行化，但是一个消费群组的消费者不能比一个topic的分区数多，这样
转载
2024-01-28 14:17:09
67阅读
今天在StackOverflow上看到一个问题解答，很好的解释了spark和flink的区别。转到这里并做整理存以笔记以备日后学而时习之。问：apache spark 与 flink有什么区别？apache flink是否会取代hadoop?答：首先它们有哪些共同点？flink和spark都是apache 软件基金会（ASF）旗下顶级项目，都是通用数据处理平台。它们可
转载
2023-08-18 16:34:36
80阅读
大纲：Spark Streaming概述DStreamSpark Streaming WordCount 1、Spark Streaming概述1.1 什么是Spark StreamingSpark Streaming类似于Apache Storm，用于流式数据的处理。根据其官方文档介绍，Spark Streaming有高吞吐量和容错能力强等特点。Spark Stre
转载
2024-06-08 14:31:32
69阅读
个人理解（嘿嘿嘿，不考虑阅读效果了）shuffle分为map端shuffle和reduce端shuffle。 map端并不是处理一点写一点，而是先将处理的数据写入到环形缓冲区，缓冲区默认大小为100M，阈值默认为0.8，也就是说当阈值达到0.8即80M时，开始将数据以轮询方式写入到本地spll磁盘。如果缓冲区写入数据达到100M时，则将map暂时阻塞，等待缓冲区写出。在缓冲区写到磁盘前，先将其数
转载
2024-01-13 20:59:48
57阅读
Spark Shuffle和Mapreduce Shuffle的区别MR ShuffleMR shuffle Spark Shuffle中包括Hash Shuffle（优化和未优化）、sortShuffle、BypassMergeSortShuffleMR Shuffle包括Map Shuffle和Reduce Shuffle//MR Shuffle
Map端Shuffle从Map方法之后开始：环
转载
2023-08-29 14:18:21
131阅读
一、区别①本质上相同，都是把Map端数据分类处理后交由Reduce的过程。②数据流有所区别，MR按map, spill, merge, shuffle, sort, reduce等各阶段逐一实现。Spark基于DAG数据流，可实现更复杂数据流操作（根据宽/窄依赖实现）③实现功能上有所区别，MR在map中做了排序操作，而Spark假定大多数应用场景Shuffle数据的排序操作不是必须的，而是采用Ag
转载
2024-02-02 14:04:12
133阅读
sparkstreaming和flink的区别–组件：sparkstreaming：Master:主要负责整体集群资源的管理和应用程序调度；Worker:负责单个节点的资源管理，driver 和 executor 的启动等；Driver:用户入口程序执行的地方，即 SparkContext 执行的地方，主要是 DGA 生成、stage 划分、task 生成及调度；Executor:负责执行 tas
转载
2023-08-11 23:56:23
123阅读
实时商务智能这一构想早已算不得什么新生事物（早在2006年维基百科中就出现了关于这一概念的页面）。然而尽管人们多年来一直在对此类方案进行探讨，我却发现很多企业实际上尚未就此规划出明确发展思路、甚至没能真正意识到其中蕴含的巨大效益。
为什么会这样？一大原因在于目前市场上的实时商务智能与分析工具仍然非常有限。传统数据仓库环境针对的主要是批量处理流程，这类方
转载
2024-01-11 20:14:21
56阅读
在过去的一年之中，我们一直在利用Spark做实时交互式分析系统方面的尝试，有兴趣的同学可以看一下我们之前分享的博客《基于Spark的用户分析系统》。我们在不断受到Spark启发的同时，也不得不忍受尚处于青春期的Spark性格中的叛逆。特别是在不断优化系统性能过程中，发现我们实际上是在做与Project Tungs
转载
2023-12-27 22:01:01
58阅读
今天先安装好了spark，利用spark里自带的Scala运行了几个简单的Scala程序，看教学视频了解了点儿简单的语法，截图如下： 接着安装scala ide for eclipse，安装在了usr/local目录下，本以为他会正常的替代原来的eclipse，因为我之前有这样直接解压到里面直接就替换了，这次解压之后不仅之前的还在，而且两个eclipse都没法正常使用了&nb
转载
2023-12-12 15:31:18
281阅读
# Spark和Apache Spark的区别
作为一名经验丰富的开发者，我将教会你如何实现“Spark跟Apache Spark的区别”。下面是整个过程的步骤：
| 步骤 | 操作 |
| ---- | ---- |
| 步骤一 | 安装Spark |
| 步骤二 | 下载Apache Spark |
| 步骤三 | 配置环境变量 |
| 步骤四 | 创建Spark应用程序 |
| 步骤五
原创
2024-01-24 05:39:21
113阅读
(A Comprehensive Guide)This is a comprehensive tutorial on using the Spark distributed machine learning framework to build a scalable ML data pipeline. I will cover the basic machine learning algorith
转载
2024-09-24 19:08:44
38阅读
一. 经验Spark Streaming包含三种计算模式：nonstate .stateful .windowSpark一切操作归根结底是对RDD的操作kafka的log.dirs不要设置成/tmp下的目录，貌似tmp目录有文件数和磁盘容量限制ES的分片类似kafka的partitionspark Graph根据边集合构建图，顶点集合只是指定图中哪些顶点有效presto集群没必要采用
转载
2023-12-04 13:08:29
16阅读
零、MapReduce的局限性一、Spark概述及特点1.1、Speed1.2、Ease Of Use1.3、Generality1.4、Runs Everywhere二、Spark版本介绍及参考依据三、如何学习Spark四、Spark Survey零、Mapreduce的局限性1、繁杂：不管是开发、还是测试代码，即使写一个word count都要借助于map和reduce这样是很烦的2、进程级别
转载
2023-10-12 07:34:42
218阅读
spark中redis用法 spark redis
转载
2023-05-30 23:40:55
118阅读
1、基本概念（了解） ①流（Streaming）： 是一种数据传送技术，它把客户机收到的数据变成一个稳定连续的流，源源不断地送出，使用户听到的声音或看到的图象十分平稳， 而且用户在整个文件送完之前就可以开始在屏幕上浏览文件。 ②常见的流式计算框架 Apache Storm Spark Streaming Apache Flink
