一、Spark简介Spark 是一种与 Hadoop 相似的开源集群计算环境，但是两者之间还存在一些不同之处，这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越，换句话说，Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。为了使程序运行更快，Spark提供了内存计算和基于DAG的任务调度执行机制，减少了迭代计算时的I/O开销；而为了使编写程序更为
转载
2023-08-10 21:54:13
127阅读
一、Spark 介绍及生态Spark是UC Berkeley AMP Lab开源的通用分布式并行计算框架，目前已成为Apache软件基金会的顶级开源项目。至于为什么我们要学习Spark，可以总结为下面三点：1. Spark相对于hadoop的优势（1）高性能Spark具有hadoop MR所有的优点，hadoop MR每次计算的中间结果都会存储到HDFS的磁盘上，而Spark的中间结果可以保存在内
原创
2021-03-31 22:45:19
297阅读
一、大数据中心流程图二、大数据项目脑图三、Spark的基本工作原理1、分布式2、主要基于内存（少数情况基于磁盘）3、迭代式计算SparkSQL提供通过ApacheHive的SQL变体Hive查询语言（HiveQL）与Spark进行交互的API。每个数据库表被当做一个RDD，SparkSQL查询被转换为Spark操作SparkStreaming对实时数据流进行处理和控制SparkStreaming允
原创
2021-03-07 20:36:57
1284阅读
集群操作原理1、路由当你索引一个文档，它被存储在单独一个主分片上。Elasticsearch是如何知道文档属于哪个分片的呢？当你创建一个新文档，它是如何知道是应该存储在分片1还是分片2上的呢？进程不能是随机的，因为我们将来要检索文档。算法决定：shard = hash(routing) % number_of_primary_shardsrouting值是一个任意字符串，它默认是_id但也可以自定
大数据（big data），是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。 大数据的4V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（价值）。 从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。它的特色在于对海量数据的挖掘，但它必须依托云计算的分
然后我们再来看一下hadoop中,datanode的工作机制.1.datanode1,比如启动的时候,它会向namenode进行注册,把自己的信息,比如我存了哪些block块信息, 块中存了块数据,以及块数据的长度,以及数据的校验和,以及块数据的时间戳.把这些信息发给namenode节点2.然后namenode收到datanode1发过来的注册信息以后,把信息存到自己的元数据映射表中,然后给datanode1发送一条,注册成功的信息3.datanode1收到,namenode返回的注...
原创
2021-05-19 22:04:10
379阅读
什么是HDFS？HDFS（Hadoop Distribution File System）是基于谷歌发布的GFS论文设计的；出了具有其他文件系统具有的特性之后，hdfs
大概一年多以前，和几个小伙伴均认同一个趋势：觉得通过技术手段获取网上越来越丰富的数据，并基于这些数据做分析及可视化，必能产生有价值的结果，帮助大家改善生活。(大数据被叫烂了，所以用低调的方式来解释我们的初心)第一步：开工，为基金服务恰巧和几个基金的朋友(包括对冲基金和VC/PE基金)聊到这个趋势，他们非常认同这个观点并愿意付费，认为可以用这种实时且定量的方式来跟踪一些上市公司或者私有公司旗下的产品
转载
2023-08-25 00:53:18
0阅读
搜索是大数据领域里常见的需求。Splunk和ELK分别是该领域在非开源和开源领域里的领导者。本文利用很少的Python代码实现了一个基本的数据搜索功能，试图让大家理解大数据搜索的基本原理。01 布隆过滤器 （Bloom Filter）第一步我们先要实现一个布隆过滤器。布隆过滤器是大数据领域的一个常见算法，它的目的是过滤掉那些不是目标的元素。也就是说如果一个要搜索的词并不存在于我的数据中，那么它可
MapReduce简介MapReduce是hadoop四大组件之一（HDFS，MapReduce，YARN和Comment），是一种分布式计算编程模型，用于解决海量数据的计算问题。MapReduce思想原理MapReduce采用分而治之的思想，将大文件切割成片，然后由多个map task并行处理，处理完成后交由reduce再做合并，最后输出结果MapReduce执行过程这里我们以经典例子WordC
Elasticsearch索引的精髓：一切设计都是为了提高搜索的性能 以空间换时间。1，esES是基于Lucene分布式搜索服务，可以存储整个对象或文档。主要用于大量数据的索引查询。1）优点高性能 搜索和分析很快，涵盖了多种查询语句和数据结构。支持横向扩展： 通过增加结点数量扩展搜索和分析能力。 可以扩展到上百台服务器，处理PB级结构化或非结构化数据。实时（ NRT，near real time）
大数据面试题：超详细版MapReduce工作原理
原创
2023-07-30 22:56:17
72阅读
原创
2021-05-05 11:29:46
209阅读
数据挖掘的目的是解决问题，不以解决问题的数据挖掘项目全是耍流氓，通过这一年半的工作经历，结合自己学习和工作中总结，特此呈现数据挖掘的一般流程问题 -->数据-->特征工程-->模型训练和诊断-->模型效果离线评估-->模型效果线上评估(小流量测试)-->模型上线1.问题：项目的成立的依据，比如给商户营销，推荐视频给用户等等。这个阶段要明确问题可以拆分的子问题，确
大数据的特征：HACE 原则 （large-volume,
heterogeneous,
autonomous sources with distributed and decentralized control, and seeks to explore
complex and
evolvin
大数据工程师工作内容取决于你工作在数据流的哪一个环节。 从数据上游到数据下游，大致可以分为： 数据采集 -> 数据清洗 ->数据存储 ->数据分析统计 ->数据可视化等几个方面 工作内容当然就是使用工具组件(Spark、Flume、Kafka等)或者代码(Java、Scala等)来实现上面几个方面的功能。 一、数据采集： 业务系统的埋点代码时刻会产生一些分散的原始
感觉站在大数据的风口浪尖，感受一丝丝的凉风，也很自豪啊，哈哈哈，猪被风吹飞了，我看着漫天猪飞很好奇呀。接触大数据方向的工作我们经常提的关键词无非也就是以下这些，其中的每一块都很值的挖掘，技术大牛都在其中的一个或几个领域炉火纯青。我只能说说我听过的关键词，具体每一块的精髓，还需岁月操魔。首先，大数据平台一般由以下几部分构成：1.数据源 也就是数
作者：朱赛凡四 大数据背景下数据分析挖掘技术介绍1 Mahout与MLlib项目数据分析挖掘主要涉及两个方面：一是数据预处理；二是数据挖掘。在数据预处理方面，根据掌握资料来看，大型互联网公司主要以MapReduce、Storm等计算框架为主，这些平台可以较好解决大数据预处理面临并行计算和处理灵活性的问题。但是个人认为spark、tez等属于MapReduce升级版本，因此后面这些计算框架在这方面的
文章目录说明分享大数据存储特性和要求特性要求大数据存储现状hadoop系优点缺点非hadoop系优点缺点总结 说明本博客每周五更新一次。大数据存储是大数据平台的基石，数据的存储方式直接决定数据使用效率，平台的搭建与维护成本。所有内容理论为主，不牵涉太多专业知识，目标是简单易懂。分享大数据博客列表大数据存储特性和要求特性大数据存储基本依托分布式架构（大于一台服务协同完成存储和计算的架构），将数据拆
转载
2023-07-28 09:15:08
95阅读
大数据之数据采集 大数据体系一般分为：数据采集、数据计算、数据服务、以及数据应用 几大层次。在数据采集层，主要分为 日志采集 和 数据源数据同步。日志采集 根据产品的类型 又有可以分为：浏览器页面 的日志采集客户端 的日志采集浏览器页面采集： 主要是收集页面的 浏览日志（PV/UV等） 和 交互操作日志（操作事件）。这些日志的采集，一般是在页面上植入标准的统计JS代码来进执行。但这个植入代码的过程
