上一篇文章我们简单阐述了，大多数研究者在进行大数据分析时，所存在的逻辑问题，并简明扼要的对大数据建模流程进行了说明，那么为了使大家更加清晰每一个步骤的具体内容，我们将每一个模块展开分析。详细阐述流程中具体要做的工作内容？ 一．宏观角度 无论是大数据还是人工智能技术，其实都是需求或者项目主题的实现手段，商业上希望技术能够将产品向商品转化，或者对市场进行科学的分析，从而引导公司决策更符合市场需求；科研
转载
2023-12-12 14:40:49
43阅读
一、Spark简介Spark 是一种与 Hadoop 相似的开源集群计算环境，但是两者之间还存在一些不同之处，这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越，换句话说，Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。为了使程序运行更快，Spark提供了内存计算和基于DAG的任务调度执行机制，减少了迭代计算时的I/O开销；而为了使编写程序更为
转载
2023-08-10 21:54:13
150阅读
一、Spark 介绍及生态Spark是UC Berkeley AMP Lab开源的通用分布式并行计算框架，目前已成为Apache软件基金会的顶级开源项目。至于为什么我们要学习Spark，可以总结为下面三点：1. Spark相对于hadoop的优势（1）高性能Spark具有hadoop MR所有的优点，hadoop MR每次计算的中间结果都会存储到HDFS的磁盘上，而Spark的中间结果可以保存在内
原创
2021-03-31 22:45:19
322阅读
一、大数据中心流程图二、大数据项目脑图三、Spark的基本工作原理1、分布式2、主要基于内存（少数情况基于磁盘）3、迭代式计算SparkSQL提供通过ApacheHive的SQL变体Hive查询语言（HiveQL）与Spark进行交互的API。每个数据库表被当做一个RDD，SparkSQL查询被转换为Spark操作SparkStreaming对实时数据流进行处理和控制SparkStreaming允
原创
2021-03-07 20:36:57
1335阅读
大数据（big data），是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。 大数据的4V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（价值）。 从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。它的特色在于对海量数据的挖掘，但它必须依托云计算的分
转载
2024-04-26 13:16:07
66阅读
然后我们再来看一下hadoop中,datanode的工作机制.1.datanode1,比如启动的时候,它会向namenode进行注册,把自己的信息,比如我存了哪些block块信息, 块中存了块数据,以及块数据的长度,以及数据的校验和,以及块数据的时间戳.把这些信息发给namenode节点2.然后namenode收到datanode1发过来的注册信息以后,把信息存到自己的元数据映射表中,然后给datanode1发送一条,注册成功的信息3.datanode1收到,namenode返回的注...
原创
2021-05-19 22:04:10
399阅读
什么是HDFS？HDFS（Hadoop Distribution File System）是基于谷歌发布的GFS论文设计的；出了具有其他文件系统具有的特性之后，hdfs
原创
精选
2023-12-28 09:59:56
263阅读
搜索是大数据领域里常见的需求。Splunk和ELK分别是该领域在非开源和开源领域里的领导者。本文利用很少的Python代码实现了一个基本的数据搜索功能，试图让大家理解大数据搜索的基本原理。01 布隆过滤器 （Bloom Filter）第一步我们先要实现一个布隆过滤器。布隆过滤器是大数据领域的一个常见算法，它的目的是过滤掉那些不是目标的元素。也就是说如果一个要搜索的词并不存在于我的数据中，那么它可
转载
2023-11-21 23:16:29
64阅读
原创
2021-05-05 11:29:46
233阅读
大数据的特征：HACE 原则 （large-volume,
heterogeneous,
autonomous sources with distributed and decentralized control, and seeks to explore
complex and
evolvin
转载
2023-10-23 21:51:59
134阅读
Elasticsearch索引的精髓：一切设计都是为了提高搜索的性能 以空间换时间。1，esES是基于Lucene分布式搜索服务，可以存储整个对象或文档。主要用于大量数据的索引查询。1）优点高性能 搜索和分析很快，涵盖了多种查询语句和数据结构。支持横向扩展： 通过增加结点数量扩展搜索和分析能力。 可以扩展到上百台服务器，处理PB级结构化或非结构化数据。实时（ NRT，near real time）
转载
2024-04-23 11:49:33
109阅读
MapReduce简介MapReduce是hadoop四大组件之一（HDFS，MapReduce，YARN和Comment），是一种分布式计算编程模型，用于解决海量数据的计算问题。MapReduce思想原理MapReduce采用分而治之的思想，将大文件切割成片，然后由多个map task并行处理，处理完成后交由reduce再做合并，最后输出结果MapReduce执行过程这里我们以经典例子WordC
转载
2024-01-11 09:10:09
95阅读
大概一年多以前，和几个小伙伴均认同一个趋势：觉得通过技术手段获取网上越来越丰富的数据，并基于这些数据做分析及可视化，必能产生有价值的结果，帮助大家改善生活。(大数据被叫烂了，所以用低调的方式来解释我们的初心)第一步：开工，为基金服务恰巧和几个基金的朋友(包括对冲基金和VC/PE基金)聊到这个趋势，他们非常认同这个观点并愿意付费，认为可以用这种实时且定量的方式来跟踪一些上市公司或者私有公司旗下的产品
转载
2023-08-25 00:53:18
3阅读
大数据面试题：超详细版MapReduce工作原理
原创
2023-07-30 22:56:17
102阅读
# 大数据挖掘工作展示
## 引言
在当前信息化时代，大数据挖掘将成为各行各业推动创新和决策的重要工具。我们将了解大数据挖掘的基本概念、常用技术及其应用，并通过代码示例以及可视化图示来加深理解。
## 大数据挖掘的基本概念
大数据挖掘是指从大量数据中提取有效信息和知识的过程。它的核心目标是通过算法和模型识别数据中的隐藏模式和趋势。常用的大数据挖掘技术包括：
1. **分类**：将数据分为
数据挖掘的目的是解决问题，不以解决问题的数据挖掘项目全是耍流氓，通过这一年半的工作经历，结合自己学习和工作中总结，特此呈现数据挖掘的一般流程问题 -->数据-->特征工程-->模型训练和诊断-->模型效果离线评估-->模型效果线上评估(小流量测试)-->模型上线1.问题：项目的成立的依据，比如给商户营销，推荐视频给用户等等。这个阶段要明确问题可以拆分的子问题，确
转载
2023-10-11 22:47:56
32阅读
在研究这个工作原理之前大家请参考这么一个实验https://blog.51cto.com/14451009/2427841（GNS3（Cisco）利用trunk实现跨交换机配置vlan）。在这一个成功实验的基础之上，我们利用抓包软件深入研究Trunk功能的工作原理。请看下图，下面已经实现了一个跨路由利用trunk把PC1跟PC3划分到vlan10，把PC2跟PC4划分到vlan20。这篇博客的主要
原创
2019-08-08 20:07:11
2530阅读
点赞
大数据工程师工作内容取决于你工作在数据流的哪一个环节。 从数据上游到数据下游，大致可以分为： 数据采集 -> 数据清洗 ->数据存储 ->数据分析统计 ->数据可视化等几个方面 工作内容当然就是使用工具组件(Spark、Flume、Kafka等)或者代码(Java、Scala等)来实现上面几个方面的功能。 一、数据采集： 业务系统的埋点代码时刻会产生一些分散的原始
转载
2024-01-25 18:52:42
39阅读
作者：朱赛凡四 大数据背景下数据分析挖掘技术介绍1 Mahout与MLlib项目数据分析挖掘主要涉及两个方面：一是数据预处理；二是数据挖掘。在数据预处理方面，根据掌握资料来看，大型互联网公司主要以MapReduce、Storm等计算框架为主，这些平台可以较好解决大数据预处理面临并行计算和处理灵活性的问题。但是个人认为spark、tez等属于MapReduce升级版本，因此后面这些计算框架在这方面的
转载
2023-10-11 09:16:33
104阅读
感觉站在大数据的风口浪尖，感受一丝丝的凉风，也很自豪啊，哈哈哈，猪被风吹飞了，我看着漫天猪飞很好奇呀。接触大数据方向的工作我们经常提的关键词无非也就是以下这些，其中的每一块都很值的挖掘，技术大牛都在其中的一个或几个领域炉火纯青。我只能说说我听过的关键词，具体每一块的精髓，还需岁月操魔。首先，大数据平台一般由以下几部分构成：1.数据源 也就是数
转载
2024-01-11 20:45:12
28阅读
