大数据之Scala基础完整使用一、概述1、为什么学习 Scala2、Scala 发展历史3、Scala 和 Java 关系4、Scala 语言特点二、Scala 环境搭建1、安装步骤2、测试三、Scala 插件安装四、HelloWorld 案例1、创建 IDEA 项目工程2、Maven 不支持 Scala 的开发，需要引入 Scala 框架。3、编写Helloword4、Scala 程序反编译5
转载
2024-05-08 23:44:48
56阅读
针对刚刚接触大数据的小伙伴，整理了一篇入门指南，帮助大家快速掌握大数据的基本概念什么是大数据？大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。主要解决，海量数据的存储和海量数据的分析计算能力。一般具有4V的特点：Volume(大量)、Velocity(高速)、Variety(
原创
2023-06-08 08:38:34
1492阅读
了解大数据各种技术之间的关系，选择合适的语言。我们可以带着下面问题来阅读本文章：1....
转载
2022-10-20 23:23:58
94阅读
大数据我们都知道hadoop，可是还会各种各样的技术进入我们的视野：Spark，Storm，impala，让我们都反映不过来。司与hadoop的关系是什么，都有什么产品，产品有...
原创
2023-07-24 18:08:25
119阅读
目录：简介pysparkIPython Notebook安装配置spark编写框架：首先开启hdfs以及yarn1 sparkconf2 sparkcontext3 RDD（核心）4 transformation（核心） 5 action（核心）当然也可以指定运行py程序简介：不可否认，sp
转载
2024-02-26 15:01:15
63阅读
1、什么是大数据？在互联网技术发展到现今阶段，大量日常、工作等事务产生的数据都已经信息化，人类产生的数据量相比以前有了爆炸式的增长，以前的传统的数据处理技术已经无法胜任，需求催生技术，一套用来处理海量数据的软件工具应运而生，这就是大数据！ 2、数据的处理技术处理海量数据的核心技术：海量数据存储：分布式海量数据运算：分布式 3、常用的大数据框架这些核心技术
转载
2023-11-17 20:24:29
75阅读
自底向上，与OSI类似，通用框架下的大数据体系有七层：数据源、数据收集层、数据存储层、资源管理与服务协调层、计算引擎层、数据分析层及数据可视化层。
原创
2021-07-05 13:49:02
2603阅读
# 大数据挖掘技术框架实现指南
大数据挖掘是当前数据科学领域非常重要的一部分，它使我们能够从海量数据中提取有用的信息。作为一名新手开发者，了解如何搭建一个大数据挖掘框架是非常重要的。本文将为您提供一个系统的流程以及每一步的代码示例，帮助您从头开始搭建一个大数据挖掘技术框架。
## 流程概览
以下是实现大数据挖掘技术框架的基本步骤：
| 步骤 | 说明
其他网址
原创
2022-03-23 17:15:58
922阅读
摘要：2019年1月18日，由阿里巴巴MaxCompute开发者社区和阿里云栖社区联合主办的“阿里云栖开发者沙龙大数据技术专场”走近北京联合大学，本次技术沙龙上，阿里巴巴高级技术专家吴永明为大家分享了MaxCompute，基于Serverless的高可用大数据服务，以及MaxCompute低计算成本背后的秘密。以下内容根据演讲视频以及PPT整理而成。一、什么是MaxComputeBig Data
转载
2024-05-11 23:26:41
54阅读
大数据的基本处理流程与传统数据处理流程并无太大差异，主要区别在于：由于大数据要处理大量、非结构化的
原创
2023-04-19 15:53:53
193阅读
这不马上要到金三银四了吗，最近小编整理了一套 5000 页的 Java 技术栈的学习手册, 新鲜出炉！此手册内容专注 Java技术，包括 JavaWeb，SSM，Linux，Spring Boot，MyBatis，MySQL，Nginx，Git，GitHub，Servlet，IDEA，多线程，集合，JVM，DeBug, Dubbo，Redis，算法，面试题等相关内容。IDEA DeBug调试技巧一
转载
2023-11-28 16:18:01
52阅读
主要基于对现阶段一些常用的大数据开源框架技术的整理，只是一些简单的介绍，并不是详细技术梳理。可能会有疏漏，发现再整理。参考的太多，就不一一列出来了。这只是作为一个梳理，对以后选型或者扩展的做个参考。
转载
2021-06-13 21:47:52
182阅读
主要基于对现阶段一些常用的大数据开源框架技术的整理，只是一些简单的介绍，并不是详细技术梳理。可能会有疏漏，发现再整理。参考的太多，就不一一列出来了。这只是作为一个梳理，对以后选型或者扩展的做个参考。目录系统平台（Hadoop、CDH、HDP） 监控管理（CM、Hue、Ambari、Dr.Elephant、Ganglia、Zabbix、Eagle） 文件系统（HDFS、GPFS...
原创
2021-09-01 16:28:19
318阅读
**软考大数据技术框架深度解析**
在信息化时代的浪潮中，大数据技术成为了推动社会发展的重要力量。作为信息技术领域的一大热点，大数据技术在软考（计算机技术与软件专业技术资格考试）中也占据了举足轻重的地位。本文将对软考大数据技术框架进行深度解析，帮助考生更好地理解和掌握这一关键技术。
**一、大数据技术概述**
大数据技术是指从各种各样类型的数据中，快速获得有价值信息的能力。这些数据包括结构化
原创
2024-04-29 20:00:56
74阅读
# 大数据的Storm技术框架
## 引言
在当今大数据时代，实时数据处理变得至关重要。Apache Storm 是一个开源的分布式计算框架，旨在处理实时数据流。Storm 提供了高性能和可扩展性，使其成为处理大规模流数据的理想选择。在这篇文章中，我们将探讨 Storm 的基本概念、架构、以及如何使用它进行实时数据处理，并提供相关的代码示例。
## Storm的基本概念
Storm 采用"
大数据离线部分HDFS1：HDFS的架构部分及工作原理NameNode：负责管理元素据，将信息保存在内存中DataNode：保存数据，以块的形式保存。启动后需要定时的向NameNode发送心跳，报告自身存储的块信息2：HDFS的上传过程3：HDFS的下载4：NameNode的元数据安全机制以记日志的形式将每一个操作写在磁盘的日志文件中，然后借助SecondaryNameNode的checkpoin
原创
2019-01-04 17:49:49
420阅读
点赞
大数据技术学习进阶路线随着大数据技术的不断发展，大数据的技术体系已经趋于成熟，由于大数据技术体系比较庞大，所以在学习大数据的时候首先应该根据自身的知识结构，找到一个适合的切入点。本节将介绍大数据技术学习需要经过的几个阶段，帮助想转大数据开发的同学，对大数据技术有个整体的把握。第一阶段Java语言基础：由于大数据开发，大多是基于Java语言进行的，所以Java语言开发是必需要掌握的。掌握技能如下图所
转载
2023-09-26 19:19:27
115阅读
大数据框架hadoop服务角色介绍翻了一下最近一段时间写的分享，DKHadoop发行版本下载、安装、运行环境部署等相关内容几乎都已经写了一遍了。虽然有的地方可能写的不是很详细，个人理解水平有限还请见谅吧！我记得在写DKHadoop运行环境部署的时候，遗漏了hadoop服务角色的内容，本篇特地补上这部分内容吧，不然总觉得不舒服。要在集群中运行DKHadoop服务，需要指定集群中的一个或多个节点执行该
转载
2018-11-12 18:45:28
305阅读
翻了一下最近一段时间写的分享，DKHadoop发行版本下载、安装、运行环境部署等相关内容几乎都已经写了一遍了。虽然有的地方可能写的不是很详细，个人理解水平有限还请见谅吧！我记得在写DKHadoop运行环境部署的时候，遗漏了hadoop服务角色的内容，本篇特地补上这部分内容吧，不然总觉得不舒服。要在集群中运行DKHadoop服务，需要指定集群中的一个或多个节点执行该服务的特定功能，角色分配是必须的，
原创
2018-09-11 08:45:19
933阅读
