第一章 Spark 性能调优1.1 常规性能调优1.1.1 常规性能调优一：最优资源配置Spark性能调优的第一步，就是为任务分配更多的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。资源的分配在使用脚本提交Spark任务时进行指定，标准的Spark任务提交脚本如代码清单2-1所示
转载
2023-11-17 11:46:37
141阅读
目录零、本节学习目标一、Spark的概述（一）Spark的组件1、Spark Core2、Spark SQL3、Spark Streaming4、MLlib5、Graph X6、独立调度器、Yarn、Mesos（二）Spark的发展史1、发展简史2、目前最新版本二、Spark的特点（一）速度快（二）易用性（三）通用性（四）兼容性（五）代码简洁1、采用MR实现词频统计2、采用Spark实
转载
2023-08-08 10:02:29
230阅读
概念大数据指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。 数据挖掘( Data Mining )是有组织有目的地收集数据，通过分析数据使之成为信息,从而在大量数据中寻找潜在规律以形成规则或知识的技术。 数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和
转载
2023-08-29 20:50:07
83阅读
2、python核心用法数据清洗（下） 文章目录2、python核心用法数据清洗（下）概述实验环境任务二：Pandas数据分析实战-1【任务目标】【任务步骤】分析数据问题任务三：Pandas数据分析实战-2【任务目标】【任务步骤】处理问题一处理问题二处理问题三四 概述Python 是当今世界最热门的编程语言，而它最大的应用领域之一就是数据分析。在python众多数据分析工具中，pandas是pyt
转载
2023-12-07 00:09:21
85阅读
大数据是一个含义广泛的术语，是指数据集，如此庞大而复杂的，他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集自各种各样的来源：传感器，气候信息，公开的信息，如杂志，报纸，文章。大数据产生的其他例子包括购买交易记录，网络日志，病历，军事监控，视频和图像档案，及大型电子商务。在大数据和大数据分析，他们对企业的影响有一个兴趣高涨。大数据是研究大量的数据的过程中寻找模
转载
2023-07-20 17:50:03
75阅读
第三章《数据分析实战》--第三章 python实现主要利用分组统计分析了企业某游戏的销售额下降的主要原因。这一章主要利用交叉列表（或叫作透视表）的方式来剖析企业用户数量减少的原因。假设是因为某个群体的用户锐减导致当月用户比上个月的用户数少，因此主要利用python中的pandas、matplotlib模块完成书中分析。1、读取数据、合并数据首先将工作路径设置到数据文件所在位置，具体操作见第三章第一
转载
2023-10-18 09:04:00
150阅读
# 大数据处理与数据挖掘实现流程
## 1. 环境准备
在进行大数据处理与数据挖掘之前，我们需要搭建相应的环境。首先，我们需要安装并配置Hadoop集群，用于存储和处理大规模数据。其次，我们需要搭建Spark集群，用于实现数据挖掘算法的分布式计算。最后，我们需要安装Python或者其他编程语言的相关库，用于编写数据处理与数据挖掘的代码。
## 2. 数据预处理
数据预处理是数据挖掘的第一步，其
原创
2023-08-22 07:02:21
65阅读
基本信息作者： 高彦杰 丛书名： 大数据技术丛书出版社：机械工业出版社ISBN：9787111483861上架时间：2014-11-5出版日期：2014 年11月开本：16开页码：255版次：1-1所属分类： 计算机 > 数据库 > 数据库存储与管理 编辑推荐 根据最新技术版本，系统、全面、详细讲...
转载
2015-03-26 14:14:00
132阅读
2评论
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-10 10:39:06
937阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司​研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-13 18:30:03
863阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-25 17:17:56
915阅读
数据能够在国内得到快速发展，甚至是国家层面的支持，最为重要的一点就是我们纯国产大数据处理技术的突破以及跨越式发展。在互联网深刻改变我们的生活、工作方式的当下，数据就成为了最为重要的资料。尤其是数据安全问题就更为突出，前阶段的Facebook用户数据泄漏所引发产生的一系列问题，就充分的说明了数据安全问题的严重性。大数据发展的必然趋势就是将会深刻改变我们的工作和生活方式，无论是企业还是个人也都必然会成
转载
2018-10-09 13:55:23
397阅读
1.试述hadoop和谷歌的mapreduce、gfs等技术之间的关系
答： Hadoop的核心是分布式文件系统HDFS和MapReduce，HDFS是谷歌文件系统GFS的开源实现，MapReduces是针对谷歌MapReduce的开源实现。
2.试述Hadoop具有哪些特性。
答： 高可靠性，高效性，高可扩展性，高容错性，成本低，运行在Linux平台，支持多种编程语言
3.试述Hadoop在各
原创
2022-04-01 11:30:03
493阅读
1.试述hadoop和谷歌的mapreduce、gfs等技术之间的关系答：Hadoop的核心是分布式文件系统HDFS和MapReduce，HDFS是谷歌文件系统GFS的开源实现，MapReduces是针对谷歌MapReduce的开源实现。2.试述Hadoop具有哪些特性。答：高可靠性，高效性，高可扩展性，高容错性，成本低，运行在Linux平台，支持多种编程语言3.试述Hadoop在各个...
原创
2021-06-01 17:30:54
648阅读
简 介：这本书的名字为大数据技术原理与应用，该书的作者为厦门大学著名的研究大数据方向的林子雨老师。顾名思义，概述讲
原创
2023-01-17 01:37:33
165阅读
Python+大数据-数据处理与分析(三)-数据清洗1. 数据组合1.1 数据聚合简介在动手进行数据分析工作之前，需要进行数据清理工作，数据清理的主要目标是：每个观测值成一行每个变量成一列每种观测单元构成一张表格数据整理好之后，可能需要多张表格组合到一起才能进行某些问题的分析比如：一张表保存公司名称，另一张表保存股票价格单个数据集也可能会分割成多个，比如时间序列数据，每个日期可能在一个单独的文件中
转载
2023-09-14 22:08:03
7阅读
HDFS全称Hadoop Distributed File System,是Hadoop的一套开创性的数据存储方案，人们天天吹牛逼包装出来的Data Lake(数据湖)的一种，其实说白了就是一种分布式文件系统，什么是文件系统，其实就是针对一块磁盘进行划分成一小块一小块的block来存储文件，文件也被切割成一个一个的小块存放在这些block里面，文件像萝卜，磁盘块像坑，而文件最后一块如果小于一个磁盘
转载
2024-09-13 13:52:44
71阅读
1、前言因为负责基础服务,经常需要处理一些数据,但是大多时候采用awk以及java程序即可,但是这次突然有百万级数据需要处理,通过awk无法进行匹配,然后我又采用java来处理,文件一分为8同时开启8个线程并发处理,但是依然处理很慢,处理时长起码在1天+所以无法忍受这样的处理速度就采用python来处理,结果速度有了质的提升,大约处理时间为1个小时多一点,这个时间可以接受,后续可能继续采用大数据思
转载
2023-08-20 20:54:17
214阅读
终极Hadoop大数据教程包含 MapReduce、HDFS、Spark、Flink、Hive、HBase、MongoDB、Cassandra、Kafka 等的数据工程和 Hadoop 教程！课程英文名：The Ultimate Hands-On Hadoop - Tame your Big Data!此视频教程共17.0小时，中英双语字幕，画质清晰无水印，源码附件全下载地址课程编号：307 百度
转载
2023-11-17 20:37:23
232阅读
文章目录2.1 概述2.2 Hadoop项目结构2.3 Hadoop的安装与使用2.4 Hadoop集群 2.1 概述• Hadoop是Apache软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构 • Hadoop是基于Java语言开发的，具有很好的跨平台特性，并且可以部署在廉价的计算机集群中 • Hadoop的核心是分布式文件系统HDFS（Hadoop Di
转载
2023-08-13 17:57:47
200阅读
