Apache Hadoop:[url]http://hadoop.apache.org/[/url]在近几年已成为大数据行业发展背后的驱动力。各行业对hadoop的广泛应用以及开发出自己的大数据产品.Hadoop带来了廉价的处理大数据（数据容量通常是10-100GB或更多，同时数据种类多种多样，包括结构化、非结构化等）的能力。现今企业数据仓库和关系型数据库
转载
2023-07-24 10:30:57
164阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-10 10:39:06
937阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司​研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-13 18:30:03
863阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-25 17:17:56
915阅读
第一章 Spark 性能调优1.1 常规性能调优1.1.1 常规性能调优一：最优资源配置Spark性能调优的第一步，就是为任务分配更多的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。资源的分配在使用脚本提交Spark任务时进行指定，标准的Spark任务提交脚本如代码清单2-1所示
转载
2023-11-17 11:46:37
141阅读
终极Hadoop大数据教程包含 MapReduce、HDFS、Spark、Flink、Hive、HBase、MongoDB、Cassandra、Kafka 等的数据工程和 Hadoop 教程！课程英文名：The Ultimate Hands-On Hadoop - Tame your Big Data!此视频教程共17.0小时，中英双语字幕，画质清晰无水印，源码附件全下载地址课程编号：307 百度
转载
2023-11-17 20:37:23
232阅读
文章目录2.1 概述2.2 Hadoop项目结构2.3 Hadoop的安装与使用2.4 Hadoop集群 2.1 概述• Hadoop是Apache软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构 • Hadoop是基于Java语言开发的，具有很好的跨平台特性，并且可以部署在廉价的计算机集群中 • Hadoop的核心是分布式文件系统HDFS（Hadoop Di
转载
2023-08-13 17:57:47
200阅读
目录零、本节学习目标一、Spark的概述（一）Spark的组件1、Spark Core2、Spark SQL3、Spark Streaming4、MLlib5、Graph X6、独立调度器、Yarn、Mesos（二）Spark的发展史1、发展简史2、目前最新版本二、Spark的特点（一）速度快（二）易用性（三）通用性（四）兼容性（五）代码简洁1、采用MR实现词频统计2、采用Spark实
转载
2023-08-08 10:02:29
230阅读
作者: Divakar等摘要：大数据解决方案的逻辑层可以帮助定义和分类各个必要的组件，大数据解决方案需要使用这些组件来满足给定业务案例的功能性和非功能性需求。这些逻辑层列出了大数据解决方案的关键组件，包括从各种数据源获取数据的位置，以及向需要洞察的流程、设备和人员提供业务洞察所需的分析。 概述 这个 “大数据架构和模式” 系列的 第 2 部分 介绍了一种评估大数据解决方案可行性的基于维度的方
转载
2023-07-08 15:59:04
171阅读
最近在整理整理java大数据处理这一系列的文章,在网上发现一个java写excel文件的方式,非常的有技巧，并且性能非常高,我在自己机器上简单的操作了一下，感觉非常的棒
这里就把这个方法和大家分享一下，一起讨论一下这种方式的成熟度.
简单说明
转载
2023-07-10 21:16:02
198阅读
大数据时代：大数据无处不在！ 大数据的主要分析逻辑： 1.做全样而非抽样的分析 2.追求效率 3.追求事件的相关性并非因果 大数据的关键技术 大数据基本处理流程：数据采集、存储管理、处理分析、结果呈现等环节。主要：数据存储与管理（分布式存储）集群 数据处理与分析（分布式处理）集群技术层面： 数据采集与预处理 数据存储和管理 数据处理与分析
转载
2023-07-29 18:56:51
170阅读
目录一、概述1）Spark特点2）Spark适用场景二、Spark核心组件三、Spark专业术语详解1）Application：Spark应用程序2）Driver：驱动程序3）Cluster Manager：资源管理器4）Executor：执行器5）Worker：计算节点6）RDD：弹性分布式数据集7）窄依赖8）宽依赖9）DAG：有向无环图10）DAGScheduler：有向无环图调度器11）Ta
转载
2023-07-18 22:26:12
113阅读
很多事情在执行的时候都是有一定的流程的，那么大数据的处理也不例外，这是因为有关程序都是需要逻辑的，而大数据处理也需要逻辑，这也就需要流程了。那么大数据处理的基本流程是什么呢？下面就由小编为大家解答一下这个问题。大数据处理的第一个步骤就是数据抽取与集成。这是因为大数据处理的数据来源类型丰富，大数据处理的第一步是对数据进行抽取和集成，从中提取出关系和实体，经过关联和聚合等操作，按照
转载
2023-11-02 09:23:12
124阅读
一、读取excel中的数据首先引入pandas库，没有的话使用控制台安装 —— pip install pandas 。import pandas as pd #引入pandas库，别名为pd
#read_excel用于读取excel中的数据，这里只列举常用的两个参数（文件所在路径，忽略头字段）
data = pd.read_excel('excel路径', header
转载
2023-11-21 18:38:51
51阅读
Lambda架构Lambda 的由来我们通常认为这个希腊字母与这一模式相关联是因为数据来自两个地方。批量数据和快速的流式数据代表Lambda符号的弯曲部分，然后通过服务层(线段与曲线部分合并)合并，如上图所示。什么是Lambda架构Lambda架构（Lambda Architecture）是由Twitter工程师南森·马茨（Nathan Marz）提出的大数据处理架构。它的目标是构建一个通用的、健
# Storm大数据处理：实时流处理的利器
在如今数据爆炸的时代，传统的数据处理方式已经无法满足实时性和动态性的需求。Apache Storm，作为一种开源的大数据处理工具，专注于实时数据流处理，为开发者提供了一个强大且灵活的开发平台。本文将深入介绍Storm的基本概念、工作原理，以及如何使用它进行实时数据处理，附带相关的代码示例。
## 什么是Apache Storm？
Apache St
Spark大数据处理：
转载
2021-06-10 20:54:51
489阅读
Spark大数据处理：
转载
2021-06-10 20:54:52
461阅读
Hadoop 是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high through
转载
2023-07-20 17:49:42
100阅读
这里写自定义目录标题 Apache HadoopApache Hadoop是一种专用于批处理的处理框架。Hadoop是首个在开源社区获得极大关注的大数据框架。基于谷歌有关海量数据处理所发表的多篇论文与经验的Hadoop重新实现了相关算法和组件堆栈，让大规模批处理技术变得更易用。新版Hadoop包含多个组件，即多个层，通过配合使用可处理批数据：· HDFS：HDFS是一种分布式文件系统层，可对集群
转载
2023-11-17 20:24:38
75阅读
