文章目录1 修改序列化器2 Java集合与Scala集合相互转换需要得隐式转换3 DS与RDD、DF之间相互转换得隐式转换4 广播变量5 累加器6 自定义累加器需继承AccumulatorV2这个类7 SparkContext的创建方式8 SparkSession的创建方式9 SparkStreaming的创建方式10 自定义聚合函数11 本地通过SparkSql 查询Hive12 SparkS
转载
2023-12-15 09:26:03
32阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-10 10:39:06
937阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司​研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-13 18:30:03
863阅读
我们已经进入了大数据处理时代，需要快速、简单的处理海量数据，海量数据处理的三个主要因素：大容量数据、多格式数据和速度， DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中，快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理，编辑，检索和浏览。
原创
2014-06-25 17:17:56
915阅读
Hadoop的编程可以是在Linux环境或Winows环境中，在此以Windows环境为示例，以Eclipse工具为主（也可以用IDEA）。网上也有很多开发的文章，在此也参考他们的内容只作简单的介绍和要点总结。 Hadoop是一个强大的并行框架，它允许任务在其分布式集群上并行处理。但是编写、调试Hadoop程序都有很大难度。正因为如此，Hadoop的开发者开发出了Hadoop Eclipse插件
原创
2017-05-17 09:29:14
1019阅读
最近在整理整理java大数据处理这一系列的文章,在网上发现一个java写excel文件的方式,非常的有技巧，并且性能非常高,我在自己机器上简单的操作了一下，感觉非常的棒
这里就把这个方法和大家分享一下，一起讨论一下这种方式的成熟度.
简单说明
转载
2023-07-10 21:16:02
198阅读
作者: Divakar等摘要：大数据解决方案的逻辑层可以帮助定义和分类各个必要的组件，大数据解决方案需要使用这些组件来满足给定业务案例的功能性和非功能性需求。这些逻辑层列出了大数据解决方案的关键组件，包括从各种数据源获取数据的位置，以及向需要洞察的流程、设备和人员提供业务洞察所需的分析。 概述 这个 “大数据架构和模式” 系列的 第 2 部分 介绍了一种评估大数据解决方案可行性的基于维度的方
转载
2023-07-08 15:59:04
171阅读
目录零、本节学习目标一、Spark的概述（一）Spark的组件1、Spark Core2、Spark SQL3、Spark Streaming4、MLlib5、Graph X6、独立调度器、Yarn、Mesos（二）Spark的发展史1、发展简史2、目前最新版本二、Spark的特点（一）速度快（二）易用性（三）通用性（四）兼容性（五）代码简洁1、采用MR实现词频统计2、采用Spark实
转载
2023-08-08 10:02:29
233阅读
文章目录2.1 概述2.2 Hadoop项目结构2.3 Hadoop的安装与使用2.4 Hadoop集群 2.1 概述• Hadoop是Apache软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构 • Hadoop是基于Java语言开发的，具有很好的跨平台特性，并且可以部署在廉价的计算机集群中 • Hadoop的核心是分布式文件系统HDFS（Hadoop Di
转载
2023-08-13 17:57:47
203阅读
第一章 Spark 性能调优1.1 常规性能调优1.1.1 常规性能调优一：最优资源配置Spark性能调优的第一步，就是为任务分配更多的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。资源的分配在使用脚本提交Spark任务时进行指定，标准的Spark任务提交脚本如代码清单2-1所示
转载
2023-11-17 11:46:37
141阅读
终极Hadoop大数据教程包含 MapReduce、HDFS、Spark、Flink、Hive、HBase、MongoDB、Cassandra、Kafka 等的数据工程和 Hadoop 教程！课程英文名：The Ultimate Hands-On Hadoop - Tame your Big Data!此视频教程共17.0小时，中英双语字幕，画质清晰无水印，源码附件全下载地址课程编号：307 百度
转载
2023-11-17 20:37:23
232阅读
大数据时代：大数据无处不在！ 大数据的主要分析逻辑： 1.做全样而非抽样的分析 2.追求效率 3.追求事件的相关性并非因果 大数据的关键技术 大数据基本处理流程：数据采集、存储管理、处理分析、结果呈现等环节。主要：数据存储与管理（分布式存储）集群 数据处理与分析（分布式处理）集群技术层面： 数据采集与预处理 数据存储和管理 数据处理与分析
转载
2023-07-29 18:56:51
170阅读
目录一、概述1）Spark特点2）Spark适用场景二、Spark核心组件三、Spark专业术语详解1）Application：Spark应用程序2）Driver：驱动程序3）Cluster Manager：资源管理器4）Executor：执行器5）Worker：计算节点6）RDD：弹性分布式数据集7）窄依赖8）宽依赖9）DAG：有向无环图10）DAGScheduler：有向无环图调度器11）Ta
转载
2023-07-18 22:26:12
116阅读
很多事情在执行的时候都是有一定的流程的，那么大数据的处理也不例外，这是因为有关程序都是需要逻辑的，而大数据处理也需要逻辑，这也就需要流程了。那么大数据处理的基本流程是什么呢？下面就由小编为大家解答一下这个问题。大数据处理的第一个步骤就是数据抽取与集成。这是因为大数据处理的数据来源类型丰富，大数据处理的第一步是对数据进行抽取和集成，从中提取出关系和实体，经过关联和聚合等操作，按照
转载
2023-11-02 09:23:12
124阅读
R有着强大而又丰富的数据处理能力，除了一些常用的基础数据处理函数之外，R还为我们提供了大量以实现不同的数据处理功能的扩展包。之前曾写过一篇关于R向量化运算的 apply函数族的文章： 对于日常数据处理工作而言，可能 apply函数族的8个核心函数还不够用，所以本篇小编为大家介绍一款基于 apply函数族又
转载
2024-07-05 06:35:40
112阅读
英文：Anna Nicolauo译者：伯乐在线 - 胡波链接：http://blog.jobbole.com/100732/有关大数据的话题一直很火热。伴随着信息的爆炸式增长，大数据渗透到了各行各业，广泛应用于公司中，同时也使得传统的软件比如 Excel 看起来很笨拙。数据分析不再只是书呆子的事，同时其对高复杂性分析、实时处理的需求也比以往更加庞大。那么筛选海量数据集最优的工具是什么呢？我们咨询了
原创
2021-05-09 08:31:47
235阅读
1. 什么是awk AWK 是一种处理文本文件的语言，是一个强大的文本分析工具。 之所以叫 AWK 是因为其取了三位创始人 Alfred Aho，Peter Weinberger, 和 Brian Kernighan 的 Family Name 的首字符。 相较于sed常常作用于一整个行的处理，aw ...
转载
2021-07-28 23:13:00
293阅读
2评论
Spark大数据处理：
转载
2021-06-10 20:54:52
461阅读
Lambda架构Lambda 的由来我们通常认为这个希腊字母与这一模式相关联是因为数据来自两个地方。批量数据和快速的流式数据代表Lambda符号的弯曲部分，然后通过服务层(线段与曲线部分合并)合并，如上图所示。什么是Lambda架构Lambda架构（Lambda Architecture）是由Twitter工程师南森·马茨（Nathan Marz）提出的大数据处理架构。它的目标是构建一个通用的、健
Spark大数据处理：
转载
2021-06-10 20:54:51
491阅读
