定义：无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。特点：5v（1）Volume 大量：指的是数据体量巨大，从TB级别跃升到PB级别(1024TB)、EB级别(1024PB)，甚至于达到ZB级别(1024EB)。（2）Variety 多样：指的是数据类型繁多。 这种类型的多样性也让
原创
2023-11-10 23:23:13
177阅读
常见关键技术有MapReduce、HBase、HDFS等，其余的例如：Chukwa：数据收集系统，用于监控大型分布式系统。继承了Hadoop的可伸缩性和鲁棒性。
Flume：是Cloudera提供的一个高可用的，高可靠的，分布式的日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；能够对数据进行简单处理，并写到各种数据接受方(可定制) 。
Kafka：是一种高吞
原创
2023-11-11 21:45:19
129阅读
一、对大数据的认识大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。主要解决的是对海量数据的存储以及海量数据的计算分析问题数据单位描述：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。大数据主要的特点：Vol
原创
2022-05-17 17:06:25
242阅读
一、对大数据的认识大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件
原创
2022-12-18 00:13:21
97阅读
“大数据时代”已经来临，并对各个领域都产生了深远的影响。在商业、经济及其他领域中，决策行为将日益基于数据和分析而作出，而并非基于经验和直觉；而在公共卫生、经济发展和经济预测等领域中，“大数据”的预见能力也已经崭露头角。
原创
2012-09-27 09:50:16
372阅读
# Java大数据类型BigDecimal的实现指南
在软件开发过程中，我们常常需要处理涉及高精度数值的场景，这时候`java.math.BigDecimal`是一个非常实用的类。它能够处理大数，并且提供了精确的算术运算。本文将详细讲解如何在Java中使用`BigDecimal`，并且提供一个清晰的步骤流程，代码示例和图示。
## 一、流程概述
我们处理`BigDecimal`的流程可以简单
原创
2024-09-06 03:49:17
81阅读
Spark是一个针对超大数据集合的低延迟的集群分布式计算系统，比MapReducer快40倍左右。 Spark是hadoop的升级版本，
原创
2023-07-24 17:38:37
87阅读
一、大数据的基本概念1.1、什么是大数据大数据指的就是要处理的数据是TB级别以上的数据。大数据是以TB级别起步的。在计算机当中，存放到硬盘上面的文件都会占用一定的存储空间，例如：文件占用的存储空间代表的就是该文件的大小，在计算机当中，文件的大小可以采用以下单位来表示，各个单位之间的转换关系如下：转换平时我们在我们自己的电脑上面常见的就是Byte、KB、MB、GB这几种，那么究竟什么是大数据呢，大数
转载
2023-09-22 21:17:10
40阅读
Spark是hadoop的升级版本，Hadoop作为第一代产品使用HDFS，第二代加入了Cache来保存中间计算结果，并能适时主动推Map/Reduce任务，第三代就是Spark倡导的流Streaming。 Spark兼容Hadoop的APi，能够读写Hadoop的HDFS HBASE 顺序文件等。 传统Hadoop如下图 性能慢原因有：磁盘IO 复制和序列化等
转载
2023-04-25 23:23:40
84阅读
大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。大数据，又称巨量资料，指的是所涉及的数据资料量规模巨大到无法通过人脑甚至主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。 大数据根基于互联网，数据仓库、数据挖掘、云计算等互联网技术的发展为大数据的应用奠定了基础。1.大数据是什么？引用3个比较常用的
转载
2023-08-07 22:44:37
325阅读
一、了解Hadoop关于Hadoop的官方说明是：Apache Hadoop 是一款支持 数据密集型 分布式 应用程序并以 Apache 2.0 许可协议发布的 开源软体框架。拆开来说，其中包含学习 Hadoop 必须要理解的三个知识点：（1）Hadoop是一个框架； （2）可以用来处理大规模数据； （3）Hadoop被部署在集群上。二、Hadoop传统意义上，我们常说的Hadoop是包含了 Co
转载
2023-07-20 17:52:00
549阅读
当你已经准备好实施大数据，请仔细的评估云提供商提供的大数据功能，确保找到最合适的。下面我们来看一下四种云服务产品。当谈到在云端实施大数据战略时，好消息是你会有很多选择。但是，这同时也是一个坏消息。来自Forrester Research最近的一份报告强调，尽管大数据云服务很强大，他们也有可能造成混乱，从而需要企业采用比传统的方式更加灵活，琐碎的方法。该报告的结论是：在云计算领域中没有一种服务是适合
转载
2023-07-30 20:15:25
196阅读
1． Hue是什么HUE=Hadoop User ExperienceHue是一个开源的Apache Hadoop UI系统，由Cloudera Desktop演化而来，最后Cloudera公司将其贡献给Apache基金会的Hadoop社区，它是基于Python Web框架Django实现的。通过使用Hue，可以在浏览器端的Web控制台上与Hadoop集群进行交互，来分析处理数据，例如操
转载
2024-04-29 21:58:00
230阅读
本片博客介绍大数据相关的开源系统以及他们对应的一句话简介, 对于各位想大概了解大数据都有哪些开源系统的同学有帮助。各种相关开源系统简介：
如下是Apache基金支持的开源软件hdfs
跟GFS类似, 一个分布式文件系统。
mapreduce
转载
2024-05-10 11:58:55
139阅读
随着移动网络、云计算、物联网等新兴技术迅猛发展，全球数据呈爆炸式增长，标志着我们迎来又一伟大时代——大数据时代，它的到来在不知不觉中改变着人们的生活方式和思维方式，而它对企业产生的影响也更为深远。而今天我们就一起来了解一下，企业大数据应用都面临哪些安全问题。 企业需要关注哪六种大数据安全问题 1、使数据易受攻击 如今，所有数据都是数字化的，并且数量巨大，黑客始终可以在恶意内部人员的帮助下
转载
2024-04-09 18:28:35
352阅读
Hue Web应用的架构Hue 是一个Web应用，用来简化用户和Hadoop集群的交互。Hue技术架构，如下图所示，从总体上来讲，Hue应用采用的是B/S架构，该web应用的后台采用python编程语言别写的。大体上可以分为三层，分别是前端view层、Web服务层和Backend服务层。Web服务层和Backend服务层之间使用RPC的方式调用。Hue整合大数据技术栈架构由于大数据框架
转载
2024-04-18 22:19:53
44阅读
大数据体系数据平台数据平台是在数以万计的硬件之上建立统一的基础数据存储和计算的服务。数据中台数据中台是抽象了数据能力的共性形成的数据服务能力,是一系列的数据服务,用系统化思路降低数据前台对数据获取的难度,更好的赋能业务。数据平台与数据中台的区别核心区别——是否跟业务强相关数据平台和业务的联系并不密切,其提供基础的存储,计算,调度,数仓工具等基础的技术服务。对于业务数据如何进行存储,数据表如何组织,
转载
2023-10-18 19:23:40
198阅读
大数据是以互联网为基础的。数据仓库、数据挖掘、云计算等互联网技术的发展为大数据的应用奠定了基础。对于任何一个大数据从业者来说，新的接触，或者会有一种共同的感觉：大数据是非常有用的！那么如何构建大数据分析平台已经成为当前研究的焦点。 大数据并不是一场市场炒作。对于许多跨多个垂直的组织而言，大数据是真实存在的，而且它正在改变数据中心的架构。随着数据量、数据处理速度和数据类型的复杂度以
转载
2023-11-01 23:01:57
195阅读
