SequenceFile是一个由二进制序列化过的key/value的字节流组成的文本存储文件。基于压缩类型CompressType，共有三种SequenceFile Writer：public static enum CompressionType {
原创
精选
2014-07-30 17:18:08
10000+阅读
文章目录-实时数据平台- kudu: 面向实时分析的存储引擎- Hive支持的格式- Impala支持的格式- HBase支持的格式TextFileRCFileORCParquetARVO- 列式存储- 行式存储目标分类- 常见存储格式- 典型开源应用-应用场景目标分类WOS（Write Optimized Store） 采⽤用 kudu 表⽀持实时导⼊ROS（Read Optimized Sto
原创
2021-04-15 09:22:25
1542阅读
一，数据存储介绍1.操作系统获得存储空间的方式一般分为：① 外接活动硬盘 （DAS）② 网络存储服务器 （NAS）③ 存储区域网路服务 (SAN)(1) DAS：(Direct Attached Storage— 直接连接存储) 本地存储设备： 通过某种协议（SAS,SCSI,SAN,iSCSI 等）挂接裸硬盘，然后分区、 格式化、创建文件系统；或者直接使用裸硬盘存储数据（数据库）。这种
转载
2023-07-11 20:08:49
30阅读
一、为什么会产生大数据技术？ 维基百科中指出，大数据是指利用常用软件工具捕获、管理和处理数据所耗时间超过可容忍时间限制的数据集。对于大数据的定义很多学者从不同的角度进行了阐述，但是表达的意思大致相同，即大数据从根本上说是一种数据集，并且大数据的特性可以通过与以往的数据管理分析技术相比较来显示。在不同的要求中，大数据的时间处理范围是不同的，而且大数据的价值并不是数据自身，而是大数据带来的
转载
2023-07-09 12:26:45
0阅读
大数据从获取到分析的各个阶段都可能会涉及到数据集的存储，考虑到大数据有别于传统数据集，因此大数据存储技术有别于传统存储技术。大数据一般通过分布式系统、NoSQL数据库等方式（还有云数据库）进行存储。同时涉及到以下几个新理念。本篇summary主要围绕以下三方面内容：大数据存储方案（分布式系统、NoSQL数据库系统）；分布与集群、数据分布的途径；数据库设计时涉及到的原则与遵循的定理。&n
第一章1. 大数据是指规模庞大、复杂多样且难以通过传统数据处理方法进行处理和分析的数据集合。它通常具有高速生成、快速流动和多样化的特点。2. 大数据相关特征的挑战和相应措施：- 数据体量大（Volume）：大数据处理面临海量数据的存储、处理和分析挑战。解决方法包括分布式存储系统（如Hadoop HDFS）和分布式计算框架（如Spark）等，以实现数据的存储、并行处理和扩展性。- 数据流动性高（Ve
文章目录说明分享大数据存储特性和要求特性要求大数据存储现状hadoop系优点缺点非hadoop系优点缺点总结 说明本博客每周五更新一次。大数据存储是大数据平台的基石，数据的存储方式直接决定数据使用效率，平台的搭建与维护成本。所有内容理论为主，不牵涉太多专业知识，目标是简单易懂。分享大数据博客列表大数据存储特性和要求特性大数据存储基本依托分布式架构（大于一台服务协同完成存储和计算的架构），将数据拆
转载
2023-07-28 09:15:08
95阅读
文/陆嘉恒任何机器都会有物理上的限制：内存容量、硬盘容量、处理器速度等，我们需要在这些硬件的限制和性能之间做出取舍，比如内存的读取速度比硬盘快得多，因此内存数据库比硬盘数据库性能好，但是内存为2GB的机器不可能将大小为100GB的数据全部放入内存中，也许内存大小为128GB的机器能够做到，但是数据增加到200GB时就无能为力了。数据不断增长造成单机系统性能不断下降，即使不断提升硬件配置也难以跟上数
大数据的应用开发过于偏向底层，具有学习难度大，涉及技术面广的问题，这制约了大数据的普及。大数据架构是大数据技术应用的一个非常常见的形式，而今天就来分析了解一下，大数据架构组件包含哪些内容。 数据源 所有大数据架构都从源代码开始。这可以包含来源于数据库的数据、来自实时源(如物联网设备)的数据，及其从应用程序(如Windows日志)生成的静态文件。 实时消
转载
2023-08-16 20:44:25
121阅读
一、结构化数据的存储 随着互联网应用的广泛普及，海量数据的存储和访问成为了系统设计的瓶颈问题。对于一个大型的互联网应用，每天几十亿的PV无疑对数据库造成了相当高的负载。对于系统的稳定性和扩展性造成了极大的问题。水平切分数据库，可以降低单台机器的负载，同时最大限度的降低了了宕机造成的损失。通过负载均衡策略，
1. Azkaban介绍1.1. 为什么需要Azkaban一个完整的数据分析系统通常都是由大量任务单元组成shell脚本程序java程序mapreduce程序hive脚本等各任务单元之间存在时间先后及前后依赖关系, 为了很好地组织起这样的复杂执行计划， 需要一个工作流调度系统来调度执行；例如，我们可能有这样一个需求，某个业务系统每天产生20G原始数据，我们每天都要对 其进行处理...
原创
2021-08-18 10:39:44
148阅读
1. Azkaban介绍1.1. 为什么需要Azkaban一个完整的数据分析系统通常都是由大量任务单元组成shell脚本程序java程序mapreduce程序hive脚本等各任务单元之间存在时间先后及前后依赖关系, 为了很好地组织起这样的复杂执行计划， 需要一个工作流调度系统来调度执行；例如，我们可能有这样一个需求，某个业务系统每天产生20G原始数据，我们每天都要对 其进行处理...
原创
2022-03-04 16:34:27
105阅读
1. Flume 介绍1.1. 概述Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。Flume可以采集文件，socket数据包、文件、文件夹、kafka等各种形式源数据，又可以将采集到 的数据(下沉sink)输出到HDFS、hbase、hive、
原创
2022-03-04 16:38:57
64阅读
1：Hadoop介绍
Hadoop是一个分布式系基础框架,它允许使用简单的编程模型跨大型计算机的大型数据集进行分布式处理.
它主要解决两个问题
大数据存储问题： HDFS
大数据计算问题：MapReduce
问题一: 大文件怎么存储?
假设一个文件非常非常大，大小为1PB/a.txt, 大到世界上所有的高级计算机都存储不下,
原创
2022-03-04 17:06:33
110阅读
大数据技术是基于谷歌在2004~2006年发表的3篇论文第一篇论文 GFS 分布式文件系统第二篇论文 MapReduce 分布式计算第三篇论文 HBase 分布式存储Hadoop发展历史：Hadoop到目前为止一共有3个大版本Hadoop1.0Hadoop2.0Hadoop3.0Hadoop1.0 是分布式计算框架基于分布式文件系统，将计算和...
原创
2021-08-05 13:57:15
183阅读
1. Flume 介绍1.1. 概述Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。Flume可以采集文件，socket数据包、文件、文件夹、kafka等各种形式源数据，又可以将采集到 的数据(下沉sink)输出到HDFS、hbase、hive、kafka等众多外部存储系统中一般的采集需求，通过对flume的简单配置即可实现Flume针对特殊场景也具备良好的自定...
原创
2021-08-18 02:41:12
272阅读
1：Hadoop介绍Hadoop是一个分布式系基础框架,它允许使用简单的编程模型跨大型计算机的大型数据集进行分布式处理.它主要解决两个问题 大数据存储问题： HDFS 大数据计算问题：MapReduce问题一: 大文件怎么存储?假设一个文件非常非常大，大小为1PB/a.txt, 大到世界上所有的高级计算机都存储不下, 怎么办?为了保存大文件, 需要把文...
原创
2021-08-18 10:41:04
167阅读
RAID介绍
原创
2022-10-16 16:06:36
39阅读
大数据的介绍 第一节：数据 一、概念 数据就是数值，也就是我们通过观察、实验或计算得出的结果。数字、图片、 视频……. 二、分类 1、按照结构分 结构化数据：mysql表中的数据、excel 表、严格的二维表数据。每一行都有相同的列，每一行对应的列的类型一致的。 非结构化数据：没有任何结构的数据，视
转载
2020-07-21 14:32:00
110阅读
2评论
1、MongoDB——最受欢迎的，跨平台的，面向文档的数据库。 mongodb是一个基于分布式文件存储的数据库，使用C++语言编写。旨在为Web应用提供可扩展的高性能数据存储解决方案。应用性能高低依赖于数据库性能，MongoDB则是非关系数据库中功能最丰富，最像关系数据库的，随着MongDB 3.4版本发布，其应用场景适用能力得到了进一步拓展。 MongoDB的核心优势
原创
2022-10-10 20:43:18
87阅读
