参考链接1:http://dy.163.com/v2/article/detail/CR2SBQAF0511D9SG.html参考链接2：https://www.iteye.com/blog/iamzhongyong-2187293 一、架构视图定义 《Rational统一过程引论》中的定义： 一个架构视图是对于从某一视角或某一点上看到的系统所作的简化描述，描述中涵盖了系统的某一特定方面，而省
转载
2023-08-15 23:38:23
51阅读
一、结构化数据的存储 随着互联网应用的广泛普及，海量数据的存储和访问成为了系统设计的瓶颈问题。对于一个大型的互联网应用，每天几十亿的PV无疑对数据库造成了相当高的负载。对于系统的稳定性和扩展性造成了极大的问题。水平切分数据库，可以降低单台机器的负载，同时最大限度的降低了了宕机造成的损失。通过负载均衡策略，
转载
2023-12-28 23:23:14
111阅读
云计算与大数据密切相关，大数据是计算密集型操作的对象，需要消耗巨大的存储空间，云计算的主要目标是在集中管理下使用巨大的计算和存储资源，用微粒度计算能力提供大数据应用，云计算的发展为大数据的存储和处理提供了解决方案，大数据的出现也加速了云计算的发展，基于云计算的分布式存储技术可以有效地管理大数据，借助云计算的并行计算能力可以提高大数据采集和分析的效率。研究机构Gartner定义∶大数据是需要新的处理
转载
2023-10-23 14:41:33
0阅读
一，数据存储介绍1.操作系统获得存储空间的方式一般分为：① 外接活动硬盘 （DAS）② 网络存储服务器 （NAS）③ 存储区域网路服务 (SAN)(1) DAS：(Direct Attached Storage— 直接连接存储) 本地存储设备： 通过某种协议（SAS,SCSI,SAN,iSCSI 等）挂接裸硬盘，然后分区、 格式化、创建文件系统；或者直接使用裸硬盘存储数据（数据库）。这种
转载
2023-07-11 20:08:49
80阅读
单机时代，主要使用的是RAID（独立磁盘冗余阵列）就是将多块普通磁盘组成阵列，共同对外提供服务。分布式时代，主要解决方案是分布式文件系统。 大数据技术主要是解决大规模数据的计算处理问题，但是要对数据计算，首先要解决的是大规模数据的存储问题。主要分为以
转载
2023-10-25 21:32:10
81阅读
越来越多的人看法到数据分析的重要性，而国度也为了促进大数据信息建立的开展，对各地建立大数据出 台相关政策。大数据技术可以将海量数据中隐藏的信息和知识发掘出来，为人类社会、经济活动等方面提供根据，进步各个领域的运转效率，甚至整个社会经济的集约化水平。 大数据分析的进程包括：大数据采集——预处理——大数据存储管理——大数据建模——大数据可视化剖析。 1.大数据采集：大数据的采集次要有4种来源，
转载
2023-08-13 16:54:16
107阅读
第一章1. 大数据是指规模庞大、复杂多样且难以通过传统数据处理方法进行处理和分析的数据集合。它通常具有高速生成、快速流动和多样化的特点。2. 大数据相关特征的挑战和相应措施：- 数据体量大（Volume）：大数据处理面临海量数据的存储、处理和分析挑战。解决方法包括分布式存储系统（如Hadoop HDFS）和分布式计算框架（如Spark）等，以实现数据的存储、并行处理和扩展性。- 数据流动性高（Ve
转载
2023-11-30 11:15:42
256阅读
文章目录说明分享大数据存储特性和要求特性要求大数据存储现状hadoop系优点缺点非hadoop系优点缺点总结 说明本博客每周五更新一次。大数据存储是大数据平台的基石，数据的存储方式直接决定数据使用效率，平台的搭建与维护成本。所有内容理论为主，不牵涉太多专业知识，目标是简单易懂。分享大数据博客列表大数据存储特性和要求特性大数据存储基本依托分布式架构（大于一台服务协同完成存储和计算的架构），将数据拆
转载
2023-07-28 09:15:08
118阅读
大数据从获取到分析的各个阶段都可能会涉及到数据集的存储，考虑到大数据有别于传统数据集，因此大数据存储技术有别于传统存储技术。大数据一般通过分布式系统、NoSQL数据库等方式（还有云数据库）进行存储。同时涉及到以下几个新理念。本篇summary主要围绕以下三方面内容：大数据存储方案（分布式系统、NoSQL数据库系统）；分布与集群、数据分布的途径；数据库设计时涉及到的原则与遵循的定理。&n
转载
2023-10-02 09:14:25
231阅读
一、为什么会产生大数据技术？ 维基百科中指出，大数据是指利用常用软件工具捕获、管理和处理数据所耗时间超过可容忍时间限制的数据集。对于大数据的定义很多学者从不同的角度进行了阐述，但是表达的意思大致相同，即大数据从根本上说是一种数据集，并且大数据的特性可以通过与以往的数据管理分析技术相比较来显示。在不同的要求中，大数据的时间处理范围是不同的，而且大数据的价值并不是数据自身，而是大数据带来的
转载
2023-07-09 12:26:45
24阅读
大数据的应用开发过于偏向底层，具有学习难度大，涉及技术面广的问题，这制约了大数据的普及。大数据架构是大数据技术应用的一个非常常见的形式，而今天就来分析了解一下，大数据架构组件包含哪些内容。 数据源 所有大数据架构都从源代码开始。这可以包含来源于数据库的数据、来自实时源(如物联网设备)的数据，及其从应用程序(如Windows日志)生成的静态文件。 实时消
转载
2023-08-16 20:44:25
149阅读
文/陆嘉恒任何机器都会有物理上的限制：内存容量、硬盘容量、处理器速度等，我们需要在这些硬件的限制和性能之间做出取舍，比如内存的读取速度比硬盘快得多，因此内存数据库比硬盘数据库性能好，但是内存为2GB的机器不可能将大小为100GB的数据全部放入内存中，也许内存大小为128GB的机器能够做到，但是数据增加到200GB时就无能为力了。数据不断增长造成单机系统性能不断下降，即使不断提升硬件配置也难以跟上数
转载
2024-08-21 09:26:41
30阅读
大数据关键技术浅谈之大数据存储及管理 数据存储作为大数据的核心环节之一，可以理解为方便对既定数据内容进行归档、整理和共享的过程。自磁盘系统问世以来，数据存储已经走过了近百年的历程。 对于存储，计算机就像我们的大脑一样，两者都可以拥有短期记忆和长期记忆，例如大脑是通过前额叶皮层来处理短期记忆，而计算机则利用RAM(随机存取存储器)来处理短期记忆。大脑和计算机都需要在清醒的状态下处理并
转载
2023-10-05 08:41:36
15阅读
近来ip san技术日趋火爆，而作为一个成熟的iscsi存储厂商kernsafe，准备正式开启中国业务的大门。之前所有的业务都来自于国外，但是，中国中小型企业所面临的存储困难，日趋严重，而kernsafe作为我们国产品牌，且技术很成熟，所以对他们来说kernsafe的istorage server是一个不错的选择，www.kernsafe.com。
作为一个存储方案工程师，也渐渐的感觉到iscs
原创
2013-03-05 20:54:46
473阅读
一、分布式文件系统1. 分布式文件系统定义：分布式文件系统(Distributed File System, DFS)是指文件系统管理的物理存储资源不仅存储在本地节点上，还可以通过网络连接存储在非本地节点上。分布式文件系统相较于本地存储的优势：低成本易扩展：横向扩展强可靠高可用用户无需关心数据是存储在哪个节点上，可以如同使用本地文件系统一样存储和管理分布式文件系统里的数据。评价一个分布式文件系统，
转载
2024-03-04 21:16:44
78阅读
认识企业数据存储的三种方式:DAS、NAS和SAN 在企业刚刚建立初期，用户的数据规模并不大，存储需求也很简单，只是要把相关数据存放在某一地方即可。而存放数据的最终目的不但是为了能够安全保存，还必须保证数据可以随时被调用。我们最早都是采用一种称之为“DAS(Direct Attached Storage，直接外挂存储)”存储方式的一种方案。这种存储方案的服务器结构如同PC机架构，外部数据存储设备
转载
2023-07-16 17:05:08
139阅读
随笔 1、分布式文件/对象存储系统目前业界比较流行的分布式存储系统如下：HDFS、OpenStack Swift、Ceph、GlusterFS、Lustre、AFS、OSS。2、分布式关系型数据库目前业界比较流行的分布式关系型数据库如下：DRDS、TiDB、GreenPlum、Cobar、Aurora、Mycat。3、分析型数据库目前业界比较流行的分析型数据库如下：Kylin、AnalyticDB
转载
2023-12-24 08:04:56
136阅读
1、传统数据存储介质分为磁带、磁盘和光盘三大类，由三种介质分别构成磁带库、磁盘阵列、光盘库三种主要存储设备，其中磁盘设备由于存取速度快、数据查询方便、简单易用、安全的RAID技术等占据一级存储市场的主要份额，磁带设备则以技术成熟、价格低廉占据二级存储市场的重要地位，光盘设备同时具有二者的特点，因此广泛应用。 ①磁带库存储：磁带存储技术已经经过了多年的发展，具有稳定、高可用、低成本等诸多优点，可以通
转载
2024-06-24 14:51:44
205阅读
数据分级存储，是指数据客体存放在不同级别的存储设备（磁盘、磁盘阵列、光盘库、磁带库）中，通过分级存储管理
软件实现数据客体在存储设备之间的自动迁移。数据迁移的规则是可以人为控制的，通常是根据数据的访问频率、保留时间、容量、性能要求等因素确定的最佳存储策略。在分级数据存储结构中，磁带库等成本较低的存储资源用来存放访问频率较低的信息，而磁盘或磁盘阵列等成本高、速度快的设备，用来存储经常
转载
2024-04-09 19:52:27
174阅读
学习某一项技术，一定要了解它的来龙去脉，才能把握到它的本质以及它的未来。一、大数据技术发展史：大数据的前世今生 在2004年，Google前后发表了三篇论文，即大数据技术的“三驾马车”：分布式文件系统GFS、大数据分布式计算框架MapReduce和NoSQL数据库系统BigTable。分别是一个文件系统、一个计算框架和一个数据库系统。其本质思路
转载
2023-12-13 22:24:44
79阅读
