简介进入21世纪以来，高科技产业迅速崛起， 高科技企业、高技术产品与服务不断涌现， 互联网、移动通讯工具、发达交通工具和先进的信息技术，整个世界面貌焕然一新，原来那种企业和消费者之间信息不对称状态得到改善，沟通的渠道多元化，越来越多的跨国公司开始在全球范围进行资源整合。在这种背景下，4V营销组合论应运而生。所谓4V是指差异化（Variation）、功能化（Versatility）、附加价值（Val
转载
精选
2013-10-04 22:52:10
507阅读
大数据并非单指数据量之大。对于大数据，IDC的定义是：“为了更经济地从高频率获取的、大容量的、不同结构和类型的数据中获取价值，而设计的新一代架构和技术。”人们普遍将该定义概括为四个V，即更大的容量(volume，从TB级跃升至PB级，甚至EB级)、更高的多样性(variety，包括结构化、半结构化和非结构化数据)，以及更快的生成速度(velocity)。前面三个&ldquo
转载
2012-08-13 20:22:39
1378阅读
4V 理论是市场营销中的一个概念，它由四个要素组成，分别是：差异化（Variation）、功能化（Versatility）、附加价值（Value）和共鸣（Vib
文章目录Hadoop高手之路7-Hadoop的新特性一、Hadoop2.0以上新特性二、Yarn资源管理框架1. yarn体系结构2. yarn的工作流程三、HDFS的高可用HA1. HDFS的高可用（HA）架构2. 搭建Hadoop高可用HA集群1) 规划集群节点2) 环境准备3) 配置HA集群(1) 修改core-site.xml(2) 修改hdfs-site.xml(3) 修改mapred
IDC预测，全球的数据总量将在2020年达到40ZB。40ZB的数据量到底是多少呢?IDC给出了一个比喻：40ZB数据量相当于全球所有沙滩的沙粒总数的57倍。但在如此浩如烟海的数据中，只有不到1%的数据得到了有效分析。数据就像是一座沉睡的宝藏，它需要我们利用大数据这一新架构、新工具，点石成金，变废为宝。 大数据由业务驱动 为什么在官方的健康组织还没有发布健康趋势之前，Google就
推荐
原创
2013-09-01 22:09:49
1792阅读
大数据的4V，就是“容量大Volume”“多样性Variety”“价值高Value”“速度快Velocity”，以海洋为例：A.海洋中水的量非，开
原创
2023-04-19 14:19:18
1872阅读
大数据，顾名思义，就是大量的数据。更专业来说，大数据，是一种规模大到在获取、存储、管理、分析方面大大超出了传统数据
hadoop3.x搭建学习Hadoop概述什么是hadoop？1）Hadoop是一个由Apache基金会所开发的分布式系统基础架构。2）主要解决，海量数据的存储和海量数据的分析计算问题。3）广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈。Hadoop四大特点1）高可靠性：Hadoop底层维护多个数据副本，所以即使Hadoop某个计算元素或存储出现故障，也不会导致数据的丢失。
转载
2023-07-21 14:35:44
34阅读
大数据概念 大数据（Big Data）：指无法在一定时间范围内用常规软件工具进行捕捉、管理和 处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化 能力的海量、高增长率和多样化的信息资产。 按顺序给出数据存储单位：bit、Byte、 KB、MB、GB、TB、PB、EB、ZB、YB、 BB、NB、DB。 1Byte = 8bit 1K = 1024Byte 1MB = 102
原创
2022-04-28 08:48:35
392阅读
1.5 全书概览本书将较为全面地描述大数据分析的模型、技术、实现与应用。其中第2～7章介绍大数据分析模型，包括关联分析模型、分类分析模型、聚类分析模型、结构分析模型和文本分析模型；第8～11章介绍大数据分析相关的技术，包括大数据预处理、特征选择和降维方法、面向大数据的数据仓库和大数据分析算法。第12～14章介绍三种用于实现大数据分析算法的平台，分别是大数据计算平台、流式计算平台和大图计
转载
2024-01-11 13:30:27
65阅读
原创
2021-07-12 16:00:41
131阅读
前言：model对于数仓是最核心的东西，数据模型是数据组织和存储方法，模型的好坏，决定了数仓能支撑企业业务多久。为什么大多数企业，数仓都要重建，这不仅仅是业务拓展、发展迅速，很大一部分是因为模型建的很烂。01. 基本概念维度建模，是数据仓库大师Ralph Kimball提出的，是数据仓库工程领域最流行的数仓建模经典。维度建模以分析决策的需求出发构建模型，构建的数据模型为分析需求服务，因
转载
2023-08-08 12:04:39
91阅读
大数据的概念在维克托的《大数据时代》一书中提到，书中大数据指不用随机分析法，而采用所有数据进行分析处理。书中的三个思想就是：数据不是随机样本，而是全部数据;数据不是精确性，而是混杂性;数据间不是因果关系，而是相关关系。那么大数据的应用框架是这样的呢? 随着信息社会的发展，数据在不断地增长，而且是超几何的增长。特别是在浏览器端产生的数据，万亿用户的浏览数据如何进行存储和分析计算，这就是Goog
转载
2023-10-24 13:10:38
43阅读
何为大数据建模，我们从3个W（什么、为什么、如何）出发来详解下大数据建模。一、什么是数据建模（what）数据建模指的是对现实世界各类数据的抽象组织，确定数据库需管辖的范围、数据的组织形式等直至转化成现实的数据库。（个人认为，数据建模就是将现实数据关系、类别按照一套完整的方法论有映射到数据仓库里，将数据有序的、结构化存储在数据仓库里面）二、为什么要进行数据建模（why）性能：我们可以更快地查询到想要
转载
2023-09-02 17:00:06
231阅读
本文学习来源于《数据挖掘理论与技术》（电子工业出版社）数据挖掘概述数据挖掘方法可以是基于数学理论的，也可以是非数学的；可以是演绎的，也可以是归纳的。
原创
2017-03-12 17:52:02
94阅读
聊聊HDFS 大数据大数据，先解决存数据的问题，那不得不说hdfs，干什么用的呢，就是负责数据的存储。号称hadoop的大本营，即hadoop分布式文件系统。hdfs架构分为3个部分：nameNode（nn）：用于存储文件的元数据，元数据是什么举个例子：比如文件名，文件目录结构，文件的一些属性（生产时间，副本数量，文件权限）......，以及每个文件的块列表和块所在的dataNode等（一会
转载
2021-02-02 20:53:23
319阅读
2评论
机器学习AI算法工程 ：datayx随着信息通讯技术的不断发展，各行各业都产生了海量的数据，与此同时，一门新的学科应运而生—— 数据挖掘。数据挖掘是从大量数据（包括文本数据）中挖掘出隐含的、先前未知的、对决策有潜在价值的信 息、知识和关联关系，并基于这些信息和相应规则建立可用于决策支持与优化分析的模型，提供可支持预测 性决策的方法和工具。此外，数据挖...
转载
2022-11-03 14:47:13
107阅读
1、统计学理论1.1 大数定量定义： 指大量重复某一实验时，最后的频率会无限接近于事件的概率 数据的样本量越大，我们预测和计算的概率就越准确 数据的样本量越小，我们预测和计算的概率就越可能失效举例： 某产品用户还只有几百人，就用一个模型来预测用户的流失。数据量太小导致用上面模型都很难预测准确 样本量不足时，得出的预测结果是无序的，混乱的解决方法：主客观结合：深入业务，从用户的视角思考问题，广泛收集
转载
2023-09-27 17:11:02
237阅读
1.首先，在我看来，基本上根据数据的流向自底向上划分五层，跟传统的数据仓库其实很类似，数据类的系统，概念上还是相通的，分别为五个：数据采集层、数据处理层、数据分析层、数据访问层及应用层。2.数据采集层：由于数据源的多样性，很多时候我们采集的工具可能不止一个。大数据平台架构跟传统数据仓库有一个不同，就是同一层次，为了满足不同的场景，会采用更多的技术组件，体现百花齐放的特点。既包括传统的ETL离线采集
转载
2023-08-16 14:03:16
0阅读
4A系统 4A系统是统一安全管理平台解决方案，指认证Authentication、账号Account、授权Authorization、审计Audit，中文名称为统一安全管理平台解决方案。即将身份认证、授权、审计和账号（即不可否认性及数据完整性）定义为网络安全的四大组成部分，从而确立了身份认证在整个网络安全系统中的地位与作用。4A平台的管理功能包括：集中认证管理、集中账号管理、集中权限管理
转载
2023-09-22 12:14:31
212阅读
