数据库时代要说大数据的真正起源，必须得提到数据库。无论是移动互联网还是PC因特网，或者是计算机本身，背后都是一群又一群程序员写的程序，而一切程序说到底都还是对数据的处理。如果把数据处理比作一个王国的话，那这个王国的国王就是数据库。那什么是数据库呢？用最简单的话来说，就是一个用户可以把数据存储在数据库，需要的时候，用户可以告诉数据库，我需要某些数据，然后数据库会自行完成实际的数据处理过程，返回数据给
原创
2021-09-28 21:15:15
10000+阅读
点赞
2评论
如果你初来乍到，大数据看起来很吓人!根据你掌握的基本理论，让我们专注于一些关键术语以此给你的约会对象、老板、家人或者任何一个人带来深刻的印象。让我们开始吧：1.MaxCompute（原名ODPS）。由中国阿里云自主研发的大数据平台产品MaxCompute，它能提供快速、完全托管的PB级数据仓库解决方案，可以经济并高效的分析处理海量数据，为全球60个国家，180万家企业提供计算能力。https://
HBase简介
一、Hadoop的局限
HBase 是一个构建在 Hadoop 文件系统之上的面向列的数据库管理系统。
要想明白为什么产生 HBase，就需要先了解一下 Hadoop 存在的限制？Hadoop 可以通过 HDFS 来存储结构化、半结构甚至非结构化的数据，它是传统数据库的补充，是海量数据存储的最佳方法，它针对大文件的存储，批量访问和流式访问都做了优化，同时也通过多副本解决了容灾问题
大数据简介
概念
对于“大数据”（Big data）研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
根据维基百科的定义，大数据是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。
特点
IBM提出了大数据”5V”特点：1. Volume：数据量大，包括采集、存储和计算的
原创
2021-07-16 11:07:25
461阅读
大数据概论和职业规划Linux服务器系统Hadoop概论HDFS分布式文件系统Hive数据仓库SparSQL指令Zepplin框架Sqoop框
原创
2023-04-23 12:24:49
174阅读
一、大数据概论大数据（bigdata）：指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。最小的基本单位是bit，按顺序给出所有单位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。1Byte=8bit1K=1024bit1MB=1024K1G=1
原创
2021-11-20 10:03:22
10000+阅读
一、概念： 1、海量数据的储存 2、海量数据的分析计算二、特点(4V) 1、大量 2、高速 3、多样 4、低价值密度
原创
2021-07-14 14:06:26
222阅读
一、大数据简介
1、基础概念
大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据技术则主要用来解决海量数据的存储和分析。2、特点分析
大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Ver
推荐
原创
2022-08-12 09:12:23
643阅读
一、大数据简介1、基础概念大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据技术则主要用来解决海量数据的存储和分析。2、特点分析大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。3、发展过程Google在2004年前后发表的三篇论文，分别是文件系统G
原创
2021-06-08 10:00:11
688阅读
本文源码：GitHub·点这里||GitEE·点这里一、大数据简介1、基础概念大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据技术则主要用来解决海量数据的存储和分析。2、特点分析大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Varie
原创
2020-09-15 09:12:47
801阅读
一、Hadoop的局限
HBase 是一个构建在 Hadoop 文件系统之上的面向列的数据库管理系统。
要想明白为什么产生 HBase，就需要先了解一下 Hadoop 存在的限制？Hadoop 可以通过 HDFS 来存储结构化、半结构甚至非结构化的数据，它是传统数据库的补充，是海量数据存储的最佳方法，它针对大文件的存储，批量访问和流式访问都做了优化，同时也通过多副本解决了容灾问题。
但是 Had
核心功能数据集成离线/实时数据同步复杂网络环境下，对丰富异构类型数据源高效稳定的移动和同步能力数据开发对MaxCompute中的数据进行加工 (SQL，UTF，Graph，MR)、分析与发掘（数据分析、数据挖掘）等处理从而发现其价值数据应用对MaxCompute数据加工处理后，应用各种场景，如数据提取、数据交互、数据报表、数据分析数据服务提供为企业搭建统一的数据服务总线，帮助企业统一管理对内外的A
转载
2024-01-02 14:55:50
54阅读
无限的（infinite/never-ending）数据4）贴有标签的数据 同时我们还要学习不同的计算模型：1）MapReduce算法2）流和在线（Streams and Online）算法3）Single machine in-memory 然后，还要学习解决现实中的问题，像：1）推荐系统2）关联规则3）链接分析4）重复检测等等。 还要学习各种“工具"
转载
2013-09-30 22:00:00
368阅读
2评论
目录1 NIFI简介2 NIFI核心概念3 NIFI构架3.1 网络服务器3.2 流控制器3.3 扩展3.4 FlowFile存储库3.5 内容存储库3.6 源头存储库 1 NIFI简介Apache NiFi 是一个易于使用，功能强大且可靠的系统，用于处理和分发数据。可以自动化管理系统间的数据流。它支持高度可配置的指示图的数据
原创
2021-10-07 12:00:50
767阅读
目录1 数据抽取2 数据转换3 数据加载 1 数据抽取ETL（Extract-Transform-Load）是将数据从端经过抽取（extract）、转换（transform）、加载 （load）⾄⽬的端的过程。从数据源抽取出所需要的原始数据，经过数据清洗，最终将清洗后的数据加 载到数据仓库中去。也称为数据仓库技术。数据源通过采集的⽅式获取， 保存到数据仓库通过数据清洗，处理
原创
2021-10-06 20:12:43
1353阅读
第一部分：Hive简介 什么是Hive •Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。 •本质是将SQL转换为MapReduce程序 第二部分：为什么使用Hive 面临的问题 人员学习成本太高 项目周期要求太短 我只是需要一个简单的
原创
2021-07-23 14:23:50
272阅读
6.1 Java基础面试指导: 以下精选了一些大数据面试中常问的Java问题，大数据开发使用的语言最多的是Java,所以在面试中会被问到一些Java核心的问题，需要能够回答。 其中，Java基础是关于Java的一些基础问题，必须能够回答。多线程和JVM是大数据面试中常问的一些问题，需要能够回答出核心内容。6.1.1
转载
2023-09-03 09:13:40
46阅读
架构挑战1、对现有数据库管理技术的挑战。2、经典数据库技术并没有考虑数据的多类别（variety）、SQL（结构化数据查询语言），在设计的一开始是没有考虑到非结构化数据的存储问题。3、实时性技术的挑战：一般而言，传统数据仓库系统，BI应用，对处理时间的要求并不高。因此这类应用通过建模，运行1-2天获得结果依然没什么问题。但实时处理的要求，是区别大数据应用和传统数据仓库技术、BI技术的关键差别之一。
转载
2024-05-21 07:24:59
90阅读
大数据概述： 大数据的发展历程：第一阶段：萌芽期（20世纪90年代至21世纪初） 第二阶段：成熟期（21世纪前十年） 第三阶段：大规模应用期（2010年以后） 大数据的特点（简称4V）：数据量大 数据类型多 处理速度快 价值密度低 大数据的特征：全面而非抽样 效率而非精确 相关而非因果 在科学研究上的四种范式： 实验科学、理论科学、计算科学、数据密集型科学大数据技术 主要包括数据采集与预处理、数据
转载
2023-11-16 09:55:28
135阅读
看过来！！！2017年，大数据已经从概念走向落地；2019年，中低端IT工程师紧随浪潮加速向大数据转型，企业对大数据人才争夺直接进入白热化阶段。因此，对于想学IT技术的、想月入过万不是梦的人而言，我建议，直接选择学习大数据技术是符合潮流和就业需求的选择。一、大数据是什么？1、大数据简介一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的
转载
2024-05-08 10:47:21
192阅读
