https://v.qq.com/x/page/u053229kzk6.html 大数据平台内容数据源往往是在业务系统上，大多数做数据分析的时候，不会直接对业务的数据源进行处理，这时就需要数据采集。采集到数据之后，基于数据源的特点把这些数据存储下来。最后根据存储的位置做数据分析和处理。整个大的生态圈的核心就是数据采集、数据存储和数据分析。数据源的特点数据源的特点决定了数据采集与数据存储的技术选型。
原创
2021-05-06 22:51:03
1997阅读
摘要本次分享将结合多个大数据项目与产品研发的经验，探讨如何基于不同的需求场景搭建通用的大数据平台。内容涵盖数据
原创
2022-05-27 06:49:21
1797阅读
1. 概述 Shell是一个命令行解释器，它为用户提供了一个向Linux内核发送请求以便运行程序的界面系统级程序，用户可以用Shell来启动、挂起、停止甚至是编写一些程序。 Shell还是一个功能相当强大的编程语言，易编写、易调试、灵活性强。Shell是解释执行的脚本语言，在Shell中可以调用Li ...
转载
2021-07-26 10:56:00
223阅读
2评论
大数据技术总结大纲概念应用难题技术栈大数据架构1. 数据收集Sqoop/CanalFlumeKafka2. 数据存储HDFSHBaseKudu3. 分布式协调与资源管理ZookeeperYarn4. 数据计算MapReduceSparkImpala/PrestoStormFlink5. 数据分析HivePigSparkSQLMahout/MLLibApache BeamMOLAPHadoop发行
转载
2023-12-25 19:10:37
72阅读
vscode大数据可视化运用的技术是一种重要的实践，它结合了前沿的技术工具与数据分析能力，旨在让数据以易于理解和直观的方式呈现。本文将围绕这一实践，深入探讨其背景、核心维度、特性、实战经验和深度原理，并提供选型指南。
### 背景定位
在信息技术的快速演进中，大数据的出现标志着数据处理和分析方式的根本变化。最早的可视化工具相对简单，主要依赖于静态图表。随着数据量的快速增长及计算能力的提升，大数据
戳蓝字 "大数据技术与架构" 关注我们哦！
转载
2021-06-10 21:54:18
303阅读
1.试述MapReduce和Hadoop的关系。Google公司最先提出了分布式并行编程模型MapRedece ，Hadoop是一个实现了MapReduce模式的开源的分布式并行编程框架。Google的MapReduce运行在分布式文件系统GFS上，与Google类似，HadoopMapReduce运行在分布式文件系统HDFS上。相对而言，HadoopMapReduce要比GoogleMapRed
转载
2023-10-05 22:02:40
1034阅读
戳蓝字 "大数据技术与架构" 关注我们哦！
转载
2021-06-10 21:54:17
355阅读
大数据技术的体系庞大且复杂，基础的技术包含数据的采集、数据预处理、分布式存储、NoSQL数据库、数据仓库、机器学习、并行计算、可视化等各种技术范畴和不同的技术层面。首先给出一个通用化的大数据处理框架，主要分为下面几个方面：数据采集与预处理、数据存储、数据清洗、数据查询分析和数据可视化。一、数据采集与预处理对于各种来源的数据，包括移动互联网数据、社交网络的数据等，这些结构化和非结构化的海量数据是零散
转载
2023-08-10 00:09:02
296阅读
一、 Hadoop的优化与发展1.1 Hadoop的局限对于MapReduce和HDFS【不包含其它组件】：1、抽象层次低，仍需手工编写代码完成功能2、表达能力有限，MapReduce抽象的Map和Reduce函数，在降低开发复杂度的同时，也带来了表达能力有限的问题，导致一些任务无法用Map和Reduce函数来完成3、开发者自行管理作业间的依赖关系。一个作业Job只包含Map和Reduce两个阶段
转载
2023-07-20 17:54:50
231阅读
大数据技术原理与应用学习笔记（八）本系列历史文章Hadoop再探讨Hadoop的优化与发展Hadoop1.0到Hadoop2.0不断完善的Hadoop生态系统HDFS2.0新特性HDFS HA（高可用性）HDFS FederationYARN——新一代资源管理调度框架MapReduce1.0中的缺陷YARN设计思路YARN体系结构ResourceManagerApplicationMasterN
转载
2024-02-29 10:52:29
80阅读
在香港，银行业是受高度监管的行业，并且由于竞争比大陆更为激烈，产品形态多样，所以银行运营方面的相关数据被充分分析和利用，客户的流失数据、资本金比率、存贷比等各种数据形成了银行日常管理的基础。 在香港银行业，对客户的了解程度决定了生意的成功率，银行不仅收集客户的风险承受能力、收入、工作背景、商业财务活动、理财习惯等相关数据来做分析，还通过物联网进一步了解客户的生活群体，他的朋友和伙伴之
转载
2023-12-14 14:28:40
47阅读
基于大数据挖掘----浅谈大数据与大数据挖掘一、大数据技术1.1大数据的定义大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。从某种意义上来说，大数据是为了更经济地从高频率的、大容量的、不同结构和类型的数据中获取价值而设计的新一代构架和技术。 简而言之，大数据就是数据分析的前
转载
2023-11-02 09:19:35
10阅读
Hadoop大数据技术复习资料 钟兴宇1.选择题15空，共30分。Hadoop以HDFS（Hadoop Distributed File System，Hadoop 分布式文件系统）和MapReduce（Google MapReduce 的开源实现）为核心。hadoop三种安装方式：单体，伪分布式，完全分布式Hadoop集群启动时个进程的启动顺序：namenode，datanode，secondn
转载
2023-11-16 13:38:38
186阅读
互联网产业跨越式发展，带来了无限的商机和可能。越来越多的人将目光对准了编程。很多人想要掌握一技之长，想在IT圈子中崭露头角！于是，有朋友提问！大数据和java，这两种编程语言，哪个更好？好程序员做出了如下总结，欢迎来看！ 首先，兴趣是第一老师，喜欢什么样的技术，就此开发自己相应的技能！如果你对一门技术感到无趣，那么，在后续漫长的学习中，绝对有可能半途而废！更不用提找到适合自己，且能够长久
转载
2023-08-20 13:39:20
61阅读
3.1 数据挖掘概述3.1.1 数据挖掘概念20世纪80年代末，数据挖掘（Data Mining，DM）提出。1989年，KDD 这个名词正式开始出现。1995年，“数据挖掘” 流传。从科学定义分析，数据挖掘是从大量的、有噪声的、不完全的、模糊和随机的数据中，提取出隐含在其中的、人们事先不知道的、具有潜在利用价值的信息和知识的过程。从技术角度分析，数据挖掘就是利用一系列的相关算法和技术，从大数据中
转载
2023-11-17 19:48:19
107阅读
云计算与大数据合体，能给我们带来什么？ 云计算和大数据的结合可以说是相辅相成，因为云计算为大数据提供了可以弹性扩展相对便宜的存储空间和计算资源，使得中小企业也可以像大型企业一样通过云计算来完成大数据分析。大数据是对数据进行专业化处理，最终根据我们的需要分析加工形成我们能够理解的可视化资料。 大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据的对数据进行专业化处理的过程离不开云计算
转载
2023-10-28 15:56:21
63阅读
本节书摘来异步社区《Hadoop海量数据处理：技术详解与项目实战（第2版）》一书中的第1章，第1.2节，作者： 范东来 责编： 杨海玲号查看。1.2 Hadoop和大数据在人们对云计算这个词汇耳熟能详之后，大数据这个词汇又在最短时间内进入大众视野。云计算对于普通人来说就像云一样，一直没有机会能够真正感受到，而大数据则更加实际，是确确实实能够改变人们生活的事物。Hadoop从某个方面来说，与大数据结
转载
2024-01-23 22:29:45
33阅读
2.1 Hadoop概论创始人：Doug Cutting 1.简介： 开源免费;操作简单，极大降低使用的复杂性;Hadoop是Java开发的;在Hadoop上开发应用支持多种编程语言、不限于Java； Hadoop两大核心：HDFS+MapReduceHDFS：海量数据存储MapReduce：海量数据的处理 2.起源：原本是文本搜索库，模仿谷歌的搜索引擎；融
转载
2023-05-26 14:08:20
249阅读
大数据处理，顾名思义，数据量非常大，有些可以一次处理，有些需要分割后对其进行处理。解决这类题型的第一点就是要算出其所需空间的大小；1.给定100亿个整数，设计算法找到只出现一次的整数;解题思路：有100亿个整数，一个整数4字节,共所占空间:100亿*4字节 = 10G*4 = 40G;所有整数的范围为0到42亿9千万；需要找到只出现一次的整数，那么我们就可以直接断定一个数出现的状态就有三个----
转载
2024-02-04 02:43:35
64阅读
