RTBDA概述当被分解到其最简单的形式时，大数据分析包括两部分，以便将自身与数据仓库和商业智能进行区分：实时行动分布式，并行处理大数据分析能够解决处理大量无关且不能存放在一个单一的服务器或数据库的数据集所带来的普遍的挑战问题。而这个问题可以通过使用分布式并行处理分布在多个服务器的大型数据集得以解决，每台服务器处理并行数据的一部分。大数据分析可以与结构化和非结构化数据工作，因为它并不需要一个特定的结
转载
2023-12-19 09:42:05
146阅读
实验任务这篇博客是我们一个学期作业，记录在这里，只是方便我写作和一些解决过程的记录。具体实验步骤参考：http://dblab.xmu.edu.cn/post/7499/ 任务如下：本地数据集上传到数据仓库Hive；Hive数据分析Hive、MySql、HBase数据互导；利用Python/R进行数据可视化分析；利用Apriori基于关联规则的购物篮分析。 本地数据集上传到数据仓库Hive实验数据
转载
2023-07-20 17:51:44
379阅读
目录 一、Hive做离线批处理1、实现步骤①、启动hadoop，启动hive②、在hive下创建weblog库，并使用③、 创建外部表管理数据④、为总表添加当天分区数据⑤、建立数据清洗表，用于清洗出业务所需的字段。⑥、业务处理⑦、创建业务表并插入数据⑧、从清洗表查询得到当天的统计指标，插入到业务表中⑨、利用Sqoop工具从HDFS上将数据导入到Mysql数据库中二、Hive的占位符与文件
#2018-07-19#1.同步集群时间2.数据导入flume使用 flume 收集 nginx 服务器的日志到 hdfs （1）配置代理[root@master1 ~]# vim /etc/flume/conf/flume.conf添加：# #配置Agenta1.sources
原创
2022-02-16 14:45:06
747阅读
背景自google发布3篇GFS,BigTable,MapReduce已过去近20年之久，市面上针对大数据治理方案也层出不穷，但大数据实时依旧是一项很难得技术。其主要表现在如下方面：（1）需求实现很难。对数据使用的用户持续增长，用户需求复杂多变，而这种复杂的需求实现又局限于目前的大数据生态，几乎没有某一个组件能解决几乎所有用户需求场景，依旧需要灵活的组合各大数据组件来实现。（2）实时存储很难。随着
转载
2024-03-04 17:23:23
91阅读
#2018-07-19#1.同步集群时间2.数据导入flume使用 flume 收集 nginx 服务器的日志到 hdfs （1）配置代理[root@master1 ~]# vim /etc/flume/conf/flume.conf添加：# #配置Agenta1.sources = r1a1.sinks = k1a1.channels = c1# # 配...
原创
2021-06-04 19:20:01
560阅读
# Spark大数据实战教程
## 1. 介绍
本文将指导你如何在Spark中进行大数据实战。Spark是一个快速的、通用的大数据处理引擎，适用于大规模数据处理、机器学习和图形计算等场景。在本教程中，我们将介绍Spark的基本概念和使用方法，并通过一个具体的实例来展示如何使用Spark进行大数据实战。
## 2. 整体流程
下面是完成本次实战的整体流程，我们将使用一个示例数据集来进行分析和
原创
2024-01-05 04:11:46
138阅读
HDFS简介与配置及SSH免密登录HDFS简介实验准备配置HDFS格式化hadoop手动启动：jps验证：网页验证：设置SSH免密登录操作步骤：测试免密登录：结语 HDFS简介HDFS（Hadoop Distributed File System）Hadoop分布式文件系统，是针对谷歌文件系统GFS（Google File System）的开源实现，它是Hadoop两大核心组成部分之一，提供了在
转载
2023-11-06 14:37:13
117阅读
摘要： 本文讲解一个完整的企业级大数据项目实战，实时|离线统计分析用户的搜索话题，并用酷炫的前端界面展示出来。这些指标对网站的精准营销、运营都有极大帮助。前言：本文是一个完整的大数据项目实战，实时|离线统计分析用户的搜索话题，并用酷炫的前端界面展示出来。这些指标对网站的精准营销、运营都有极大帮助。架构大致是按照企业标准来的，从日志的采集、转化处理、实时计算、JAVA后台开发、WEB前端展示，一条完
转载
2024-07-31 19:16:40
118阅读
JRDW(JD Realtime Data Warehouse)是京东大数据部为了解决公司越来越广泛的实时业务需求，而推出的一整套技术解决方案，包括数据的实时接入、实时解析、实时传输、实时计算和实时查询等技术环节。通过JRDW来解决实时业务开发中各环节的技术难点，在流程上统一业务开发需求，使业务方只专注于业务开发，不用过多关心技术上的问题，极大地降低了实时业务开发的技术难度。源起京东大数据部早在2
转载
2024-01-05 20:11:55
94阅读
介绍概述 Apache Flink是一个面向数据流处理和批量数据处理的可分布式的开源计算框架，它基于同一个Flink流式执行模型（streaming execution model），能够支持流处理和批处理两种应用类型。由于流处理和批处理所提供的SLA(服务等级协议)是完全不相同， 流处理一般需要支持低延迟、Exactly-once
转载
2024-01-08 13:39:01
71阅读
一、实验目的深入理解HDFS工作原理和编程思想使用HDFS的Java接口进行文件的读写使用HDFS的Java接口进行之上传文件使用HDFS的Java接口进行之删除文件二、实验内容HDFS的Java API接口进行文件的读写操作HDFS的Java API接口进行之上传文件操作HDFS的Java API接口进行之删除文件操作三、实验步骤（一）HDFS-JAVA接口之读取文件我们要深入探索Hadoop的
转载
2023-11-30 06:18:46
180阅读
文章目录一、实验目的二、实验平台三、实验内容和要求（1） 向 HDFS 中上传任意文本文件，如果指定的文件在 HDFS 中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件（2） 从 HDFS 中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下载的文件重命名（3） 将 HDFS 中指定文件的内容输出到终端中（4） 显示 HDFS 中指定的文件的读写权限、大小、创建时间、路径等
转载
2023-10-03 11:40:22
136阅读
现如今，随着移动互联网的飞速发展，越来越多的传统企业不断从线下向线上转型，面对互联网的虚拟性与多元性等特点，为有效的预防和避免网络信息诈骗风险，更好的维护企业以及个人用户的权益安全，实现用户实名注册成为企业线上转型的一大难点。 为助力企业转型，三种不同的实名认证接口： 1、手机号实名认证API： 手机号实名认证相信大家都不陌生，最初的线上实名认证是当用户申请注册时通过手机验证码确定手机号码为用户持
转载
2023-10-10 08:03:11
165阅读
1.背景介绍大数据分析是指通过对大量、多样化、高速生成的数据进行深入挖掘和分析，从中发现隐藏的模式、规律和知识的过程。在当今的数字时代，数据已经成为企业和组织的重要资产，大数据分析成为提取数据价值的关键手段。1.1 大数据的发展与应用大数据的发展与互联网、人工智能、物联网等技术的发展密切相关。随着互联网的普及和人工智能技术的进步，数据的产生和收集速度和量得到了大幅提升。同时，数据的类型也变得更加多
ClickHouse大数据实战课程，本课程基于ClickHouse最新稳定版本进行讲解，着重讲解ClickHouse大数据技术理论与实战。课程全面包含ClickHouse核心概念、ClickHouse架构设计、ClickHouse数据实时查询、MergeTree表引擎底层原理、ClickHouse集群部署、ClickHo
原创
2021-12-06 14:50:34
900阅读
第2章 相关技术和理论基础1. Spark简介Spark研发自伯克利大学AMP实验室，是一个基于内存迭代式运算且可用于海量数据环境下的通用数据处理平台，是Apache的顶级开源项目之一。Spark旨在于提供更快的数据处理速度，更高的程序开发效率，更好的程序构建体验。Spark有如下主要特性：运行速度快：Spark使用DAG执行引擎以支持循环数据流与内存计算，从本质上提高了运行速度。容易
大数据实时分析
原创
2023-02-14 10:17:29
405阅读
以上是上一季度自己对于大数据相关技术的学习总结，把之前的一些思维导图集中在一起，便于复习相关知识点。本着人人为我，我为人人的理念，分享给大家。同时，为了学习更有针对性，群友若对哪一个知识点感兴趣的，这是一个总目录，我可以把分知识点的导图分享给需要的人，我们共同讨论，一起进步。 另也将之前学到，看书，与人交流的一
原创
2018-02-27 17:24:27
4279阅读
HBase是一种基于Hadoop的分布式、可扩展的列式存储系统，广泛应用于大数据实验和实时数据处理。在本博文中，我将详细介绍如何进行HBase操作，包括环境准备、分步指南、配置详解、验证测试、排错指南及扩展应用的各个方面。
### 环境准备
在进行大数据实验的HBase操作之前，需要确保环境的准备工作完成。以下是前置依赖的安装步骤。
```bash
# 安装Hadoop
sudo apt-g
