第一章：初识Hadoop第二章：更高效的WordCount第三章：把别处的数据搞到Hadoop上第四章：把Hadoop上的数据搞到别处去第五章：快一点吧，我的SQL第六章：一夫多妻制第七章：越来越多的分析任务第八章：我的数据要实时第九章：我的数据要对外第十章：牛逼高大上的机器学习先扯一下大数据的4V特征：数据量大，TB->PB数据类型繁多，结构化、非结构化文本、日志、视频、图片、地理位置等；
大数据预测是大数据最核心的应用，它将传统意义的预测拓展到“现测”。大数据预测的优势体现在，它把一个非常困难的预测问题，转化为一个相对简单的描述问题，而这是传统小数据集根本无法企及的。从预测的角度看，大数据预测所得出的结果不仅仅是用于处理现实业务的简单、客观的结论，更是能用于帮助企业经营的决策。1. 预测是大数据的核心价值大数据的本质是解决问题，大数据的核心价值就在于预测，而企业经营的核心也是基于预
1、键盘录入（目前只需掌握如何使用） a：导包 import java.util.Scanner; b：创建键盘录入对象 Scanner sc = new Scanner(System.in); c：调用方法接收键盘录入的数据 sc.nextInt() 接收一
转载
2024-06-23 13:39:58
63阅读
RTBDA概述当被分解到其最简单的形式时，大数据分析包括两部分，以便将自身与数据仓库和商业智能进行区分：实时行动分布式，并行处理大数据分析能够解决处理大量无关且不能存放在一个单一的服务器或数据库的数据集所带来的普遍的挑战问题。而这个问题可以通过使用分布式并行处理分布在多个服务器的大型数据集得以解决，每台服务器处理并行数据的一部分。大数据分析可以与结构化和非结构化数据工作，因为它并不需要一个特定的结
转载
2023-12-19 09:42:05
146阅读
实验任务这篇博客是我们一个学期作业，记录在这里，只是方便我写作和一些解决过程的记录。具体实验步骤参考：http://dblab.xmu.edu.cn/post/7499/ 任务如下：本地数据集上传到数据仓库Hive；Hive数据分析Hive、MySql、HBase数据互导；利用Python/R进行数据可视化分析；利用Apriori基于关联规则的购物篮分析。 本地数据集上传到数据仓库Hive实验数据
转载
2023-07-20 17:51:44
384阅读
目录 一、Hive做离线批处理1、实现步骤①、启动hadoop，启动hive②、在hive下创建weblog库，并使用③、 创建外部表管理数据④、为总表添加当天分区数据⑤、建立数据清洗表，用于清洗出业务所需的字段。⑥、业务处理⑦、创建业务表并插入数据⑧、从清洗表查询得到当天的统计指标，插入到业务表中⑨、利用Sqoop工具从HDFS上将数据导入到Mysql数据库中二、Hive的占位符与文件
Flink 入门什么是FlinkApache Flink 是为分布式、高性能、随时可用以及准确的流处理应用程序打造的开源流处理框架Flink 官网Flink 的发展历史d Flink 诞生于欧洲的一个大数据研究项目 StratoSphere。该项目是柏林工业大学的一个研究性项目。早期，Flink 是做 Batch 计算的，但是在 2014 年， StratoSphere 里面的核心成员孵化出
转载
2024-05-19 21:25:40
42阅读
## 大数据实时集群技术架构图
大数据实时集群技术架构图是指在大数据处理过程中，使用实时集群技术来实现数据处理、分析和存储的一种技术架构。这种技术架构可以帮助企业实时处理海量数据，并实现实时分析和决策。
### 技术架构图示例
以下是一个简单的大数据实时集群技术架构图示例：
```mermaid
graph TD
A[数据源] --> B(实时数据处理)
B --> C{实时存储}
C -
原创
2024-03-24 04:58:49
101阅读
#2018-07-19#1.同步集群时间2.数据导入flume使用 flume 收集 nginx 服务器的日志到 hdfs （1）配置代理[root@master1 ~]# vim /etc/flume/conf/flume.conf添加：# #配置Agenta1.sources
原创
2022-02-16 14:45:06
747阅读
背景自google发布3篇GFS,BigTable,MapReduce已过去近20年之久，市面上针对大数据治理方案也层出不穷，但大数据实时依旧是一项很难得技术。其主要表现在如下方面：（1）需求实现很难。对数据使用的用户持续增长，用户需求复杂多变，而这种复杂的需求实现又局限于目前的大数据生态，几乎没有某一个组件能解决几乎所有用户需求场景，依旧需要灵活的组合各大数据组件来实现。（2）实时存储很难。随着
转载
2024-03-04 17:23:23
91阅读
大数据分析六种方法：数字和趋势、维度分解、用户分群、转化漏斗、行为轨迹、留存分析。看数字及趋势是最基础进行展示相关数据管理信息的方法，对于谁符合一定的行为或背景资料，分类处理用户。 大数据分析方法如下： 一、数字和趋势 看数字、看趋势是最基础进行展示相关数据管理信息的方式。在数据分析中，教师可以同时通过直观的数字或趋势图表，迅速发展了解例如市场的走势、
转载
2023-10-26 22:27:36
50阅读
# Spark大数据实战教程
## 1. 介绍
本文将指导你如何在Spark中进行大数据实战。Spark是一个快速的、通用的大数据处理引擎，适用于大规模数据处理、机器学习和图形计算等场景。在本教程中，我们将介绍Spark的基本概念和使用方法，并通过一个具体的实例来展示如何使用Spark进行大数据实战。
## 2. 整体流程
下面是完成本次实战的整体流程，我们将使用一个示例数据集来进行分析和
原创
2024-01-05 04:11:46
138阅读
#2018-07-19#1.同步集群时间2.数据导入flume使用 flume 收集 nginx 服务器的日志到 hdfs （1）配置代理[root@master1 ~]# vim /etc/flume/conf/flume.conf添加：# #配置Agenta1.sources = r1a1.sinks = k1a1.channels = c1# # 配...
原创
2021-06-04 19:20:01
560阅读
HDFS简介与配置及SSH免密登录HDFS简介实验准备配置HDFS格式化hadoop手动启动：jps验证：网页验证：设置SSH免密登录操作步骤：测试免密登录：结语 HDFS简介HDFS（Hadoop Distributed File System）Hadoop分布式文件系统，是针对谷歌文件系统GFS（Google File System）的开源实现，它是Hadoop两大核心组成部分之一，提供了在
转载
2023-11-06 14:37:13
117阅读
摘要： 本文讲解一个完整的企业级大数据项目实战，实时|离线统计分析用户的搜索话题，并用酷炫的前端界面展示出来。这些指标对网站的精准营销、运营都有极大帮助。前言：本文是一个完整的大数据项目实战，实时|离线统计分析用户的搜索话题，并用酷炫的前端界面展示出来。这些指标对网站的精准营销、运营都有极大帮助。架构大致是按照企业标准来的，从日志的采集、转化处理、实时计算、JAVA后台开发、WEB前端展示，一条完
转载
2024-07-31 19:16:40
118阅读
文章目录1. 搭建环境1.1 实验环境1.2 架构模型1.3 前期准备2. 软件环境依赖部署2.1 jdk安装及配置2.2 ssh免密钥配置3. Hadoop及Zookeeper部署3.1 Hadoop安装及配置3.1.1 解压hadoop-2.6.5.tar.gz：3.1.2 修改配置文件/etc/profile:3.1.3 修改 hadoop-env.sh 和 mapred-env.sh 配
转载
2023-06-14 22:15:30
167阅读
一、实验目的 机器学习和数据挖掘算法是大数据分析处理领域的重要内容，随着数据规模的不断扩大，设计面向大数据处理的并行化机器学习和数据挖掘算法越来越有必要。通过对并行化数据挖掘算法的实现，掌握并行化处理问题的分析方法和编程思想方法，能够根据实际情况定制并行化的算法解决问题。 二、实验平台 1）操作系统：Linux（实验室版本为 Ubuntu17.04）； 2）Hadoop 版本：2.9.0； 3）J
转载
2023-10-24 08:31:05
109阅读
阿里数据人都在用的内部技术经验关注数智化转型俱乐部，数智化不迷路摘要相对于离线批处理技术，流式实时处理技术作
转载
2022-07-04 09:54:12
169阅读
简介： 相对于离线批处理技术，流式实时处理技术作为一个非常重要的技术补充，在阿里巴巴集团内被广泛使用。前言：-更多关于数智化转型、数据中台内容请加入阿里云数据中台交流群—数智俱乐部 和关注官方微信公总号（文末扫描二维码或点此加入）-阿里云数据中台官网 https://dp.alibaba.com/index来源：数智化转型俱乐部数据价值是具有时效性的，在一条数据产生的时候，如果不能及时处理并在业务
转载
2020-08-20 11:58:04
395阅读
# Java大数据实现预测性维护检测
随着工业4.0的时代到来，预测性维护（Predictive Maintenance, PdM）成为了设备管理和维护的重要手段。通过对设备数据的分析，可以提前发现潜在问题，降低故障和停机时间。使用Java和大数据技术来实现预测性维护检测，能够高效处理海量数据，实现实时监测和预测。下面，我们将通过一个简单的示例和代码来说明这一过程。
## 1. 数据收集
首
