工作了快一个月了，今天简单说一下大数据开发的整个流程。假设就以自己这个公众号为例，这样不会抽象，比较直观。1.数据源前端会对用户行为进行埋点，并上报后端服务器。埋点会记录一些信息，比如：用户 id：标记一个用户，后面可以根据这个算一段时间的 UV（独立访客），也就是 selecct count(distinct uid) from table_name where date >= t1
转载
2023-08-02 17:29:18
135阅读
java基本概念1.如果main方法被声明为private会怎样？能正常编译，但运行的时候会提示”main方法不是public的”。2.Java里的传引用和传值的区别是什么？传引用是指传递的是地址而不是值本身，传值则是传递值的一份拷贝。引用作为实参能被修改，传值则不影响原来的值3.Java的”一次编写，处处运行”是如何实现的？Java程序会被编译成字节码组成的class文件，这些字节码可以运行在任
转载
2023-09-11 09:21:14
56阅读
技术层面:数据准备技术:通过标准规范化数据表示、元数据类型和操作方式,为数据的统一存储提供基础.数据存储技术:需要制定关于分布式文件系统、数据仓库的相关标准,解决多类型数据的可靠存储问题.数据平台技术:数据平台涉及到面向服务的体系结构(SOA)、数据并行处理(MapReduce)等技术,我国在SOA标准化方面已研制了系列标准,具备了支撑大数据发展的良好基础.在数据并行处理技术发面,需要制定接口规范
原创
2021-07-28 15:30:09
578阅读
2评论
企业，组织总是在寻找一种提升卓越的技术解决方案，独立于在不同的计算平台上工作，当然也具有成本效益。基于Java的软件或应用程序可以帮助他们实现这些值。Java是独立平台之一，它是开源和最优先的技术来实现每一种应用，包括基于Web的，客户端 - 服务器，云，移动和企业应用。Java开发是需求的，现在企业正在采用 Java应用程序开发 来最大限度地减少开支，提升服务并推动企业工程和架构编程语言的创
转载
2023-05-24 14:15:48
210阅读
当学生问到如何学习大数据技术，每次口头介绍都心中清楚无法清晰讲清楚这些技术名词，简单整理给大家。大数据开发的工具与语言：编程语言（Java，python，R语言等）1、大数据离线处理架构Hadoop（基于JAVA）开源免费，懂JavaSE；2、大数据实时计算的架构storm（基于JAVA）开源免费，懂JavaSE；3、大数据内存计算Spark（基于Scala语言开发）基于JDK开发，本质是Java
转载
2023-09-01 14:25:59
114阅读
通常将大数据应用开发分为五个步骤：获取、存储、处理、访问以及编制，获取是指获取一些辅助数据，例如来自CRM、生产数据（ODS）的数据，并将其加载入分布式系统（如Hadoop）为下一环节处理做准备。存储是指对分布式文件系统（GFS）或NoSQL分布式存储系统、数据格式）、压缩和数据模型的决策。处理是指将采集的原始数据导入到大数据管理系统，并将其转化为可用于分析和查询的数据集。分析是指对已处理过的数据
原创
2022-08-09 16:28:52
472阅读
# Python 大数据应用开发入门指南
## 一、流程概述
在开始大数据应用开发之前，我们需要明确整个流程。以下是一个简化的流程表，展示了从需求分析到数据可视化的步骤：
| 步骤 | 描述 |
|--------------|----------------------------|
| 1. 需求分析 | 理解用户需求和数据来
原创
2021-11-08 20:30:00
357阅读
Java已经在技术领域工作了20多年，成为最“热爱仇恨”的技术。如果仔细观察各种编程语言，操作系统和数据库，过去几年几乎没有什么变化。随着具有大数据和物联网的新技术空间的发展，我们可以看到很多进步。但是，Java仍然是Java开发人员许多大数据工具的支柱。实际上，它非常适合大数据，因为Java开发人员的大数据工具的一些核心模块是用Java编写的。更有趣的是，Java开发人员的大多数这些大数据工具都
转载
2023-08-14 20:29:43
116阅读
FusionInsight大数据开发 Flink应用开发
转载
2021-04-06 13:39:00
163阅读
2评论
sorl应用开发 要求： Solr简介 Solr概念体系-总述常见术语： Config Set:Solr Core提供一组配置文件 , Core:即Solr Core ， Shard：Collection的逻辑分片 Replice：Shard下的实际存储索引的一个副本，与Core对应 Leader：
转载
2019-07-26 17:10:00
78阅读
2评论
HDFS应用开发 HDFS(Dadoop Distributed File System) HDFS概述 高容错性 高吞吐量 大文件存储 HDFS架构包含三部分 HDFS数据写入流程 HDFS应用开发方式 HDFS Client Java/shell/Web UI Kerbors控制 HDFSJav
转载
2019-06-11 21:12:00
112阅读
2评论
HBase应用开发 HBase的定义 HBase是一个高可靠、高性能、面向列、可伸缩的分布式存储系统。 适合于存储大表数据，可以达到实时级别。 利用Hadoop HDFS 作为其文件存储系统，提供实时的读写的数据库系统。 利用ZooKeeper作为协同服务。 HBase架构 HBase的适用场景 海
转载
2019-06-12 16:03:00
155阅读
2评论
Hive应用开发 了解Hive的基本架构原理 掌握JDBC客户端开发流程 了解ODBC客户端的开发流程 了解python客户端的开发流程 了解Hcatalog/webHcat开发接口 掌握Hive开发规则 1. 了解Hive的基本架构原理 守护进程： HiveServer（Thrift/Compil
转载
2019-07-26 17:06:00
145阅读
2评论
目录1 构建Maven Project2 应用入口：SparkContext3 编程实现：WordCount4 编程实现：TopKey5 Spark 应用提交5.1 应用提交语法5.2 基本参数配置5.3 Driver Program 参数配置5.4 Executor 参数配置5.5 官方案例6 应用打包运行
原创
2021-05-04 23:58:12
227阅读
# 大数据应用开发技术架构
## 概述
在大数据时代，开发者需要了解大数据应用开发技术架构，以便能够有效地处理和分析海量数据。本文将介绍大数据应用开发技术架构的流程和每一步需要做的事情，并提供相应的代码示例。
## 流程图
下表展示了大数据应用开发技术架构的主要步骤。
| 步骤 | 操作 |
| ---- | ---- |
| 1. 数据采集 | 从各种数据源收集、清洗和转换数据 |
| 2
原创
2023-11-12 09:07:11
48阅读
你想过自己的未来规划吗？java大数据程序员只需要学到技术就行吗？1.如何成为大数据工程师Java开发是IT行业的经典岗位，行业当中存在普遍的需求，Web开发、Android开发、游戏开发等基本上Java语言是主力队伍。而进入大数据时代，Java又在大数据方向上有了用武之地，又该如何进行成长路线规划。在Java程序界流行着一种默认的说法叫黄金5年，也就是一个程序员从入职的时候开始算起，前五年的选择
转载
2023-06-29 22:32:03
96阅读
1、student 是表名，name 是 student 表中的字段，以下 SQL 语句中，不正确的是哪个？（ C）A.select name from student;B.select c.name from student c;C.select student.name from student c;D.select name from student c;解析：使用表别名后，查询字段不能使用
转载
2023-12-23 07:46:00
75阅读
一、数据采集面试题1. Flume 使用场景？线上数据一般主要是落地（存储到磁盘）或者通过 socket 传输给另外一个系统，这种情况下，你很难推动线上应用或服务去修改接口，实现直接向 kafka里写数据，这时候你可能就需要 flume 这样的系统帮你去做传输。2. Flume 丢包问题？单机 upd 的 flume source 的配置，100+M/s 数据量，10w q
原文链接：http://click.aliyun.com/m/14001/MaxCompute（原ODPS）是阿里云自主研发的分布式大数据处理平台，为用户提供了开放的编程接口和 SDK，允许用户在其强大灵活的存储和计算能力之上开发自己的数据应用和系统，创造更大的价值。 为了能让这一过程更加顺畅高效，随着 MaxCompute 2.0 的发布，我们提供了 MaxCompute Studio，一套基于
转载
2017-03-14 18:45:37
1734阅读
