“大数据”是这几年非常流行的一个词，大的互联网、电商、人工智能，还有很多传统的如金融、医疗、交通等行业，都在绞尽脑汁的通过大数据分析，来提高生产效率。对于大数据的处理，我们主要要实现几大方面的功能：数据采集、分析、存储、分布式技术、集群协调管理、机器学习。目前大数据处理方面，也出现了很多非常好的技术，主要有：Hadoop、Spark、Stom、Hive、HBase、Mongodb、ElasticS
转载
2023-07-12 12:26:31
67阅读
OLTP与OLAPOLTP（On-Line Transaction Processing）:联机事务处理过程也称为面向交易的处理过程，其基本特征是前台接收的用户数据可以立即传送到计算中心进行处理，并在很短的时间内给出处理结果，是对用户操作快速响应的方式之一。OLTP是传统的关系型数据库的主要应用，主要是基本的、日常的事务处理。数据量少，DML频繁，并行事务处理多，但是一般都很短。OLAP（On-L
大数据与互联网的结合一、互联网产业的需求二、大数据平台架构三、大数据应用--数据分析四、数据分析案例 一、互联网产业的需求1、分布式系统执行任务瓶颈：延迟高。MapReduce：几分钟，Spark：几秒钟。2、互联网产品要求：毫秒级响应(1秒以内完成)；需要通过大数据实现统计分析、数据挖掘、关联推荐、用户画像。3、大数据平台：整合网站应用和大数据系统之间的差异，将应用产生的数据导入到大数据系统，
在当前的互联网领域，大数据的应用已十分广泛，尤其以企业为主，企业成为大数据应用的主体。大数据真能改变企业的运作方式吗?答案毋庸置疑是肯定的。随着企业开始利用大数据，我们每天都会看到大数据新的奇妙的应用，帮助人们真正从中获益。大数据的应用已广泛深入我们生活的方方面面，涵盖医疗、交通、金融、教育、体育、零售等各行各业。毫无疑问，大数据的市场前景广阔，对各行各业的贡献也将是巨大的。目前来看，大数据技
转载
2023-08-09 09:53:02
91阅读
什么是大数据基本概念在互联网技术发展到现今阶段，大量日常、工作等事务产生的数据都已经信息化，人类产生的数据量相比以前有了爆炸式的增长，以前的传统的数据处理技术已经无法胜任，需求催生技术，一套用来处理海量数据的软件工具应运而生，这就是大数据！ 换个角度说，大数据是：1、有海量的数据2、有对海量数据进行挖掘的需求3、有对海量数据进行挖掘的软件工具（hadoop、spark、storm、fli
转载
2023-07-14 20:36:53
97阅读
推荐阅读：世界的真实格局分析，地球人类社会底层运行原理企业IT技术架构规划方案华为内网最火的文章：什么是内卷？不是你需要中台，而是一名合格的架构师（附各大厂中台建设PPT）【中台实践】华为...
转载
2021-06-11 09:33:08
1191阅读
# 工业互联网大数据平台创建HIVE模型教程
## 1. 概述
在工业互联网大数据平台中，HIVE是常用的数据仓库工具，用于存储和处理大规模的结构化和半结构化数据。本教程将教会你如何创建一个HIVE模型，以便能够进行数据分析和查询。
## 2. 创建HIVE模型的流程
下面是创建HIVE模型的步骤：
| 步骤 | 描述 |
| --- | --- |
| 1 | 创建数据库 |
| 2 |
原创
2023-10-19 13:56:51
35阅读
数据采集是进行大数据分析的前提也是必要条件，在整个数据利用流程中占据重要地位。数据采集方式分为三种：系统日志采集法、网络数据采集法以及其他数据采集法。随着Web2.0的发展，整个Web系统涵盖了大量的价值化数据,目前针对Web系统的数据采集通常通过网络爬虫来实现,本文将对网络大数据和网络爬虫进行系统描述。
在技术领域中最近10,000条专利中常见的关键词
不少朋友都很困惑，大数据工程师和数据分析师有什么区别，哪一个的就业好薪资高？ 首先我们来区别下大数据工程师和数据分析师： 1、概念区别 数据分析师，是数据师的一种，专门从事行业数据搜集、整理、分析，并依据数据做出行业研究、评估和预测的专业人员。 大数据工程师其实有很多别名，数据挖掘工程师、大数据专家、数据研究员、用户分析专家等都是经常在国内公司里出现的Title，大数据工程师就
大数据有很多处理工具，最流行的当属Hadoop系统。Hadoop生态包括HDFS, HBase, Hive, YARN, Storm, Spark, Zookeeper等系列工具。整个大数据平台中往往还有Kafka, Redis等类似的消息队列、缓存软件。这些软件较好的解决了通用大数据问题，但是物联网、车联网、工业互联网等场景的数据有其独特性，如果充分利用这些独特之处，可以推出一个专有的物联网大数
转载
2022-07-04 09:38:49
587阅读
产业互联网平台的搭建及运营，是一个类似私域流量的互联网平台，并对此平台分配单独的二级域名，单独的入口，让彼此企业的业务不冲突。从技术上来说，这是一种SAAS（软件即服务）的软件架构，也是现在互联网上比较火的基于SAAS的租户平台系统，从使用者的角度看，通过那些二级域名（租户）进入系统后，只能看到此二级域名（租户）下的数据，看不到其他租户系统的数据。那么，我们要做的产业互联网平台，可以看到是一个租户
转载
2023-09-27 13:20:41
86阅读
什么是网关随着互联网的快速发展，当前以步入移动互联、物联网时代。用户访问系统入口也变得多种方式，由原来单一的PC客户端，变化到PC客户端、各种浏览器、手机移动端及智能终端等。同时系统之间大部分都不是单独运行，经常会涉及与其他系统对接、共享数据的需求。所以系统需要升级框架满足日新月异需求变化，支持业务发展，并将框架升级为微服务架构。“API网关”核心组件是架构用于满足此些需求。很多互联网平台已基于网
转载
2023-07-30 18:25:57
88阅读
程序员的成长之路互联网/程序员/技术/资料共享关注阅读本文大概需要 17 分钟。作者：文西最近公司招聘海外后端研发，所...
转载
2020-06-21 00:00:00
592阅读
最近公司招聘海外后端研发，所以整理一份技术栈的资料给他们，但是想来这份整理也适用于所有后端研发，所以去掉了敏感内容，把它呈现于此。 本文重在概述，毕竟篇幅有限，欢迎「关注」，后续可能把单点拓展成文，详细地一一阐述，另外笔者见识有限，毕竟也没有可能在所有大厂工作过，所以如果有疏漏可以在留言处赐教。 目 ...
转载
2021-09-28 21:40:00
219阅读
2评论
最近公司招聘海外后端研发，所以整理一份技术栈的资料给他...
转载
2021-08-16 16:13:40
136阅读
互联网业务数据分析?Chap1 数据指标体系与建模方法?一、常用的数据指标数据可以分为三类：用户数据、行为数据、业务数据(描述业务本身的发展)1.用户数据1.1 DAU MAUDAU（Daily Active User）：单日活跃用户量，反应产品短期用户活跃度一个自然日
Tips： 跨时区的产品，就是考虑24hMAU（Monthly Active User）：单月活跃用户量，反应产品长期
软件结构：C/S结构：全称为Client/Server结构，是指客户端和服务器结构，常见程序有QQ等B/S结构：全称为Browser/Server结构，是指浏览器和服务器结构，常见浏览器有谷歌等 网络通信协议：对数据的传输格式、传输速率、传输步骤等做了统一规定，通信双方必须同时遵守才能完成数据交换TCP/IP协议：传输控制协议/因特网互联协议，是internet最基本、最广泛的协议。他定
