一.业务分析此次案例中，我们面临的业务需求时，有一张mysql表里存储了千万级别的数据，每次业务流程结束，这张表中就会增加至少8万条数据，而我们的系统要做的就是把这些数据按不同的需求统计展示，在代码中有大量的复杂计算和复杂sql语句，，并且该系统的业务会经常发生变化，这让整个系统变得缓慢和难以维护，即使在使用redis作为我们的缓冲层，也无法很好的解决查询效率问题，毕竟第一次加载真的太慢了，在面临
转载
2024-06-06 11:25:35
30阅读
数据量不断增加，企业需要灵活快速地处理这些数据。处理器主频和散热遇到瓶颈，多核处理器成为主流，并行化计算应用不断增加。开源软件的成功使得大数据技术得以兴起。互联网技术的发展让大多数企业能够积累大量的数据，而企业需要灵活快速地从这些数据中提取出有价值的信息来服务用户或帮助企业自身决策。然而处理器的主频和散热遇到了瓶颈，CPU难以通过纵向优化来提升性能，所以多核这种横向扩展成为了主流。也因此，开发者需
转载
2021-03-29 22:14:04
235阅读
背景数据量不断增加，企业需要灵活快速地处理这些数据。处理器主频和散热遇到瓶颈，多核处理器成为主流，并行化计算应用不断增加。开源软件的成功使得大数据技术得以兴起。互联网技术的发展让大多数企...
转载
2021-06-11 09:31:26
408阅读
大数据分析--淘宝美食产品数据分析一、选题背景随着网络技术的不断发展，大数据技术影响着人们生活的方方面面，人们可以利用大数据技术从海量的数据中提取有价值的信息。并且现在是一个信息爆炸的时代，我们可以通过电商购物平台网站购买商品，所以说电商平台对商品信息传播的作用不可忽视。各大电商平台商品评论中携带大量信息，如果浏览大量评论会浪费很多时间，所以对评论文本关键信息整合变得尤为重要。为了选择出自己喜欢的
转载
2023-07-17 19:51:45
212阅读
# 大数据平台主流技术架构
随着互联网的迅猛发展，数据量呈指数级增长。大数据技术应运而生，旨在解决数据存储、处理和分析的各种挑战。在这些技术中，主流架构通常包括数据采集、存储、处理和可视化四个部分。本文将具体阐述大数据平台的主要技术架构，并提供代码示例。
## 1. 数据采集
数据采集是大数据平台的第一步，通常使用工具如 **Apache Nifi** 或 **Kafka**。这些工具能够实
原创
2024-10-07 03:16:09
147阅读
背景
数据量不断增加，企业需要灵活快速地处理这些数据。
处理器主频和
转载
2022-06-16 15:53:24
519阅读
大数据分析是现在十分火热的话题，从农业到工业、从金融到体育、从传统企业到初创公司，各行各业都在积极应用大数据分析，似乎你的企业不和大数据沾点边就会显得没有逼格一样。随着大数据分析的持续走红，大数据分析工具也呈现出了遍地开花的态势，我们今天要说的Hadoop就是其中之一。Hadoop是Apache开发的一个开源项目，短短几年的时间，我们就见证了Hadoop从无到有、从简陋到稳定的转变。目前Hadoo
转载
2023-07-24 09:19:04
51阅读
废话不多说先上图 大数据开发常见框架数据传输组件：①Kafka是用Scala编写的分布式消息处理平台。②Logstash是用JRuby编写的一种分布式日志收集框架。③Flume是用Java编写的分布式实时日志收集框架。数据存储组件：HDFS (Hadoop Distributed File System)用Java编写，是谷歌的GFS（Google File S ystem）的一种
转载
2023-07-20 21:08:44
893阅读
EMC Isilon：横向扩展 性能突出大数据存储不是一类单独的产品，它有很多实现方式。EMC Isilon存储事业部总经理杨兰江概括说，大数据存储应该具有以下一些特性：海量数据存储能力，可轻松管理PB级乃至数十PB的存储容量；具有全局命名空间，所有应用可以看到统一的文件系统视图；支持标准接口，应用无需修改可直接运行，并提供API接口进行面向对象的管理；读写性能优异，
原创
2014-02-28 17:53:28
3018阅读
近日，反复拜读了前国家档案局局长杨冬权先生今年6.9档案日的大作《从“选时代”到“全时代”——智慧社会档案工作的历史性转折》，作为档案信息化从业者那真是倍感振奋，壮怀激烈！ 这篇文章绝对可以用气势磅礴、高屋建瓴这样的词语来形容，体现出作者俯瞰全局的站位和洞悉全场的眼光，让笔者深深折服。但是笔者对于文中提到的“全时代”中的“立档单位对所形成电子档案的全归档”这一观点还是存在不同
原创
2023-02-14 10:52:21
177阅读
现实世界的数据常常是不完全的、有噪声的、不一致的。数据清洗过程包括遗漏数据处理，噪声数据处理，以及不一致数据处理。本节介绍数据清洗的主要处理方法。遗漏数据处理假设在分析一个商场销售数据时，发现有多个记录中的属性值为空，如顾客的收入属性，则对于为空的属性值，可以采用以下方法进行遗漏数据处理。1）忽略该条记录若一条记录中有属性值被遗漏了，则将此条记录排除，尤其是没有类别属性值而又要进行分类数据挖掘时。
转载
2024-08-27 16:04:35
138阅读
1.背景随着数据量的暴增和数据实时性要求越来越高，以及大数据技术的发展驱动企业不断升级迭代，传统数仓经历了以下发展过程：传统数仓架构 -> 离线大数据架构 -> Lambda架构 -> Kappa架构 -> 新一代实时数仓。（大部分网上文章最后一个时代竟然写的是Unifield混合架构，笔者非常不赞同，因为Unifield加了机器学习、IOTA架构加了物联网边缘计算的概念。
转载
2023-08-09 23:50:59
309阅读
In Memory Data Grid （IMDG） 内存数据网格被视为处理迅速、多样和大数据量的大数据的一种方式。将数据存储到内存中，并使其分布到多个服务器上，该方法的目的是更容易获取数据、改进其可扩展性和更好地进行数据分析。该方法早期的使用者仅包括Google、 Facebook 和 Twitter这样的互联网巨头，但是专家称现在该方法逐步成为主流。康涅狄格州斯坦福德市的Gartner公司称，
转载
2023-01-04 11:02:31
319阅读
SQL数据库是一种非常有用的数据库，但随着数据规模的不断增长以及数据模型的日益复杂，关系型数据库已经出现很多不适应的场景，NoSQL凭借易扩展、大数据量和高性能以及灵活的数据模型成功的在数据库领域站稳了脚跟，对于NoSQL的拥护者，更提倡运用非关系型的数据存储。下面一起来看看主流NoSQL数据库系统的对比：1、NoSQL数据库的种类（1）临时性键值存储数据库：Memcached、Redis（2）永
转载
2024-03-04 23:36:00
42阅读
MapReduce编程模型的提出为大数据分析和处理开创了一条先河，其后涌现出一批知名的开源大数据技术。
原创
2022-12-09 21:30:30
1541阅读
点赞
mysql基本架构图如图所示：MySQL 可以分为 Server 层和存储引擎层两部分
（1）Server 层包括连接器、查询缓存、分析器、优化器、执行器等，涵盖 MySQL 的大多数核心服务功能，以及所有的内置函数（如日期、时间、数学和加密函数等），
所有跨存储引擎的功能都在这一层实现，比如存储过程、触发器、视图等。
（2）存储引擎层负责数据的存储和提取。其架构模式是插件式的，支持 InnoDB
转载
2023-06-30 20:14:45
54阅读
个人学习总结大数据平台是为了计算，现今社会所产生的越来越大的数据量，以存储、运算、展现作为目的的平台。大数据技术是指从各种各样类型的数据中，快速获得有价值信息的能力。适用于大数据的技术，包括大规模并行处理（MPP）数据库，数据挖掘电网，分布式文件系统，分布式数据库，云计算平台，互联网，和可扩展的存储系统。
原创
2021-01-10 20:46:02
1052阅读
个人学习总结
大数据平台是为了计算，现今社会所产生的越来越大的数据量，以存储、运算、展现作为目的的平台。大数据技术是指从各种各样类型的数据中，快速获得有价值信息的能力。适用于大数据的技术，包括大规模并行处理（MPP）数据库，数据挖掘电网，分布式文件系统，分布式数据库，云计算平台，互联网，和可扩展的存储系统。
原创
2021-07-26 17:31:58
1414阅读
个人学习总结大数据平台是为了计算，现今社会所产生的越来越大的数据量，以存储、运算、展现作为目的的平台。大数据技术是指从各种各样类型的数据中，快速获得有价值信息的能力。适用于大数据的技术，包括大规模并行处理（MPP）数据库，数据挖掘电网，分布式文件系统，分布式数据库，云计算平台，互联网，和可扩展的存储系统。...
原创
2022-03-09 10:21:39
897阅读
一、大数据关键技术 大数据特点：4V，数据量大、数据类型多、处理速度快、价值密度低。 大数据的关键技术包括：数据采集、 数据存储和管理、 数据的分析和处理、数据的隐私和安全。其中，分布式存储和分布式处理是大数据技术的核心。 大数据计算模式： 批处理计算 &
