一、什么是大数据？大数据是不能用传统的计算技术处理的大型数据集的集合。它不是一个单一的技术或工具，而是涉及的业务和技术的许多领域。 二、大数据的数据类型：大数据包括体积庞大，高流速和可扩展的各种数据。它的数据为三种类型。结构化数据：关系数据。半结构化数据：XML数据。非结构化数据：Word, PDF, 文本，媒体日志。 三、大数据两大技术：
操作大数据 这些包括像MongoDB系统，提供
转载
2024-04-09 19:52:32
89阅读
出处：http://kb.cnblogs.com/page/510978/ 相关文章： 大数据架构和模式（二）——如何知道一个大数据解决方案是否适合您的组织 大数据架构和模式（三）——理解大数据解决方案的架构层 大数据架构和模式（四）——了解用于大数据解决方案的原子模式和复合模式 大数据架构和模式（五）——对大数据问题应用解决方案模式并选择实
转载
精选
2015-01-29 22:56:17
538阅读
目前国内外做大数据的厂商依旧分为两类：一类是现在已经有获取大数据能力的公司，他们打算利用自身优势地位冲击大数据领域，将现有安装基础及产品线口碑推广到新一轮技术浪潮当中。如IBM、微软、谷歌、亚马逊、百度、腾讯、阿里巴巴等互联网巨头以及华为、浪潮、中兴等国内领军企业，涵盖了数据采集，数据存储，数据分析，数据可视化以及数据安全等领域;另一类则是初创的大数据公司，他们依赖于大数据工具，针对市场需求，为市
转载
2023-07-10 15:43:03
294阅读
数据分级存储，是指数据客体存放在不同级别的存储设备（磁盘、磁盘阵列、光盘库、磁带库）中，通过分级存储管理
软件实现数据客体在存储设备之间的自动迁移。数据迁移的规则是可以人为控制的，通常是根据数据的访问频率、保留时间、容量、性能要求等因素确定的最佳存储策略。在分级数据存储结构中，磁带库等成本较低的存储资源用来存放访问频率较低的信息，而磁盘或磁盘阵列等成本高、速度快的设备，用来存储经常
转载
2024-04-09 19:52:27
174阅读
# 大数据挖掘中的分类技术
在当今社会，大数据已经成为一种重要的资源。企业、政府和科研机构都在努力挖掘数据中的价值。大数据挖掘涵盖了许多技术和方法，其中“分类”是一个关键的技术。本文将介绍大数据挖掘中的分类，包含代码示例以及图示，帮助大家更好地理解这一概念。
## 什么是分类
分类是一种监督学习的过程，目的是根据已标记的训练数据为新的、未知的数据实例分配分类标签。常见的分类方法包括决策树、支
原创
2024-10-23 06:06:04
77阅读
按照大数据应用层次划分，可以把大数据相关技术分为数据收集、数据存储、资源管理、计算框架、数据分析和数据展示这六类，各类代表性组件如下图：
原创
2021-09-28 19:52:16
3898阅读
点赞
1评论
大数据是通过高速捕捉、发现和分析，从大容量数据中获取价值的一种新的技术架构。有四个"V"字开头的特征：Volume（体量大），Velocity（速度快），Variety（种类杂），Value（价值大）。Volume是指大数据巨大的 ... 当“大数据”铺天盖地般向我们
转载
2023-09-22 21:12:43
82阅读
数据分析之决策树ID3算法什么是分类算法？ 分类算法跟之前的聚类都是让不同对象个体划分到不同的组中的。但是分类不同之处在于类别在运算之前就已经是确定的。 分类是根据训练数据集合，结合某种分类算法，比如这篇讲的ID3算法来生成最终的分类规则，这样当提供一个对象的时候我们可以根据它们的特征将其划分到某个分组中。 决策树ID3算法是分类中的经典算法，决策树的每一层节点依照某一确定程度比较高的属性向
转载
2024-01-16 15:34:50
55阅读
大数据的应用开发过于偏向底层，具有学习难度大，涉及技术面广的问题，这制约了大数据的普及。现在需要一种技术，把大数据开发中一些通用的，重复使用的基础代码、算法封装为类库，降低大数据的学习门槛，降低开发难度，提高大数据项目的开发效率。 大数据在工作中的应用有三种：与业务相关，比如用户画像、风险控制等； 与决策相关，数据科学的领域，了解统计学、算法，这是数据科学家的范畴；
转载
2023-10-03 08:10:56
193阅读
当前的大数据系统架构主要有两种：一种是MPP数据库架构，另一种就是Hadoop体系的分层架构。这两种架构各有优势和适合的场景。另外随着光纤网络通信技术的发展，大数据系统架构正在向着存储与计算分离的架构和云化架构方向发展。 Hadoop体系的分层架构解读见：大数据系统架构——Hadoop体系本文从并行硬件架构的发展讲起，进一步介绍基于并行硬件架构的数据库一体机系统与基于MPP架构的数据库软件系统。
转载
2023-08-15 13:19:39
154阅读
如何跟一个非相关性的人解释你是做大数据的，你是做大数据的哪一部分工作，从求职者角度，如何从jd描述中估摸大概率做哪一块，从猎头角度，如何从一份简历中看出你更匹配哪个jd1.相关技术大数据开发的技术名词无非是下面几种，Hadoop,Hive,Spark,Kafka,Sqoop,Flink,Oozie,Hbase,hue但是大数据架构根据每个厂的基础建设不同，可能会有不同的方案，但是总的流程是大致一致
转载
2021-04-07 13:47:20
796阅读
2评论
博客：大数据分类算法深度解析1. 背景大数据的快速增长带来了更多的机会和挑战。分类算法作为机器学习的基石之一，在处理大规模数据时变得尤为重要。其目标是根据已知的数据集，将新数据分配到预定义的类别中。2. 特征提取与预处理在分类算法中，特征提取是非常关键的一步。特征是从原始数据中提取的具有代表性的信息，用于描述数据的属性和特性。有效的特征提取可以帮助算法更好地理解数据，提高分类模型的性能。2.1 数
原创
精选
2024-01-15 08:39:13
1592阅读
# 使用Python进行商品大数据分类的指南
在这个数据驱动的时代，商品大数据的分类对零售和电商行业至关重要。对于刚入行的新手来说，了解流程和关键技术是非常重要的。本文将带你从零开始，实现一个商品大数据分类系统。
## 整体流程
在开始之前，我们首先要明确整个流程。如下表所示，我们将使用四个主要步骤来实施商品分类。
| 步骤 | 描述 |
|------
原创
2024-11-01 08:39:49
341阅读
一.业务分析此次案例中，我们面临的业务需求时，有一张mysql表里存储了千万级别的数据，每次业务流程结束，这张表中就会增加至少8万条数据，而我们的系统要做的就是把这些数据按不同的需求统计展示，在代码中有大量的复杂计算和复杂sql语句，，并且该系统的业务会经常发生变化，这让整个系统变得缓慢和难以维护，即使在使用redis作为我们的缓冲层，也无法很好的解决查询效率问题，毕竟第一次加载真的太慢了，在面临
转载
2024-06-06 11:25:35
30阅读
大数据入门知识总结一、大数据部门及流程二、数据仓库1、数据仓库的基本概念2、数据仓库的主要特征3、数据仓库与数据库区别5、数据仓库——ETL三、Hadoop——HDFS分布式存储系统1、Hadoop简介2、HDFS、Yarn、MapReduce3、Hadoop集群搭建4、HDFS的概述5、HDFS的Shell命令6、HDFS的基准测试四、Hive1、什么是Hive2、Hive的特点3、Hive架
转载
2023-08-30 12:38:46
137阅读
各位好：回首10年多的科研工作历程，也是中国经济高速发展的10多年，中国高铁、核电、航空、互联网、云计算、大数据、人工智能等领域无不铭刻着“中国名片”，这就是科技是第一生产力的实践验证！12年前，获得北邮计算机工学硕士后信心满满的踏上了科研之路，一干就是十多年，有苦有泪有艰辛，但收获的是一种为国防科技发展能奉献和敢担当的责任感。今天，更一次站在了移动互联网这个朝阳产业的跑道上，和诸多大数据和人工智
转载
2024-06-25 10:08:17
31阅读
1、传统大数据架构优点缺点使用场景简单，易懂，对于BI系统来说，基本思想没有发生变化，变化的仅仅是技术选型，用大数据架构替换掉BI的组件1、没有BI下如此完备的Cube架构，虽然目前有kylin，但是kylin的局限性非常明显，远远没有BI下的Cube的灵活度和稳定度，因此对业务支撑的灵活度不够， 2、存在大量报表，或者复杂的钻取的场景，需要太多的手工定制化 3、同时该架构依旧
转载
2023-08-16 19:14:45
88阅读
Lambda架构Lambda架构提供了一个结合实时数据和Hadoop预先计算（离线计算批处理层）的数据环境的混合平台， 以提供一个实时的数据试图。分层架构：批处理层（离线处理数据），实时处理层（与批处理层数据采集点击和访问的行为），服务层（收集用户信息等）：把批处理曾的数据进行处理，进行前端的互动。一 批处理层：通过HDFS进行数据的存储，然后mapreduce进行计算(也可换成可用spark计算
转载
2023-08-30 06:50:17
177阅读
随着公司业务的增长，大量和业务、流程、规则相关的半结构化数据也爆发式增长。但数据分散在公司的各个系统中，如何将它们汇总并形成统一的企业级数据仓库，使企业灵活，高效的运用成了难题。如需将分散的各个底层数据汇总则需建立完整的体系，支撑风控的大数据框架则是重中之重。拥有5000万+注册用户；13亿+设备标签；100亿+行为数据；1500万+行业关注名单等海量多维数据的拍拍信则是从这几个方面落实：1. 数
转载
2023-07-10 22:07:48
94阅读
何谓五横，基本还是根据数据的流向自底向上划分五层，跟传统的数据仓库其实很类似，数据类的系统，概念上还是相通的，分别为数据采集层、数据处理层、数据分析层、数据访问层及应用层。同时，大数据平台架构跟传统数据仓库有一个不同，就是同一层次，为了满足不同的场景，会采用更多的技术组件，体现百花齐放的特点，这是一个难点。具体见下图示例，这张图是比较经典的，也是妥协的结果，跟当前网上很多的大数据架构图都可以作一定
转载
2023-08-16 17:47:49
97阅读
