大数据指的是海量数据的分析处理，可能是EB级的数量处理，我们之前也提到过大数据拥有4V特性，Volume（大量）、Velocity（高速）、Variety（多样）、Value（价值），对于大数据的分析处理，需要有专门设计的硬件和软件工具进行专业化处理，大数据经过收集再到清洗计算挖掘再到展现和利用，每一步可用的工具都不同，下面我们就来扒一扒大数据领域一些实用工具吧。免费好用的像八爪鱼采集类似的工具也
转载
2023-12-18 13:23:36
106阅读
大数据采集可以细分为数据抽取、数据清洗、数据集成、数据转换等过程，将分散、零乱、不统一的数据整合到一起，以一种结构化、可分析的形态加载到数据仓库中，从而为后续的数据使用奠定坚实基础。数据采集可以分为内部采集与外部采集两个方面。（1）离线数据采集技术，首先要是基于文件的数据采集系统、日志收集系统等，代表性的工具有Facebook公司开发的Scribe、Cloudera公司开发的Flume和Apach
转载
2023-08-02 16:41:54
213阅读
各个行业的业务数据都运行在关系数据库中，但是历史数据的保存，数据分析和数据挖掘，需要准实时的从关系数据库导入到分布式数据库系统中。本文介绍了利用ISFRAME实现数据收集和备份的方法。
原创
2013-06-01 18:44:35
10000+阅读
Spark SQL 官方文档 http://spark.apache.org/docs/latest/sql-programming-guide.htmlSpark SQL 官方文档-中文翻译 http://www.cnblogs.com/BYRans/p/5057110.html
原创
2021-07-06 14:23:45
240阅读
Spark SQL 官方文档 ://spark.apache.org/docs/latest/sql-programming-guide.htmlSpark SQL
原创
2022-02-04 11:12:46
189阅读
数据库分片(Sharding)?大数据目录数据库分片(Sharding)什么是数据库分片数据库分片策略比较总结前言：大数据时代，各种框架、技术栈层出不穷，基于数据的应用开发。传统的系统在业务需求不断增大的情况下，最终都需要扩容来满足流量的高速增长。首先离不开数据，在大量数据的情形下，传统的关系型数据库很难满足高并发的CRUD，分片数据库也应运而生。什么是数据库分片数据库分片也叫水平分片，将整体存储
转载
2023-07-16 20:15:36
78阅读
随着互联网的发展，大数据已经成为了一个非常热门的话题。大数据采集是大数据分析的第一步，也是非常重要的一步。本文将介绍大数据采集的基本概念、采集的方法、采集的难点以及采集的注意事项等方面，希望能够对大家有所帮助。一、大数据采集的基本概念大数据采集是指从各种数据源中获取数据的过程。这些数据源可以是互联网上的网站、社交媒体、电子邮件、移动应用程序等等。大数据采集的目的是为了收集大量的数据，以便进行分析和
转载
2023-10-27 08:14:08
134阅读
“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都处在孩子起步阶段小步前行。 一、什么是大数据 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理
转载
2023-08-09 15:14:50
81阅读
目录1、Spring整合Redis2、点赞功能3、用户收到的赞4、关注和取消关注5、关注列表、粉丝列表6、缓存登录模块1、Spring整合Redisredis有五种基本数据类型和三种高级数据类型：string、list、hash、set、zset和geospatial、hyperloglog、Bitmap。怎么用？1、配置数据库参数2、编写配置类，构造RedisTemplate3、在业务中使用Re
MapR 成立于 2009 年，是全球三大 Hadoop 开源大数据软件提供商之一，其余两家是 Cloudera 和 Hortonworks（2018两家公司已经合并）。在很长一段时间里，Hadoop 就是大数据的代名词，也是开源的大数据基础软件与平台的基础。但是 Hadoop 在具体的业务场景中还缺乏很多功能，而 Hadoop 商业化公司所做的事情就是完善这些功能，使其更好地应用于企业的业务场景
转载
2023-07-19 15:57:46
57阅读
[编程实例]360漏洞修复(绿色版)制作器 v1.0
@ECHO OFF
SETLOCAL ENABLEDELAYEDEXPANSION
color 27
mode con cols=77 lines=34
Echo.
Echo.
E
原创
2009-05-17 16:48:10
547阅读
案例一： NetCat Source：监听一个指定的网络端口，即只要应用程序向这个端口里面写数据，这个source组件就可以获取到信息。 然后用telnet协议来通过端口传递信息 flume官网中NetCat Source描述：Property Name Default Description channels – type – 组件的类型 bind – 日志需要发送到的主机名或者Ip地址，该主机
转载
2024-05-13 13:10:36
63阅读
随着信息技术的迅猛发展，大数据已经成为当今时代的重要特征和宝贵资源。在这个数据驱动的时代，大数据软件技术成为了越来越多人追逐的热点。无论是出于职业发展的需要，还是对个人技能提升的追求，报考大数据软件相关的专业认证已经成为了不少人的选择。特别是在软考（软件专业技术资格和水平考试）中，大数据软件方向的认证更是备受瞩目。
软考作为我国IT行业的重要考试之一，其大数据软件方向的认证不仅具有极高的含金量，
原创
2024-05-27 11:41:43
57阅读
对于Pandas运行速度的提升方法，之前已经介绍过很多回了，里面经常提及Dask，很多朋友没接触过可能不太了解，今天就推荐一下这个神器。1、什么是Dask？Pandas和Numpy大家都不陌生了，代码运行后数据都加载到RAM中，如果数据集特别大，我们就会看到内存飙升。但有时要处理的数据并不适合RAM，这时候Dask来了。Dask是开源免费的。它是与其他社区项目(如Numpy，Pandas和Scik
转载
2024-01-16 11:07:12
30阅读
最近做OLAP工作时一直在和kylin打交道，因为kylin相关知识比较多，所以为了加深对kylin的整体理解以及把自己的经验分享给大家，便准备周末写了该文章，正文如下1、kylin概述在讲解kylin之前，先大致说下OLAP和OLTP。OLTP也称联机事务处理，一般指面向传统关系型数据库，实时性要求比较高的事务操作。OLAP也称联机分析处理，一般指面向大数据场景的分析操作。因为二者所应对的数据体
转载
2023-08-21 11:42:58
250阅读
众所周知，现如今，大数据越来越受到大家的重视，也逐渐成为各个行业研究的重点。正所谓“工欲善其事必先利其器”，大数据想要搞的好，使用的工具必须合格。而大数据行业因为数据量巨大的特点，传统的工具已经难以应付，因此就需要我们使用更为先进的现代化工具，那么大数据常用的软件工具有哪些呢？首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。Excel是一个电子表
转载
2023-09-05 18:37:05
67阅读
一、环境准备1、安装包下载jdk1.8：://.oracle.com/java/
原创
2022-04-22 13:42:07
476阅读
一、环境准备1、安装包下载jdk1.8：https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.htmlflume1.9.0：http://flume.apache.org/download.html2、安装flume解压flume到 /usr/lcoal目录下tar zxvf apache-flume-1.9.0-bin.tar.gz -C /usr/local/创建软连接ln -s..
原创
2021-08-26 09:18:05
1339阅读
大数据面试之Hive1.Hive1.1 Hive的架构模型？1.2 Hive配置、启动和访问？1.3 hive中存放的是什么？1.5 Hive建表语句1.6 Hive内部表，外部表的区别1.7 Hive如何导入数据？1.8 Hive如何导出数据？1.9 Hive的数据倾斜1.10 Hive分区、分桶如何实现？优缺点1.11 请说明hive中Sort By、Order By、Cluster By，
转载
2024-01-22 21:48:47
43阅读
一、大数据的诞生（1）当全球互联网逐步建成（2000年左右），各大企业或政府单位拥有了海量的数据亟待处理。 （2） 基于这个前提逐步诞生了以分布式的形式（即多台服务器集群）完成海量数据处理的处理方式，并逐步发展成现代大数据体系。二、什么是大数据2.1 狭义理解技术层面的理解，使用分布式技术完成海量数据的处理，得到数据背后蕴含的价值。大数据是一类技术栈，是一种用来处理海量数据的软件技术体系。2.2
转载
2023-06-29 23:52:05
130阅读
