“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都处在孩子起步阶段小步前行。 一、什么是大数据 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理
转载
2023-08-09 15:14:50
72阅读
MapR 成立于 2009 年，是全球三大 Hadoop 开源大数据软件提供商之一，其余两家是 Cloudera 和 Hortonworks（2018两家公司已经合并）。在很长一段时间里，Hadoop 就是大数据的代名词，也是开源的大数据基础软件与平台的基础。但是 Hadoop 在具体的业务场景中还缺乏很多功能，而 Hadoop 商业化公司所做的事情就是完善这些功能，使其更好地应用于企业的业务场景
转载
2023-07-19 15:57:46
44阅读
抓取PC软件数据是一项常见的任务，Python作为一种强大的编程语言，可以帮助我们轻松地完成这项任务。在本文中，我们将介绍如何使用Python抓取PC软件数据，并提供相应的代码示例。
## 什么是PC软件数据？
PC软件数据指的是存储在计算机上的关于软件的各种信息，例如软件名称、版本号、发布日期、开发者、下载链接等。抓取PC软件数据意味着从互联网上获取这些信息，并将其保存到本地或进行进一步的处
原创
2023-09-11 04:55:53
544阅读
随着信息技术的迅猛发展，大数据已经成为当今时代的重要特征和宝贵资源。在这个数据驱动的时代，大数据软件技术成为了越来越多人追逐的热点。无论是出于职业发展的需要，还是对个人技能提升的追求，报考大数据软件相关的专业认证已经成为了不少人的选择。特别是在软考（软件专业技术资格和水平考试）中，大数据软件方向的认证更是备受瞩目。
软考作为我国IT行业的重要考试之一，其大数据软件方向的认证不仅具有极高的含金量，
对于Pandas运行速度的提升方法，之前已经介绍过很多回了，里面经常提及Dask，很多朋友没接触过可能不太了解，今天就推荐一下这个神器。1、什么是Dask？Pandas和Numpy大家都不陌生了，代码运行后数据都加载到RAM中，如果数据集特别大，我们就会看到内存飙升。但有时要处理的数据并不适合RAM，这时候Dask来了。Dask是开源免费的。它是与其他社区项目(如Numpy，Pandas和Scik
一、Scrapy Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中。。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。 二、PySpider pyspider 是一个用python实现的功能强大的网络爬虫系统，能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时
众所周知，现如今，大数据越来越受到大家的重视，也逐渐成为各个行业研究的重点。正所谓“工欲善其事必先利其器”，大数据想要搞的好，使用的工具必须合格。而大数据行业因为数据量巨大的特点，传统的工具已经难以应付，因此就需要我们使用更为先进的现代化工具，那么大数据常用的软件工具有哪些呢？首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。Excel是一个电子表
转载
2023-09-05 18:37:05
46阅读
最近做OLAP工作时一直在和kylin打交道，因为kylin相关知识比较多，所以为了加深对kylin的整体理解以及把自己的经验分享给大家，便准备周末写了该文章，正文如下1、kylin概述在讲解kylin之前，先大致说下OLAP和OLTP。OLTP也称联机事务处理，一般指面向传统关系型数据库，实时性要求比较高的事务操作。OLAP也称联机分析处理，一般指面向大数据场景的分析操作。因为二者所应对的数据体
转载
2023-08-21 11:42:58
224阅读
大数据面试之Hive1.Hive1.1 Hive的架构模型？1.2 Hive配置、启动和访问？1.3 hive中存放的是什么？1.5 Hive建表语句1.6 Hive内部表，外部表的区别1.7 Hive如何导入数据？1.8 Hive如何导出数据？1.9 Hive的数据倾斜1.10 Hive分区、分桶如何实现？优缺点1.11 请说明hive中Sort By、Order By、Cluster By，
Hadoop是较早用于处理大数据集合的分布式存储计算基础架构，通过Hadoop，用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的为例执行告诉运算和存储。简单来说，Hadoop是一个平台，在它之上，可以更容易地开发和运行大规模数据的软件。01 Hadoop 概述Hadoop体系也是一个计算框架，在这个框架下，可以使用一种简单的编程模式，通过多台计算机构成的集群，分布式处理大数据
转载
2023-08-16 00:02:36
131阅读
一、大数据的诞生（1）当全球互联网逐步建成（2000年左右），各大企业或政府单位拥有了海量的数据亟待处理。 （2） 基于这个前提逐步诞生了以分布式的形式（即多台服务器集群）完成海量数据处理的处理方式，并逐步发展成现代大数据体系。二、什么是大数据2.1 狭义理解技术层面的理解，使用分布式技术完成海量数据的处理，得到数据背后蕴含的价值。大数据是一类技术栈，是一种用来处理海量数据的软件技术体系。2.2
转载
2023-06-29 23:52:05
89阅读
在现如今，在处理数据基础操作上大多时候采用awk以及java程序即可。但突然有百万级数据需要处理,通过awk则发生无法匹配,采用java处理很慢,起码在1天以上，当另辟奇径采用采用python来处理时,结果速度有了质的提升，下面就由容大教育python培训老师给大家分享下如何快速使用python处理大数据。1、安装python第一步首先下载python软件，在开始里面找到python的exe,点击
转载
2023-07-03 23:38:36
57阅读
上面搜索是新功能，大家可以体验看看在数据科学计算、机器学习、以及深度学习领域，Python 是最受欢迎的语言。Python 在数据科学领域，有非常丰富的包可以选择，numpy、scipy、pandas、scikit-learn、matplotlib。但这些库都仅仅受限于单机运算，当数据量很大时，比如50GB甚至500GB的数据集，这些库的处理能力都显得捉襟见肘，打开都很困难了，更别说分析了。本文向
转载
2023-07-27 15:04:17
42阅读
大数据相关软件安装 1. nginx 安装 2. 3.
原创
2021-08-04 16:53:12
249阅读
商业智能的应用在国外已广为普及，并且开始不断应用大数据和云技术。而国内，商业智能BI工具在这几年才开始慢慢被接受，企业开始有意识地建立一体化数据分析平台，为经营决策提供分析。近几年，商业智能的几大趋势：对于大数据更好的支持，对海量数据块的快速响应，各大商业智能软件基本都支持了hadoop 作为数据库；可视化分析的重要性，也日益明显，比如国内的亿信华辰跟国外的Tableau，QLK， PowerBI
转载
2023-08-27 18:23:50
295阅读
1 jdk
yum install lrzsz 比alt+p上传文件更方便
rz 回车就可以上传文件了，上传是上传到当前目录下
解压上传的jdk
tar -zxvf jdk-7u80-linux-x64.tar.gz
配置变量
vi /etc/profile
#在文件最后添加
export JAVA_HOME=/root/apps/jdk1.7.0_80
export PATH=$
转载
2018-12-23 18:49:00
56阅读
2评论
下载链接(待定)
原创
2021-08-04 16:53:13
170阅读
一致性简述一致性，是指对每个节点一个数据的更新，整个集群都知道更新，并且是一致的。假设一个具有N个节点的分布式系统，当其满足以下条件时，我们说这个系统满足一致性：全认同: 所有N个节点都认同一个结果值合法: 该结果必须由N个节点中的过半节点提出可结束: 决议过程在一定时间内结束，不会无休止地进行下去面临着的问题消息传递异步无序: 现实网络不是一个可靠的信道，存在消息延时、丢失，节点间消息传
原创
2022-01-24 15:15:52
155阅读
一致性简述一致性，是指对每个节点一个数据的更新，整个集群都知道更新，并且是一致的。假设一个具有N个节点的分布式系统，当其满足以下条件时，我们说这个系统满足一致性：全认同: 所有N个节点都认同一个结果值合法: 该结果必须由N个节点中的过半节点提出可结束: 决议过程在一定时间内结束，不会无休止地进行下去面临着的问题消息传递异步无序: 现实网络不是一个可靠的信道，存在消息延时、丢失，节点间消息传递做不到
原创
2021-02-02 10:25:03
228阅读
一致性简述一致性，是指对每个节点一个数据的更新，整个集群都知道更新，并且是一致的。假设一个具有N个节点的分布式系统，当其满足以下条件时，我们说这个系统满足一致性：全认同: 所有N个节点都认同一个结果值合法: 该结果必须由N个节点中的过半节点提出可结束: 决议过程在一定时间内结束，不会无休止地进行下去面临着的问题消息传递异步无序: 现实网络不是一个可靠的信道，存在消息延时、丢失，节点间消息传递做不到同步有序节点宕机: 节点持续宕机，不会恢复节点宕机恢复: 节点宕机一段时间后恢复，
原创
2021-05-29 08:17:51
1155阅读
