“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都处在孩子起步阶段小步前行。 一、什么是大数据 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理
转载
2023-08-09 15:14:50
81阅读
MapR 成立于 2009 年，是全球三大 Hadoop 开源大数据软件提供商之一，其余两家是 Cloudera 和 Hortonworks（2018两家公司已经合并）。在很长一段时间里，Hadoop 就是大数据的代名词，也是开源的大数据基础软件与平台的基础。但是 Hadoop 在具体的业务场景中还缺乏很多功能，而 Hadoop 商业化公司所做的事情就是完善这些功能，使其更好地应用于企业的业务场景
转载
2023-07-19 15:57:46
57阅读
随着信息技术的迅猛发展，大数据已经成为当今时代的重要特征和宝贵资源。在这个数据驱动的时代，大数据软件技术成为了越来越多人追逐的热点。无论是出于职业发展的需要，还是对个人技能提升的追求，报考大数据软件相关的专业认证已经成为了不少人的选择。特别是在软考（软件专业技术资格和水平考试）中，大数据软件方向的认证更是备受瞩目。
软考作为我国IT行业的重要考试之一，其大数据软件方向的认证不仅具有极高的含金量，
原创
2024-05-27 11:41:43
57阅读
对于Pandas运行速度的提升方法，之前已经介绍过很多回了，里面经常提及Dask，很多朋友没接触过可能不太了解，今天就推荐一下这个神器。1、什么是Dask？Pandas和Numpy大家都不陌生了，代码运行后数据都加载到RAM中，如果数据集特别大，我们就会看到内存飙升。但有时要处理的数据并不适合RAM，这时候Dask来了。Dask是开源免费的。它是与其他社区项目(如Numpy，Pandas和Scik
转载
2024-01-16 11:07:12
30阅读
最近做OLAP工作时一直在和kylin打交道，因为kylin相关知识比较多，所以为了加深对kylin的整体理解以及把自己的经验分享给大家，便准备周末写了该文章，正文如下1、kylin概述在讲解kylin之前，先大致说下OLAP和OLTP。OLTP也称联机事务处理，一般指面向传统关系型数据库，实时性要求比较高的事务操作。OLAP也称联机分析处理，一般指面向大数据场景的分析操作。因为二者所应对的数据体
转载
2023-08-21 11:42:58
250阅读
众所周知，现如今，大数据越来越受到大家的重视，也逐渐成为各个行业研究的重点。正所谓“工欲善其事必先利其器”，大数据想要搞的好，使用的工具必须合格。而大数据行业因为数据量巨大的特点，传统的工具已经难以应付，因此就需要我们使用更为先进的现代化工具，那么大数据常用的软件工具有哪些呢？首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。Excel是一个电子表
转载
2023-09-05 18:37:05
67阅读
大数据面试之Hive1.Hive1.1 Hive的架构模型？1.2 Hive配置、启动和访问？1.3 hive中存放的是什么？1.5 Hive建表语句1.6 Hive内部表，外部表的区别1.7 Hive如何导入数据？1.8 Hive如何导出数据？1.9 Hive的数据倾斜1.10 Hive分区、分桶如何实现？优缺点1.11 请说明hive中Sort By、Order By、Cluster By，
转载
2024-01-22 21:48:47
43阅读
上面搜索是新功能，大家可以体验看看在数据科学计算、机器学习、以及深度学习领域，Python 是最受欢迎的语言。Python 在数据科学领域，有非常丰富的包可以选择，numpy、scipy、pandas、scikit-learn、matplotlib。但这些库都仅仅受限于单机运算，当数据量很大时，比如50GB甚至500GB的数据集，这些库的处理能力都显得捉襟见肘，打开都很困难了，更别说分析了。本文向
转载
2023-07-27 15:04:17
48阅读
在现如今，在处理数据基础操作上大多时候采用awk以及java程序即可。但突然有百万级数据需要处理,通过awk则发生无法匹配,采用java处理很慢,起码在1天以上，当另辟奇径采用采用python来处理时,结果速度有了质的提升，下面就由容大教育python培训老师给大家分享下如何快速使用python处理大数据。1、安装python第一步首先下载python软件，在开始里面找到python的exe,点击
转载
2023-07-03 23:38:36
69阅读
Hadoop是较早用于处理大数据集合的分布式存储计算基础架构，通过Hadoop，用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的为例执行告诉运算和存储。简单来说，Hadoop是一个平台，在它之上，可以更容易地开发和运行大规模数据的软件。01 Hadoop 概述Hadoop体系也是一个计算框架，在这个框架下，可以使用一种简单的编程模式，通过多台计算机构成的集群，分布式处理大数据
转载
2023-08-16 00:02:36
147阅读
一、大数据的诞生（1）当全球互联网逐步建成（2000年左右），各大企业或政府单位拥有了海量的数据亟待处理。 （2） 基于这个前提逐步诞生了以分布式的形式（即多台服务器集群）完成海量数据处理的处理方式，并逐步发展成现代大数据体系。二、什么是大数据2.1 狭义理解技术层面的理解，使用分布式技术完成海量数据的处理，得到数据背后蕴含的价值。大数据是一类技术栈，是一种用来处理海量数据的软件技术体系。2.2
转载
2023-06-29 23:52:05
130阅读
大数据相关软件安装 1. nginx 安装 2. 3.
原创
2021-08-04 16:53:12
258阅读
作为一个数据可视化行业的小白，在尝试用数据可视化软件制作大屏时总会有各种各样的问题，一是大多数数据可视化软件都要高价购买，试错成本太高，二是有些可视化软件操作难度太大，对新手小白太不友好，所以今天就盘点几款市面上比较火的数据可视化软件的优缺点，以及适合什么样的人去使用，希望对大家在选择时有一些帮助。1.山海鲸可视化 山海鲸可视化是一款主打数字孪生技术的软件，虽然主打数字孪生技术，但在做可
商业智能的应用在国外已广为普及，并且开始不断应用大数据和云技术。而国内，商业智能BI工具在这几年才开始慢慢被接受，企业开始有意识地建立一体化数据分析平台，为经营决策提供分析。近几年，商业智能的几大趋势：对于大数据更好的支持，对海量数据块的快速响应，各大商业智能软件基本都支持了hadoop 作为数据库；可视化分析的重要性，也日益明显，比如国内的亿信华辰跟国外的Tableau，QLK， PowerBI
转载
2023-08-27 18:23:50
350阅读
1 jdk
yum install lrzsz 比alt+p上传文件更方便
rz 回车就可以上传文件了，上传是上传到当前目录下
解压上传的jdk
tar -zxvf jdk-7u80-linux-x64.tar.gz
配置变量
vi /etc/profile
#在文件最后添加
export JAVA_HOME=/root/apps/jdk1.7.0_80
export PATH=$
转载
2018-12-23 18:49:00
68阅读
2评论
下载链接(待定)
原创
2021-08-04 16:53:13
186阅读
考虑到现有技术解决方案的复杂性与多样化，企业往往很难找到适合自己的大数据收集与分析工具。然而，混乱的时局之下已经有多种方案脱颖而出，证明其能够帮助大家切实完成大数据分析类工作。下面我们将整理出一份包含十款工具的清单，从而有效压缩选择范畴。数据已经成为现代化企业中最为重要的宝贵资源。一切决策、策略或者方法都需要依托于对数据的分析方可实现。随着“大数据分析”逐步替代其上代版本，即“商务智能”，企业正面
转载
2017-09-11 13:06:00
273阅读
系统规划与管理师综合知识真题考点：大数据应用
1、互联网和电子商务行业：主要应用是用户行为分析，研究对象用户在互联网、移动互联网上的访问日志、用户主体信息，从而挖掘潜在客户进行精准推广。
●用户日志—般包括这几类数据：网站日志、搜索引擎日志、用户浏览日志、用户主体数据、外界环境数据。
2、电信/金融：
3、政府：
4、医疗
5、制造
各行业在大数据应用上的契合度如下图所示
转载
2023-11-16 13:37:27
89阅读
大数据时代的软考挑战
随着大数据技术的迅猛发展，软件行业对专业人才的需求日益旺盛。大数据软件专业作为新兴的学科领域，正逐渐成为软考（软件专业技术资格和水平考试）的热点和难点。在这个数据驱动的时代，掌握大数据相关技术，不仅能为个人职业发展打开新的大门，更是企业转型升级的关键所在。因此，越来越多的软件专业人士将目光投向了大数据软件专业，希望通过软考这一权威认证，提升自己的专业素养和竞争力。
大数
原创
2024-06-13 12:48:47
52阅读
在当下这个快速发展的信息化时代，对于企业经营来讲，掌握一些大数据分析软件工具来支持经营决策也是至关重要的。2019年商业数据分析软件有哪些呢？本文列出了市面上最主要的几款数据分析软件。1.FineBI目前国内数据分析的佼佼者。FineBI是新一代自助式BI工具,企业客户多、服务范围广, 多维OLAP分析是BI工具分析功能的集中体现，凭借FineBI简单流畅的操作、强劲的大数据性能和自助式的分析体验
转载
2023-12-29 23:26:21
0阅读
