上面搜索是新功能，大家可以体验看看在数据科学计算、机器学习、以及深度学习领域，Python 是最受欢迎的语言。Python 在数据科学领域，有非常丰富的包可以选择，numpy、scipy、pandas、scikit-learn、matplotlib。但这些库都仅仅受限于单机运算，当数据量很大时，比如50GB甚至500GB的数据集，这些库的处理能力都显得捉襟见肘，打开都很困难了，更别说分析了。本文向
转载
2023-07-27 15:04:17
48阅读
教你搭建自己的大数据分布式计算系统环境 随着大数据的热度与市场需求不断提升，学习大数据的小伙伴越来越多，然而，大家的个人电脑平时可能都用做了打游戏，看剧，逛论坛，没有配置过一套适合于学习大数据的环境，于是乎感叹万事开头难。今天，数据科学君就带大家打开大数据世界的大门，手把手教大家在自己的电脑中配置Hadoop+Spark+Mysql，当然，还有Python3+Jupyter
转载
2024-03-07 23:02:06
61阅读
首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。 Excel是一个电子表格软件，相信很多人都在工作和学习的过程中，都使用过这款软件。Excel方便好用，容易操作，并且功能多，为我们提供了很多的函数计算方法，因此被广泛的使用，但它只适合做简单的统计，一旦数据量过大，Excel将不能满足要求。 SPSS和SAS都是商业统计才会用到的软件，为我们提供了经典的统计分析处
转载
2023-09-25 09:16:58
53阅读
“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都处在孩子起步阶段小步前行。 一、什么是大数据 大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理
转载
2023-08-09 15:14:50
81阅读
数据就是资产。大数据工程师是现在十分火热、高薪的职位。做大数据开发和分析不仅要用到Java，Python也是最重要的语言。 那么，今天我们就来分析一下，Python之于大数据的意义和作用。什么是大数据？大数据(big data)，指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信
转载
2023-09-20 22:51:16
93阅读
在大数据领域，Hadoop是一个非常重要的工具，可以帮助我们存储和处理海量数据。接下来，我将详细介绍如何使用Hadoop来处理大数据。
首先，让我们来看一下整个流程，我将使用表格展示每一个步骤及其需要做的事情。
| 步骤 | 内容 |
| ---- | ------------------------------ |
| 1 | 安装H
原创
2024-05-30 09:59:54
91阅读
MapR 成立于 2009 年，是全球三大 Hadoop 开源大数据软件提供商之一，其余两家是 Cloudera 和 Hortonworks（2018两家公司已经合并）。在很长一段时间里，Hadoop 就是大数据的代名词，也是开源的大数据基础软件与平台的基础。但是 Hadoop 在具体的业务场景中还缺乏很多功能，而 Hadoop 商业化公司所做的事情就是完善这些功能，使其更好地应用于企业的业务场景
转载
2023-07-19 15:57:46
57阅读
https://mirrors.cloud.te
原创
2023-02-02 09:57:53
890阅读
# 大数据软件架构及其代码示例
随着数据量的爆炸性增长，大数据技术已成为当今信息技术领域的一大热点。本文将介绍典型的大数据软件架构，并通过代码示例和图形展示，帮助读者更好地理解大数据架构的组成和工作方式。
## 大数据软件架构概述
大数据软件架构通常包括数据采集、数据存储、数据处理和数据分析四个主要部分。这些部分相互协作，共同完成对大数据的处理和分析任务。
### 数据采集
数据采集是大
原创
2024-07-30 10:47:55
38阅读
随着信息技术的迅猛发展，大数据已经成为当今时代的重要特征和宝贵资源。在这个数据驱动的时代，大数据软件技术成为了越来越多人追逐的热点。无论是出于职业发展的需要，还是对个人技能提升的追求，报考大数据软件相关的专业认证已经成为了不少人的选择。特别是在软考（软件专业技术资格和水平考试）中，大数据软件方向的认证更是备受瞩目。
软考作为我国IT行业的重要考试之一，其大数据软件方向的认证不仅具有极高的含金量，
原创
2024-05-27 11:41:43
57阅读
对于Pandas运行速度的提升方法，之前已经介绍过很多回了，里面经常提及Dask，很多朋友没接触过可能不太了解，今天就推荐一下这个神器。1、什么是Dask？Pandas和Numpy大家都不陌生了，代码运行后数据都加载到RAM中，如果数据集特别大，我们就会看到内存飙升。但有时要处理的数据并不适合RAM，这时候Dask来了。Dask是开源免费的。它是与其他社区项目(如Numpy，Pandas和Scik
转载
2024-01-16 11:07:12
30阅读
最近做OLAP工作时一直在和kylin打交道，因为kylin相关知识比较多，所以为了加深对kylin的整体理解以及把自己的经验分享给大家，便准备周末写了该文章，正文如下1、kylin概述在讲解kylin之前，先大致说下OLAP和OLTP。OLTP也称联机事务处理，一般指面向传统关系型数据库，实时性要求比较高的事务操作。OLAP也称联机分析处理，一般指面向大数据场景的分析操作。因为二者所应对的数据体
转载
2023-08-21 11:42:58
250阅读
众所周知，现如今，大数据越来越受到大家的重视，也逐渐成为各个行业研究的重点。正所谓“工欲善其事必先利其器”，大数据想要搞的好，使用的工具必须合格。而大数据行业因为数据量巨大的特点，传统的工具已经难以应付，因此就需要我们使用更为先进的现代化工具，那么大数据常用的软件工具有哪些呢？首先，对于传统分析和商业统计来说，常用的软件工具有Excel、SPSS和SAS。Excel是一个电子表
转载
2023-09-05 18:37:05
67阅读
疫情期间大数据技术对于疫情的防控发挥了巨大的作用，抗疫期间多家互联网企业纷纷加强大数据在疫情防控中的应用。小到社区大到部委相关部门都将大数据作为不可或缺的防疫工具，生活中很多方面涉及到大数据由此可见尤为重要。常见的大数据应用领域：1、理解客户满足客户服务需求大数据应用目前在这领域是最广为人知的。通过大数据分析更好的了解客户以及用户的爱好和行为。企业非常喜欢通过在线客服系统搜集用户社交方面的数据、浏
转载
2023-10-16 16:05:48
42阅读
软件行业随着互联网的快速发展，它的使命也在发生着改变，也正在经历着变革，当软件公司在这场变革中无法适应或是不紧跟时代步伐的话，很有可能就会被淘汰。随着5G的普及，产生的网络数据越来越多，以前我们的难点在于如何收集数据。在互联网初级阶段，我们总在想办法如何收集更多的数据，购物，娱乐，消费等等，我们建造各种各样的应用来收集数据。互联网第二个阶段，我们在互联网大数据面前变得不堪重负，于是诞生了大数据存储
转载
2023-10-03 08:17:09
86阅读
对于Pandas运行速度的提升方法，之前已经介绍过很多回了，里面经常提及Dask，很多朋友没接触过可能不是很了解，今天小编就推荐一下这个神器。1、Dask是很么？Pandas和Numpy大家都不陌生了，代码运行后数据都加载到RAM中，如果数据集特别大，我们就会看到内存飙升。但有时要处理的数据并不适合RAM，这时候Dask体现到了。Dask是开源免费。它是与其他社区项目（如Numpy，Pandas和
转载
2024-05-13 18:29:43
55阅读
Python和Java，是大数据行业最常见的两种编程语言，对于想转行大数据的人人来说，学习哪个语言是比较好的选择呢？PythonPython和大数据：Python本身的特点是高效率的开发和简单的维护，大数据运维领域也在普遍采用Python语言来编写管理脚本；Python语言目前在大数据和人工智能领域有广泛的应用，在数据科学领域，尤其是在深度学习领域，Python是常见的选择。如果要往大数据分析和大
转载
2023-08-09 15:15:32
130阅读
一 从Hadoop框架讨论大数据生态 1.1 Hadoop是什么 1）Hadoop是一个由Apache基金会所开发的分布式系统基础架构 2）主要解决，海量数据的存储和海量数据的分析计算问题。 3）广义上来说，HADOOP通常是指一个更广泛的概念——HADOOP生态圈 1.2 Hadoop发展历史 1）Lucene–Doug Cutting开创的开源软件，用java书写代码，实现与Google类似的
显卡的香气 新显卡出世了，就在前几天。可以说是万众期待下，老黄发布了消费级（民用级）显卡RTX2070、RTX2080、RTX2080TI，作为“大多数人”，不得不说在发布会即将结束的那一刻，真的很想预订一块。真的很有诱惑力啊，毕竟价格摆在那里，RTX2080TI显卡相比1080TI可是贵了许多，Founder Edition 版 京东上预订9999差不多1w了。好了，先不论价格，来简单看下其参
转载
2024-08-21 09:42:09
159阅读
只是把随时随地所思所想赶快记录下来，没有别的用意和价值一、大数据有哪些我们过去常用的数据存储是关系型数据库，因而也诞生了三大关系型数据库巨头：MSSQL、Oracle、MySQL。至于DB2、informix、Sybase另外说。大数据是从NoSQL兴起的。NoSQL最火的就是：Redis（KV型数据结构数据库，擅长存储一个ID对应一个信息，如订单ID对应订单详情）MongoDB（集合型数据结构数
转载
2024-01-14 21:24:02
98阅读
